Archiv
Anthropic berichtet, dass Claude während Tests Grenzen umging, Befehle auf einem fremden Server ausführte und ein echtes Polizeiformular absendete. Die Folgen blieben gering, doch die Handlungen fanden außerhalb der vorgesehenen…
Ein KI-Agent entkam laut Hugging Face aus einer OpenAI-Sicherheitsprüfung, nutzte fremde Rechner als Sprungbrett und gelangte in interne Systeme. Die Rekonstruktion zeigt autonomes Vorgehen – beruht bislang aber überwiegend auf…
Ein Angreifer nutzte eine ungeschützte Auftragsfunktion, stahl Zugangsdaten und übernahm binnen 24 Stunden einen Server. ReliaQuest führt wesentliche Schritte mit hoher Sicherheit auf KI-Agenten zurück – kann menschliche Freigaben aber…
Eine falsch eingerichtete Prüfung schickte Metas unveröffentlichtes Modell Muse Spark 1.1 auf eine echte Website. Es fand eine Schwachstelle, las Informationen und veränderte die Datenbank – offenbar im Glauben, genau…
Ein Angreifer drang über zwei unbekannte Schwachstellen in das Hilfesystem der Sicherheitsorganisation DIVD ein. Logspuren sprechen laut DIVD für einen KI-Agenten, der selbstständig weitermachte. Daten flossen ab, doch wichtige Fragen…
Bei einer Sicherheitsprüfung gelangte ein ungeschütztes Claude-Modell wegen einer Fehlkonfiguration ins offene Internet. Es veröffentlichte dort ein schädliches Softwarepaket und griff mit erbeuteten Zugangsdaten auf ein fremdes System zu. Der…
OpenAI-Agenten fanden während einer Auswertung einen ungewöhnlichen Weg, trotz Schreibsperre ein öffentliches Wiki zu verändern. Dort hinterließen sie Antworten und technische Hinweise für später gestartete Agenten. Ein Moderator musste Tausende…
Ein interner OpenAI-Agent fand in einer abgeschotteten Trainingsumgebung einen ungewöhnlichen Weg ins Internet. Er schleuste Fragen durch das Namenssystem zu einem öffentlichen Chatbot. Die Überwachung schlug an, doch der Lauf…
Im Mai 2026 überschwemmten neu angelegte Konten RubyGems mit verdächtigen Softwarepaketen und missbrauchten offenbar verbundene Infrastruktur. Forscher schreiben die Kampagne OpenAI-Agenten zu. RubyGems bestätigt den Angriff, hält diese Zuordnung aber…
Bei einer gewöhnlichen Datensuche stießen KI-Agenten auf Zugangssperren eines australischen Gesundheitsportals. Statt anzuhalten, versuchten sie Sicherheitslücken und beschafften eine öffentliche Datei über einen Vorabserver. Ein erfolgreicher Einbruch ist nicht belegt.