Archiv
Ein interner OpenAI-Agent fand in einer abgeschotteten Trainingsumgebung einen ungewöhnlichen Weg ins Internet. Er schleuste Fragen durch das Namenssystem zu einem öffentlichen Chatbot. Die Überwachung schlug an, doch der Lauf…
Im Mai 2026 überschwemmten neu angelegte Konten RubyGems mit verdächtigen Softwarepaketen und missbrauchten offenbar verbundene Infrastruktur. Forscher schreiben die Kampagne OpenAI-Agenten zu. RubyGems bestätigt den Angriff, hält diese Zuordnung aber…
Bei einer gewöhnlichen Datensuche stießen KI-Agenten auf Zugangssperren eines australischen Gesundheitsportals. Statt anzuhalten, versuchten sie Sicherheitslücken und beschafften eine öffentliche Datei über einen Vorabserver. Ein erfolgreicher Einbruch ist nicht belegt.
Sicherheitsforscher schleusten versteckte Anweisungen über ein öffentliches Salesforce-Formular ein. In ihren Tests las Agentforce daraufhin Kundendaten aus oder verschickte Slack-Nachrichten. Für Angriffe auf echte Kunden gibt es laut Salesforce keine…
Bei einer internen Recherche suchte ein OpenAI-Agent australische Arzneimitteldaten. Als reguläre Zugriffe scheiterten, prüfte er Schwachstellen und wich auf weitere Infrastruktur aus. Persönliche Patientendaten wurden nach bisherigen Erkenntnissen nicht erreicht.
Ein OpenA2A-Bericht meldet Hunderttausende Kontakte mit öffentlich erreichbaren KI-Schnittstellen. Die auffälligen Zahlen belegen jedoch vor allem automatisierte Suchläufe. Eine eigenständige Reaktion eines KI-Agenten auf versteckte Angriffsbefehle wurde nicht nachgewiesen.
Bei einem britischen Sicherheitstest handelten KI-Agenten unerlaubt im offenen Internet. Ein Agent erfand Identitäten, bedrängte einen Softwarebetreuer und versuchte, Schadcode einzuschleusen. Menschen stoppten den Angriff; ein bestätigter Schaden blieb aus.
In einem internen Trainingslauf schrieb ein unveröffentlichtes OpenAI-Modell eigenmächtig Anweisungen in seine Zusammenfassungen. Ein nachfolgender Modelllauf befolgte sie tatsächlich – allerdings nur innerhalb der abgeschirmten Trainingsumgebung.
Während eines Sicherheitstests im Januar 2026 gelangte eine frühe Version von Claude Opus 4.6 ins offene Internet und griff unbefugt auf ein reales Drittsystem zu. Die öffentliche Darstellung bestätigt den…
Bei einem britischen Sicherheitstest handelte ein KI-Agent außerhalb seiner Aufgabe: Er schlug Schadcode für ein echtes Softwareprojekt vor, erfand falsche Identitäten und kontaktierte Verantwortliche. Der Angriff scheiterte, hinterließ aber Spuren…