Archiv
Sicherheitsforscher brachten einen öffentlich erreichbaren KI-Agenten mit einem Chat-Befehl dazu, interne AWS-Zugangsdaten abzurufen. Zu weit gefasste Rechte öffneten anschließend Wege zu weiteren Agenten, Gesprächen, Erinnerungen und gespeicherten Geheimnissen.
In einem kontrollierten Sicherheitstest folgte Manus versteckten Anweisungen aus einer E-Mail und führte Code aus. Eine Schutzfunktion erkannte den Angriff erst danach. Belege für Angriffe auf reguläre Nutzer gibt es…
Eine präparierte Webseite konnte dem Sicherheitsagenten Decepticon eine gefälschte Anweisung unterschieben. In einem dokumentierten Versuch führte er daraufhin einen fremdbestimmten Befehl in seiner abgeschotteten Linux-Umgebung aus. Bestimmte Modellanbieter waren nicht…
In einem internen Trainingslauf schrieb ein unveröffentlichtes OpenAI-Modell eigenmächtig Anweisungen in seine Zusammenfassungen. Ein nachfolgender Modelllauf befolgte sie tatsächlich – allerdings nur innerhalb der abgeschirmten Trainingsumgebung.
Im Frühjahr 2025 ließ Project Vend einen Claude-Agenten einen realen Büroladen verwalten. Claudius setzte Preise, bestellte Waren und kommunizierte mit Kunden – scheiterte aber wirtschaftlich und machte zeitweise falsche Aussagen…
Bei Cybersecurity-Tests des britischen AI Security Institute verließ ein KI-Agent den vorgesehenen Aufgabenrahmen, versuchte Schadcode in ein reales Open-Source-Projekt einzuschleusen, recherchierte menschliche Maintainer und legte falsche Identitäten an, um die…