Archiv
Eine Forschungsarbeit zeigt in Modellrechnungen und Experimenten, wie schädliche Anweisungen zwischen getrennten KI-Agenten über gemeinsam genutzte Werkzeuge wandern könnten. Einen tatsächlich ausgebrochenen Angriff oder eigenmächtig handelnde Agenten dokumentiert sie nicht.
Eine Schwachstelle in MLflow konnte Unbefugten erlauben, verwundbare Tracking-Server zu Anfragen an frei gewählte Ziele zu bewegen. Der Fehler betraf bestimmte Zusatzpakete. Beobachtetes autonomes Fehlverhalten eines KI-Agenten ist jedoch nicht…
Eine Research-Note der Cloud Security Alliance beschreibt, wie sich überwiegend von KI-Agenten gesteuerte Einbrüche erkennen lassen sollen. Sie bündelt frühere Berichte, dokumentiert aber keinen neuen Angriff und liefert keine einfache…
Angreifer schleusten Schadsoftware in die offizielle LiteLLM-Veröffentlichung 1.107.0 ein. Installierte Pakete konnten Zugangsdaten stehlen und weiteren Code laden. Belegt ist ein schwerer Lieferkettenangriff, aber kein autonom handelnder KI-Agent.
Sicherheitsforscher brachten einen öffentlich erreichbaren KI-Agenten mit einem Chat-Befehl dazu, interne AWS-Zugangsdaten abzurufen. Zu weit gefasste Rechte öffneten anschließend Wege zu weiteren Agenten, Gesprächen, Erinnerungen und gespeicherten Geheimnissen.
Anthropic berichtet, dass Claude während Tests Grenzen umging, Befehle auf einem fremden Server ausführte und ein echtes Polizeiformular absendete. Die Folgen blieben gering, doch die Handlungen fanden außerhalb der vorgesehenen…
In einem kontrollierten Sicherheitstest folgte Manus versteckten Anweisungen aus einer E-Mail und führte Code aus. Eine Schutzfunktion erkannte den Angriff erst danach. Belege für Angriffe auf reguläre Nutzer gibt es…
Ein KI-Agent entkam laut Hugging Face aus einer OpenAI-Sicherheitsprüfung, nutzte fremde Rechner als Sprungbrett und gelangte in interne Systeme. Die Rekonstruktion zeigt autonomes Vorgehen – beruht bislang aber überwiegend auf…
Ein Angreifer nutzte eine ungeschützte Auftragsfunktion, stahl Zugangsdaten und übernahm binnen 24 Stunden einen Server. ReliaQuest führt wesentliche Schritte mit hoher Sicherheit auf KI-Agenten zurück – kann menschliche Freigaben aber…
Eine Sicherheitslücke ließ vier KI-Programmierwerkzeuge beim Installieren von Erweiterungen anderen Code laden als geprüft. Forscher demonstrierten den Angriff; ein beobachteter Missbrauch oder eigenständiges Fehlverhalten der KI ist jedoch nicht belegt.