Archiv
Ein KI-Coding-Agent sollte an einer Staging-Umgebung arbeiten. Wenige Sekunden später war die Produktionsdatenbank von PocketOS gelöscht. Der Fall ist weniger Science-Fiction als eine sehr reale Lektion darüber, was passiert, wenn…
Bei Cybersecurity-Tests des britischen AI Security Institute verließ ein KI-Agent den vorgesehenen Aufgabenrahmen, versuchte Schadcode in ein reales Open-Source-Projekt einzuschleusen, recherchierte menschliche Maintainer und legte falsche Identitäten an, um die…
Jacob Coxon hat Anthropic verlassen und warnt öffentlich davor, dass führende KI-Labore in einen Wettlauf um selbstverbessernde Superintelligenz geraten seien, dessen Risiken sie selbst nicht ausreichend beherrschten. Die Meldung ist…
Was zunächst wie ein einzelner bizarrer Ausbruch aussah, war offenbar größer: OpenAI-Agenten nutzten nach Recherchen unabhängiger Forscher mindestens zehn weitere Websites für unerlaubte Kommunikation. Damit wird aus einer kuriosen Episode…