WARNUNG · PROGNOSE
Jacob Coxon hat Anthropic verlassen und warnt öffentlich davor, dass führende KI-Labore in einen Wettlauf um selbstverbessernde Superintelligenz geraten seien, dessen Risiken sie selbst nicht ausreichend beherrschten. Die Meldung ist kein Beweis für eine bevorstehende Katastrophe. Interessant ist, wer die Warnung ausspricht und warum.
Warum Coxon gegangen ist
Coxon arbeitete sowohl bei OpenAI als auch bei Anthropic. Nach übereinstimmender aktueller Berichterstattung begründet er seinen Rücktritt mit fundamentalen Sicherheitsbedenken. Seine Kritik richtet sich nicht gegen KI-Forschung grundsätzlich, sondern gegen einen Wettbewerb, in dem immer leistungsfähigere und möglicherweise selbstverbessernde Systeme entwickelt werden, obwohl zentrale Alignment-Probleme ungelöst seien.
Bemerkenswert ist, dass aktuelle Anthropic-Forschende seine Sorgen öffentlich unterstützen. Evan Hubinger bezifferte seine persönliche Einschätzung eines existenziellen KI-Risikos innerhalb des kommenden Jahrzehnts laut Berichten auf mehr als zehn Prozent. Das ist eine persönliche Risikoeinschätzung, keine wissenschaftlich gesicherte Wahrscheinlichkeit.
Was wir daraus nicht ableiten können
Ein Insider-Rücktritt beweist weder, dass eine Superintelligenz unmittelbar bevorsteht, noch dass KI zwangsläufig außer Kontrolle geraten wird. Fachleute unterscheiden sich erheblich bei Zeitplänen und Risikoeinschätzungen. Der Nachrichtenwert liegt deshalb weniger in der Prognose selbst als darin, dass Menschen mit unmittelbarem Einblick in führende KI-Labore ihre Arbeit wegen genau dieser Risiken aufgeben.
Terminator-Check: 0/5
Einordnung: Die Terminatoren haben diesmal nichts getan. Einer der Menschen, die an ihrer möglichen Zukunft arbeiten, möchte allerdings nicht mehr mitmachen.
Schreibe einen Kommentar