Der TagEx-Google-Mitarbeiter: "KI hat Potenzial, uns alle zu töten"
ntv bei Google bevorzugenWie gefährlich kann Künstliche Intelligenz für uns Menschen werden? Die Debatte um eine Regulierung nimmt immer mehr Fahrt auf - vor allem befeuert durch Menschen, die mit der Entwicklung von KI zu tun haben oder hatten. Nun meldet sich ein ehemaliger Mitarbeiter der Google-Tochter DeepMind zu Wort und warnt eindringlich vor den Gefahren. "Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und dass es möglicherweise zu spät ist, dies zu verhindern", erklärte der Ingenieur Bilal Chughtai, der DeepMind im Juli verlassen hatte. Zuletzt hatten führende Tech-Unternehmer dazu aufgerufen, wegen der Gefahren der neuen Technologie ihre Entwicklung zu verlangsamen. Chughtai erwähnte in seiner Stellungnahme einen Zwischenfall im Juli, bei dem ein KI-Agent von OpenAI spontan aus seiner vorgegebenen Umwelt ausgebrochen war, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. Für ihn habe dieser Vorfall gezeigt, dass KI sich inzwischen der Kontrolle ihrer Entwickler entziehen "und gefährliche Handlungen ausführen kann, die zu einem endgültigen Verlust der Kontrolle oder zum Ende der Menschheit führen könnten".
Anfang vergangener Woche hatte der KI-Experte Jacob Coxon, der zuerst bei OpenAI und dann bei Anthropic gearbeitet und beide Unternehmen verlassen hatte, beiden öffentlich laxe Sicherheitsstandards vorgeworfen. Die beiden KI-Riesen spielten damit "mit unserem Leben", warnte ihr Ex-Mitarbeiter. Am Samstag rief dann der Chef von Anthropic, Dario Amodei, in einem Essay auf seiner Website dazu auf, das Tempo zu "verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern". Die dadurch "gewonnene Zeit" solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen. Amodei bekam Unterstützung vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Tech-Unternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis.