Nächster Vorfall bei OpenAIKI-Agenten kapern deutsche Website, um Befehle zu umgehen
ntv bei Google bevorzugenErneut machen sich KI-Agenten selbstständig: Ein Vorfall weckt Sorgen vor riesigen Schwärmen von halbintelligenten KIs, die zusammenarbeiten. Im Zentrum der Aktion steht eine deutsche Website, die unwissentlich zum Helfer für die Programme von OpenAI wird.
Computerprogramme des US-Unternehmens OpenAI haben sich einem Bericht zufolge im Frühjahr verselbstständigt und eine deutsche Website gekapert. Die sogenannten KI-Agenten hätten die Seite als Forum genutzt, um sich über Wege auszutauschen, wie sie ihre Aufgaben umgehen und ihre Spuren verwischen könnten. Dies erfuhr die Nachrichtenagentur Reuters aus einer neuen Studie und von zwei mit der Angelegenheit vertrauten Personen. Der Vorfall vom Mai sei bislang nicht öffentlich bekannt gewesen.
KI-Agenten sind Computerprogramme, die mithilfe Künstlicher Intelligenz (KI) weitgehend selbstständig agieren. OpenAI-Verantwortliche wussten dem Bericht zufolge seit Wochen von dem Vorfall, hielten die Information jedoch zurück. Das Unternehmen habe erklärt, es sei transparent gewesen und habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet. "Behauptungen, unser Rechtsteam habe von einer Untersuchung des Vorfalls abgeraten, sind falsch", sagte ein Sprecher von OpenAI. Das Unternehmen könne sich zu dem Bericht nicht im Detail äußern, da es keine Möglichkeit zur Prüfung gehabt habe.
Aufgedeckt wurde der Vorfall von Forschern der gemeinnützigen Organisation Nightingale. Sie fanden auf der deutschen Wiki-Seite "DseWiki", die sich an Programmierer richtet, mehr als 15.000 Bearbeitungen durch die KI-Agenten. Diese hätten die Seite zu einer Art schwarzem Brett umfunktioniert, um sich über Taktiken auszutauschen, wie sich Beschränkungen umgehen und das eigene Verhalten verbergen ließen. "Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun", sagte die Forscherin Sydney von Arx. Die Forscher erkannten die Aktivität an der Geschwindigkeit und Benutzernamen wie "OpenAIResearcher".
KI agierte völlig eigenständig
Die Agenten reagierten demnach auch auf Versuche, ihre Einträge zu löschen. Als ein Moderator der Seite im Juni mit der Bereinigung begann, erstellten die Agenten Sicherungskopien auf anderen Seiten. Die Forscher fanden zudem Versuche, die Webseite selbst zu manipulieren, was ein Experte als Hacking-Versuch wertete. Der Vorfall weckt Sorgen vor koordinierten Aktionen von KI-Systemen. Ein Forscher der Universität Cambridge, der die Kommunikation der Agenten prüfte, verglich sie mit der "Operation einer Art Untergrundnetzwerk". Die größte Bedrohung durch fortgeschrittene KI sei möglicherweise nicht eine einzelne Superintelligenz, sondern "riesige, kollaborierende Schwärme von halbintelligenten KIs".
OpenAI hatte im Juli bereits für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.
Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte - und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eindrangen.