"Lasst Daten herrschen"Renitenter Trump klammert sich an Rettungsanker KI
Von Roland Peters, New York
ntv bei Google bevorzugenSogar manche die KI-Konzerne selbst sagen es nun: Wegen der Gefahren durch neue Modelle wollen wir einheitliche Entwicklungsregeln für alle. Trump wehrt sich dagegen. Bald soll ein Gipfel in Washington dazu stattfinden. Zugleich stehen die Kongresswahlen an.
Wie kam es zu den aktuellen Forderungen nach KI-Regulierung?
Vergangene Woche kündigte der KI-Spezialist Jacob Coxon eigenen Angaben zufolge bei Anthropic - das Unternehmen hinter der "Claude"-KI - und warnte bei X vor der Zukunft der Technologie. Sowohl Anthropic als auch OpenAI (ChatGPT) lieferten sich ein Rennen in Richtung Superintelligenz und "setzen unsere Leben aufs Spiel". Coxon blieb kein einsamer Rufer. Eine Vielzahl von Forschern, manche noch immer bei Anthropic und OpenAI angestellt, stimmten ein. "Ich persönlich glaube es gibt einer mindestens 10-prozentige Möglichkeit, dass KI innerhalb des kommenden Jahrzehnts alle Menschen tötet", antwortete Evan Hubinger, Anthropics Kopf der sogenannten KI-Ausrichtung. Danach forderte dessen Chef Dario Amodei eine internationale Entwicklungsbremse für zukünftige, noch mächtigere KI-Versionen. "Wir müssen die Grenzverschiebung kontrollieren", betitelte er seinen offenen Brief, in dem er vor einer unkontrollierbaren KI warnt. Sam Altman von OpenAI stimmte zu, auch Googles DeepMind Co-Gründer Demis Hassabis, sogar xAI-Chef Elon Musk.
Was sagt Trump dazu?
Der US-Präsident will keine staatliche Regulierung, da er behauptet, dies helfe nur China, dem Hauptkonkurrenten der USA im Rennen um eine Superintelligenz. Laut Trump sei nur ein "STARKER UND SCHLAUER (Hoch-IQ) PRÄSIDENT" als Kontrolle und Leitplanke für die KI-Konzerne nötig - also er selbst. Es gebe eine "Verschwörung" gegen KI und seine Rechenzentren. "Tötet nicht die goldene Gans!", schrieb er bei Truth Social. "Dass die KI die Welt erobert, die Menschheit vernichtet und all diese anderen schrecklichen Dinge tut, ist ein Schwindel", so Trump weiter. "KI und Rechenzentren werden der größte Motor für wirtschaftliche Entwicklung in der Geschichte sein." Unter ihm als Präsident werde er nicht gestoppt. Schon Ende August hatte sich Trump deutlich für weiteren Bau von Rechenzentren ausgesprochen. "Lasst Daten herrschen", forderte er.
Warum ist Trump dagegen?
Für Trump ist die Tech-Branche derzeit der einzige Rettungsanker in einer wackelnden Wirtschaft. Bis zu den Zwischenwahlen ist nicht mehr viel Zeit. Kommen zum bislang ausgebliebenen Boom zu viele negative Signale hinzu, könnte die mutmaßliche Investitionsblase im Tech-Sektor platzen. Trump hatte sich vor seiner Wiederwahl mit den Konzernen im Silicon Valley verbündet und ihnen versprochen, sich nicht in ihre Aktivitäten einzumischen; seine Wahlkampforganisationen bekamen Geld aus der Branche. Direkt nach seinem erneuten Amtsantritt hatte Trump staatliche KI-Entwicklungsbedingungen aus Joe Bidens Präsidentschaft abgeschafft. Sie behandelten KI-Modelle wie Rüstungsgüter. Unternehmen mussten die Regierung über die Entwicklungen neuer KI-Modelle und Ergebnisse von Sicherheitstests informieren. Damals galt Bidens Dekret als relativ lasch.
Trumps kategorische Ablehnung von Regulierung ist im Sinne der sogenannten Akzelerationisten im Silicon Valley, die eine möglichst schnelle und rücksichtslose technologische Entwicklung propagieren. Dazu gehört etwa David Sacks, bis vor wenigen Monaten Trumps KI- und Kryptozar im Weißen Haus, der Amodei vorwarf, die altruistischen Motive seien nicht alles; Anthropic und OpenAI könnten schließlich selbst vereinbaren, langsamer vorzugehen. "Ihr setzt die Grenze." Aber offenbar will Sacks nicht, dass andere dadurch gebremst werden könnten.
Was ist eigentlich das Problem?
KI-Modelle werden zwar von Menschen ausgebildet, trainieren sich aber auch selbst - rekursive Entwicklung wird das genannt. Amodei mahnte deshalb zu größerer Vorsicht. "Diese Verbesserungen könnten unsere Fähigkeiten übertreffen, diese System zu verstehen und zu kontrollieren." Als warnendes Beispiel vor solch einer KI nennt er den "OpenAI-Hugging Face Vorfall", bei dem sich verschiedene KI-Agenten eigenständig zusammentaten, um Systeme zu hacken. Eigentlich sollen KI-Modelle bei ihren Aktivitäten bestimmte Regeln befolgen. So können sie autonom die Aufgaben erfüllen, die ihnen Menschen stellen. Das Ergebnis ist das sogenannte "Alignment" eines Modells, also die Ausrichtung.
Welche Risiken stehen im Fokus?
Die KI soll bei jeglicher Lösungssuche festgelegte Regeln befolgen, um das gesetzte Ziel zu erreichen, aber das ist offensichtlich schwierig. Immer wieder wird ungewünschtes Verhalten bekannt. Zuletzt waren es mehrere Fälle, in denen die KI technische Möglichkeiten genutzt hat, die nicht vorgesehen waren, um so schnell wie möglich an bestimmte Daten zu kommen. Häufig wird die Formulierung genutzt, die KI sei "abgehauen" oder "abtrünnig" (rogue); man könnte aber auch sagen, sie nutzt innerhalb ihrer Möglichkeiten den schnellsten Weg zur Lösung, den seine menschlichen Trainer gar nicht bedacht hatten. Dazu kommen ethische Probleme. KI könnte eingesetzt werden, um eigenständig Biowaffen zu entwicklen, kritische Infrastruktur abzuschalten, zu beschädigen oder zu zerstören. Versucht worden ist dies laut Angaben der US-Konzerne bereits. Trotz aller interner Regeln.
Was genau bedeutet ein Entwicklungsbremse?
Anthropic-Chef Amodei schlägt unabhängige Prüfer vor, die "Zugang wie Angestellte" haben und die KI-Ausrichtung neuer KI-Modelle beobachten und darüber berichten. Anthropic werde sie im eigenen Unternehmen nun einführen. Amodei vergleicht die Vorgehensweise mit dem Bankensektor, wo externe Aufseher unter Angestellten arbeiten. Gemeinsam mit der US-Regierung sollen demokratische Staaten gemeinsame Sicherheitsstandards etablieren. Dieses Bündnis solle dann gemeinsam auch versuchen, sich mit autoritären Staaten zu koordinieren. Soweit der Vorschlag von Anthropic.
Was sagt die US-Bevölkerung?
Abtrünnige KI-Modelle dürften die Skepsis der US-Amerikaner vor KI weiter schüren. In der Bevölkerung gibt es breite, parteiübergreifende Skepsis gegenüber der Technologie. Sie zeigt sich vor allem im Widerstand gegen die riesigen Rechenzentren, die seit Jahren überall in den USA gebaut werden. Diese Anlagen benötigen Unmengen von Strom sowie Kühlwasser, was mancherorts die Wasser- und Energiepreise und damit die Lebenshaltungskosten treibt. Dazu kommt: Da der Strom meist aus fossilen Energieträgern stammt, tragen sie zum Klimawandel bei. Kohle- und Gaskraftwerke in den USA sind der zweitgrößte Verursacher von Treibhausgasen. Trumps Umweltbehörde EPA wird bald sämtliche Umweltverschmutzungsgrenzen für Kraftwerke abschaffen, berichtete am Montag die "New York Times". Auch hat KI bislang nicht zum versprochenen Job-Boom geführt.
Wie steht der Kongress dazu?
Der Mehrheitsführer im Senat, der Republikaner John Thune, schlägt einen "leichten Eingriff" vor. Er arbeite an einem Gesetzentwurf. Der Sprecher des Repräsentantenhauses, Republikaner Mike Johnson, hält eine Selbstregulierung für angebracht - keine staatliche. Bald soll es demnach einen Gipfel zwischen dem Weißen Haus, dem Kongress und den KI-Konzernen geben. Trump und die Führungskräfte der KI-Unternehmen sollten "sich in einen großen Raum begeben, die Tür schließen und die Sache klären", so Johnson. Hakeem Jeffries, der Minderheitsführer im Repräsentantenhaus fordert zugleich "entscheidendes Handeln" des Kongresses. Er werde bald Vorschläge vorlegen. Ein Beschluss vor den Zwischenwahlen am 3. November ist unwahrscheinlich, Johnson hat zwei Sitzungswochen abgesagt, die letzte Sitzung der Kammer vor der Wahl findet nach derzeitigem Stand am Donnerstag statt. Bleibt Trump bei seiner Blockade, müsste der Kongress mit einer sehr schwer zu organisierenden Zweidrittelmehrheit ein mögliches präsidentielles Veto überstimmen.
Warum tun sie es nicht ohne Regulierung?
Es ist nicht das erste Mal, dass sich Amodei als Stimme der Vernunft präsentiert. Da die KI-Konzerne gewinnorientierte Unternehmen sind, manche davon an der Börse, könnte ein alleiniges Ausbremsen dazu führen, dass ein Unternehmen hinter andere zurückfällt. Das will offenbar keines, auch das als verantwortungsbewusster angesehene Anthropic nicht. Wenn, dann alle gleichzeitig, um nicht gegenüber den Wettbewerbern ins Hintertreffen zu geraten. Dazu gehören auch die Modelle aus China.
Gäbe es auch unternehmerische Vorteile?
Möglicherweise ist der Ruf nach Regulierung indirektes Risiko-Management. Die Unternehmen machen keinen Profit, sie sind auf permanente Finanzspritzen angewiesen. Der Neu- und Ausbau von Rechenzentren verschlingt enorme Geldsummen. Es wird immer schwieriger, neues Geld aufzutreiben. Es hat sich ein geschlossener Investitionsring gebildet, an dem immer dieselben Unternehmen wie Meta, Nvidia, Oracle oder Anthropic beteiligt sind, die sich auf dem Papier gegenseitig absichern. Für weiteres Geld wollten OpenAI und Anthropic in diesem Jahr an die Börse gehen, haben das jedoch wieder verschoben. Open-AI-Chef Altman begründete die Absage mit Sicherheitsbedenken. Wenn die KI eines Unternehmens wegen Versäumnissen Schaden anrichtet oder für den Tod von Menschen verantwortlich ist, wären die Unternehmen wohl haftbar. Und ein folgender Kurssturz könnte sie in die Pleite reißen.