Der TagAnthropic-Chef warnt den UN-Sicherheitsrat vor Gefahr durch KI
ntv bei Google bevorzugenFührende Vertreter der Technologiebranche haben den UN-Sicherheitsrat vor den wachsenden Gefahren durch Künstliche Intelligenz (KI) gewarnt. "Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte", sagte der Chef des Entwicklers Anthropic, Dario Amodei, vor dem 15-köpfigen Gremium. Neben Amodei sprachen OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue. Altman forderte eine internationale Zusammenarbeit. Die wichtigsten Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse gestaltet werden. Der kanadische KI-Pionier Yoshua Bengio bezeichnete die Gefahren als real und unmittelbar.
Regierungen weltweit ringen um die Frage einer Aufsicht über die sich rasant entwickelnden KI-Systeme. Die USA und China als dominierende Akteure sind sich uneins darüber, ob die Technologie globale Leitplanken benötigt oder weitgehend den Marktkräften überlassen werden sollte. US-Präsident Donald Trump hatte am Dienstag vor der UN-Vollversammlung jegliche Versuche abgelehnt, ein globales Kontrollsystem für KI zu errichten. Die USA würden das Wachstum einer Technologie nicht bremsen, die größer als die industrielle Revolution werde, sagte Trump.