"Wettbewerb auf Leben und Tod"Mathematiker: KI-Hype nicht unkritisch übernehmen
Mehr als 150 Mathematikerinnen und Mathematiker aus aller Welt haben davor gewarnt, den "Hype" um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
Mehr als 150 Mathematikerinnen und Mathematiker aus aller Welt haben davor gewarnt, den "Hype" um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen. In einer am Dienstag nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten "einen starken kommerziellen Anreiz", die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung. Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung. Der Mathematiker Michael Harris von der Columbia University, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein "Wettbewerb auf Leben und Tod". Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche "Beweise" erzeugen könnten, die für Menschen schwer zu überprüfen seien. Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.
Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung. Sie riefen Kolleginnen und Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne "neue und spannende Möglichkeiten", werfe aber auch Fragen auf, "die nicht ungeprüft bleiben dürfen", erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann. Die Zukunft der mathematischen Forschung müsse von "menschlichem Urteilsvermögen, fairen und transparenten Verfahren" sowie den "gemeinsamen Werten der weltweiten mathematischen Gemeinschaft" geleitet werden.