Mathematiker warnen vor übertriebenen KI-Fähigkeiten und ethischen Risiken

Mehr als 150 Mathematiker aus verschiedenen Ländern haben in einer gemeinsamen Erklärung, die nach einer Konferenz in Leiden veröffentlicht wurde, den „Hype“ um die mathematischen Fähigkeiten von KI-Systemen unkritisch zu übernehmen gewarnt. Sie kritisieren, dass kommerzielle Marktlogik und irreführende Beweise häufig dazu führen, dass KI-Lösungen für einzelne Aufgaben als Maßstab für die allgemeinen Fähigkeiten von kommerziellen Modellen dargestellt werden.

Der Mathematiker Michael Harris von der Columbia Universität betont den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten Darstellung realer KI-Fähigkeiten führe. Die Autoren warnen vor dem Risiko, dass KI-Systeme plausibel wirkende, aber letztlich falsche Beweise erzeugen könnten, die für Menschen schwer zu überprüfen seien.

Sie rufen auch zur Prüfung der ethischen Folgen ihrer Forschung auf und fordern Kollegen, sich aus schädlicher Arbeit zurückzuziehen. Die Erklärung bezieht sich insbesondere auf mögliche Schäden durch KI in Bereichen wie Kriegsführung, Massenüberwachung, Destabilisierung politischer Systeme und Umweltbelastung.

Ulrike Tillmann, Vizepräsidentin der Internationalen Mathematischen Union (IMU), betont die Notwendigkeit, dass die Zukunft der mathematischen Forschung von menschlichem Urteilsvermögen, fairen und transparenten Verfahren sowie den gemeinsamen Werten der weltweiten mathematischen Gemeinschaft geleitet werden müsse.