EU-KI-Meldestelle: Wie ein neues Instrument zur Kontrolle von KI-Systemen die Grundrechte gefährdet

Die EU-Kommission hat ein neues Whistleblower-Tool für den Schutz von Grundrechten im Zusammenhang mit künstlicher Intelligenz (KI) eingeführt. Das Tool soll es ermöglichen, mutmaßliche Verstöße gegen den EU-AI-Act anonym und vertraulich zu melden.

Doch die politische Implikationen sind hoch brisant: Das System begünstigt Denunziationen ohne klare Schutzmechanismen für zu Unrecht Beschuldigte vorzusehen. Unternehmen und Entwickler können bereits durch den Verdacht von Verstößen mit realen wirtschaftlichen Folgen konfrontiert werden, bevor der Rechtsweg eintritt.

Die Kategorien wie „Hochrisiko-KI“ oder „unzulässige Praktiken“ sind politisch und interpretativ, nicht objektiv-technisch definiert. Das Whistleblower-Tool verstärkt diese Unschärfe und wirft Fragen auf, ob das Instrument tatsächlich den Schutz von Grundrechten sicherstellt oder eher die Kontrolle über KI-Systeme in die Hände der EU-Kommission bringt.

Die politischen Auswirkungen dieses Instruments sind noch unklar, aber es ist klar, dass es die Grundrechte gefährdet und die Verantwortung für die Bewertung von Risiken bei den Meldenden liegt. Das System ist ein weiterer Schritt in Richtung einer zentralisierten Kontrollarchitektur für KI-Systeme, die tief in Entwicklung, Einsatz und Bewertung von Technologien eingreift.

Die EU muss klären, ob das Instrument tatsächlich den Schutz von Grundrechten sicherstellt oder eher die Kontrolle über KI-Systeme in die Hände der EU-Kommission bringt.