Bundesregierung plant KI-Sicherheitsinstitut zur Analyse von Chancen und Risiken

Die Bundesregierung plant die Einrichtung eines neuen KI-Sicherheitsinstituts, um Chancen und Risiken neuer Künstlicher Intelligenz-Modelle besser zu bewerten. Das Institut wird zunächst als virtuelle Institution mit Strukturen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) gestaltet sein, bevor es einen Standort finden soll.

Zwei Hauptaspekte sind KI-Security, also den Schutz vor Angriffen und Cybersicherheit, sowie KI-Safety, die sich auf sicherheitsrelevante Aktionen bezieht. Das Institut soll Kapazitäten zur Analyse moderner KI-Modelle inklusive ihrer Risiken bündeln und internationale Standards im Umgang mit KI fördern.

Bundesdigitalminister Karsten Wildberger betont, dass das Institut mit „Top-Expertise von Weltniveau“ ausgestattet sein soll, um neue Modelle wie das US-Unternehmen Anthropic entwickelte Software Mythos schnell zu testen und zu bewerten. Das BSI ist bereits in Kontakt mit Anthropic, um Zugang zu dem Tool zu erhalten.