Deutschland gründet KI-Sicherheitsinstitut DE-AISI: Nationale Prüfstelle soll Frontier-Modelle auf Risiken testen
Was wirklich drin steht
Der Nationale Sicherheitsrat hat am 9. Juni 2026 unter Vorsitz des Bundeskanzlers die Gründung eines deutschen KI-Sicherheitsinstituts beschlossen. Das 'Deutsche AI Security Institute' (DE-AISI) soll systematisch die Fähigkeiten und Risiken moderner KI-Modelle bewerten, den Informationsaustausch mit vergleichbaren ausländischen Instituten intensivieren und auf einheitliche internationale Standards im Umgang mit KI hinarbeiten. Vorbild ist das britische AI Safety Institute (AISI), das seit Herbst 2023 existiert. In der Aufbauphase wird das DE-AISI als virtuelle Institution operieren und dabei auf bestehende Strukturen und Kompetenzen des Bundesamts für Sicherheit in der Informationstechnik (BSI) sowie der Bundesnetzagentur (BNetzA) zurückgreifen. Der Bitkom-Verband fordert eine Finanzierung auf dem Niveau des britischen Vorbilds, um internationale Spitzenkräfte gewinnen zu können. Der TÜV-Verband begrüßt die Entscheidung als wichtiges Signal für den KI-Standort Deutschland und fordert eine enge Verzahnung von Forschung und Praxis. Zu den ersten Aufgaben soll die Bewertung sogenannter Frontier-Modelle gehören - also der leistungsstärksten KI-Systeme von Unternehmen wie Anthropic und OpenAI.
Unsere Einordnung
Für alle, die sich Sorgen über die unkontrollierte Entwicklung von KI machen, ist diese Nachricht eine gute: Deutschland bekommt eine eigene Prüfinstanz für die mächtigsten KI-Systeme der Welt. Bisher fehlte es in Deutschland an einer spezialisierten Einrichtung, die Frontier-Modelle systematisch auf Sicherheitsrisiken untersucht. Großbritannien, die USA und Frankreich haben solche Institute bereits. Dass der Beschluss vom Nationalen Sicherheitsrat kommt - dem höchsten sicherheitspolitischen Gremium der Bundesregierung - zeigt, dass KI-Sicherheit inzwischen als Frage der nationalen Sicherheit eingestuft wird. Die Startphase als virtuelle Institution ist ein pragmatischer Kompromiss: Das Institut kann schnell arbeitsfähig werden, ohne auf einen langwierigen Behördenaufbau warten zu müssen. Gleichzeitig birgt dieser schlanke Ansatz das Risiko, dass das Institut ohne eigenes Budget und eigenes Personal ein Papiertiger bleibt. Der Bitkom-Verband hat recht, wenn er eine Finanzierung auf britischem Niveau fordert - das UK AISI hat ein Jahresbudget von rund 100 Millionen Pfund und beschäftigt führende KI-Forscher. Ohne vergleichbare Mittel wird Deutschland Schwierigkeiten haben, im internationalen Wettbewerb um KI-Sicherheitsexpertise mitzuhalten. Entscheidend wird sein, ob das DE-AISI tatsächlich einen eigenständigen Forschungsauftrag erhält und nicht nur eine koordinierende Verwaltungsstelle wird.
Relevanz für Deutschland
Für Deutschland hat die Gründung des DE-AISI unmittelbare Bedeutung auf mehreren Ebenen. Erstens schließt es eine Lücke in der nationalen KI-Governance: Während die Bundesnetzagentur durch das KI-MIG die Marktüberwachung übernimmt, fehlte bisher eine Instanz, die sich gezielt mit der technischen Sicherheitsbewertung von Frontier-Modellen befasst. Zweitens stärkt es Deutschlands Position in der internationalen KI-Sicherheitsdebatte - bei den jährlichen AI Safety Summits war Deutschland bisher ohne eigenes Institut vertreten. Drittens ist es ein Signal an die deutsche Wirtschaft: Wer KI-Systeme entwickelt oder einsetzt, kann künftig auf eine nationale Anlaufstelle für Sicherheitsfragen zurückgreifen. Für Bürgerinnen und Bürger bedeutet das Institut, dass jemand die Modelle prüft, die zunehmend Einfluss auf ihren Alltag haben - von KI-gestützten Bewerbungsverfahren bis hin zu automatisierten Behördenentscheidungen. Die enge Anbindung an BSI und BNetzA ist dabei klug gewählt: Beide Behörden verfügen über relevante Expertise in den Bereichen Cybersicherheit und digitale Marktregulierung.
Faktencheck
Die Primärquelle ist die offizielle Mitteilung der Bundesregierung zur Sitzung des Nationalen Sicherheitsrats im Juni 2026, die den Beschluss zur Gründung des KI-Sicherheitsinstituts bestätigt. Die Struktur als virtuelle Institution unter Nutzung von BSI- und BNetzA-Kapazitäten wird von mehreren unabhängigen Quellen übereinstimmend berichtet. Der Bitkom-Verband hat in einer eigenen Pressemitteilung seine Forderung nach einer Finanzierung auf britischem Niveau dokumentiert. Der TÜV-Verband bestätigt in seiner Stellungnahme die Entscheidung und fordert eine enge Verzahnung von Forschung und Praxis. Die internationale Einordnung - Großbritannien, USA und Frankreich verfügen bereits über vergleichbare Institute - ist durch die Berichterstattung von Heise Online und weiteren Fachmedien belegt. Das britische AISI existiert seit November 2023, was durch offizielle UK-Regierungsquellen bestätigt ist.
Quelle
- • https://www.bundesregierung.de/breg-de/aktuelles/sitzung-des-nationalen-sicherheitsrates-im-juni-2026-2438050
- • https://www.bitkom.org/Presse/Presseinformation/Bitkom-zum-KI-Sicherheitsinstitut
- • https://www.tuev-verband.de/pressemitteilungen/tuev-verband-begruesst-ai-security-institute
- • https://www.heise.de/news/Bundesregierung-will-KI-Sicherheitsinstitut-gruenden-11326247.html