Keine einzige KI-Firma besteht den Sicherheitstest: FLI-Report zeigt systematischen Rückzug von Sicherheitszusagen
Was wirklich drin steht
Das Future of Life Institute (FLI) hat am 7. Juli 2026 seinen halbjährlichen KI-Sicherheitsindex veröffentlicht. Ein unabhängiges Expertengremium aus sieben Fachleuten von Institutionen wie der Universität Montreal, UC Berkeley und Oxford hat neun führende KI-Unternehmen in sechs Kategorien bewertet: Risikobewertung, aktuelle Schäden, Sicherheitsrahmenwerke, existenzielle Sicherheit, Governance und Rechenschaftspflicht sowie Transparenz und Kommunikation. Das Ergebnis ist ernüchternd: Kein einziges Unternehmen erreichte die Note A oder B. Anthropic schnitt mit C+ am besten ab, gefolgt von OpenAI und Google DeepMind mit jeweils C. Meta erhielt nur ein D+, Z.ai und Alibaba Cloud jeweils D-. Die schlechtesten Noten gingen an xAI, DeepSeek und das französische Unternehmen Mistral - alle drei erhielten ein F. Besonders beunruhigend: Die Experten stellten fest, dass Unternehmen ihre eigenen freiwilligen Sicherheitszusagen systematisch abgeschwächt oder aufgegeben haben. Sogenannte 'rote Linien' - Versprechen, die Entwicklung zu stoppen, wenn KI-Systeme gefährliche Fähigkeitsschwellen erreichen - wurden intern verwässert. Auch Richtlinien, die den militärischen Einsatz von KI untersagten, wurden nacheinander zurückgezogen. FLI-Vorsitzender Max Tegmark kommentierte: 'KI-Unternehmen rasen auf eine Klippe zu.'
Unsere Einordnung
Diese Nachricht verdient eine rote Bewertung, weil sie ein konkretes und dokumentiertes Governance-Versagen aufzeigt. Wenn die führenden KI-Unternehmen weltweit ihre eigenen, freiwillig eingegangenen Sicherheitszusagen systematisch aufweichen - während ihre Modelle gleichzeitig immer leistungsfähiger werden - ist das ein ernstzunehmendes Warnsignal. Dass keine einzige Firma eine gute Note erreicht, zeigt die Breite des Problems. Besonders relevant ist der Befund zu den aufgegebenen 'roten Linien': Diese Versprechen waren ein zentrales Argument der Branche gegen strengere staatliche Regulierung. Ihr Wegfall stärkt die Position der EU, die mit dem AI Act auf verbindliche Regeln statt freiwillige Selbstverpflichtung setzt. Allerdings sollte man die Methodik einordnen: Das FLI ist eine Organisation, die für strenge KI-Regulierung eintritt, und die Bewertungskriterien - insbesondere bei 'existenzieller Sicherheit' - gehen über das hinaus, was selbst der EU AI Act fordert. Die niedrigen Noten spiegeln also teilweise einen sehr hohen Maßstab wider. Dennoch: Der Trend weg von Sicherheitszusagen ist real und durch mehrere unabhängige Berichte bestätigt.
Relevanz für Deutschland
Für Deutschland und Europa ist dieser Bericht aus mehreren Gründen hochrelevant. Erstens: Mistral, das einzige bewertete europäische KI-Unternehmen, hat mit der Note F die schlechteste Bewertung erhalten - ein Befund, der die Debatte über europäische KI-Souveränität belastet, denn Sicherheit sollte eigentlich ein europäischer Wettbewerbsvorteil sein. Zweitens: Der Bericht erscheint weniger als vier Wochen vor dem 2. August 2026, an dem die Transparenzpflichten des EU AI Act in Kraft treten. Er unterstreicht die Notwendigkeit verbindlicher Regulierung. Drittens: Die Bundesnetzagentur als deutsche KI-Aufsichtsbehörde und das BSI, das gerade seinen A5-Prüfkatalog für vertrauenswürdige KI veröffentlicht hat, können die FLI-Ergebnisse als Beleg dafür nutzen, dass freiwillige Selbstverpflichtungen nicht ausreichen. Viertens: Für deutsche Unternehmen, die KI einsetzen, stellt sich die Frage, ob ihre Anbieter verlässliche Sicherheitsstandards einhalten - der FLI-Index liefert dafür eine erste Orientierung.
Faktencheck
Der FLI-Sicherheitsindex vom 7. Juli 2026 ist durch zahlreiche unabhängige Quellen bestätigt. Axios, Time, Seeking Alpha, Seoul Economic Daily, Malay Mail und TechXplore berichten übereinstimmend über die Ergebnisse. Die Bewertungen (Anthropic C+, OpenAI C, Google DeepMind C, Meta D+, Z.ai und Alibaba Cloud D-, xAI/DeepSeek/Mistral F) werden konsistent über alle Quellen hinweg genannt. Das siebenköpfige Expertengremium mit Mitgliedern von der Universität Montreal, UC Berkeley und Oxford ist in den Berichten namentlich erwähnt. Max Tegmarks Zitat stammt aus der Axios-Berichterstattung. Der Befund zum Rückzug von Sicherheitszusagen und der Aufhebung militärischer Nutzungsverbote wird von Axios und dem Seoul Economic Daily unabhängig bestätigt. Die sechs Bewertungskategorien sind in mehreren Quellen dokumentiert.
Quelle
- • https://www.axios.com/2026/07/07/report-ai-safety-pledges
- • https://time.com/article/2026/07/07/ai-safety-rankings-openai-anthropic-meta/
- • https://seekingalpha.com/news/4611964-google-anthropic-openai-lead-ai-safety-index-spacexai-receives-f
- • https://en.sedaily.com/technology/2026/07/08/global-big-tech-retreats-on-ai-safety-pledges-experts-warn