KI-Sicherheit: Kein Labor schafft besseres als C+
Was wirklich drin steht
Das Future of Life Institute hat seinen zweiten jährlichen AI Safety Index veröffentlicht und neun führende KI-Labore in sechs Kategorien bewertet: Risk Assessment, Current Harms, Safety Frameworks, Existential Safety, Governance und Accountability sowie Transparency und Communication. Anthropic erhielt mit C+ die beste Note und führt in fünf von sechs Kategorien durch vergleichsweise starke Transparenz, ein etabliertes Sicherheitsframework und technische Forschung. OpenAI fiel von C+ auf C zurück, führt aber bei der Risikobewertung. Google DeepMind erhielt ebenfalls ein C. Meta verbesserte sich von Platz sechs auf vier mit einem D+. Drei Labore erhielten ein F: xAI von Elon Musk, das von Platz vier auf sieben abstürzte, DeepSeek aus China und Mistral aus Europa. Besonders besorgniserregend: Anthropic, OpenAI, Google DeepMind und Meta hatten öffentlich zugesagt, die Entwicklung zu pausieren, wenn bestimmte Risikoschwellen erreicht werden. Laut dem Bericht haben alle vier diese Zusagen inzwischen abgeschwächt oder faktisch aufgegeben. Zudem haben mehrere Unternehmen, die zuvor militärische KI-Anwendungen ausgeschlossen hatten, diese Haltung revidiert.
Unsere Einordnung
Neun KI-Labore weltweit erreichen maximal ein C+, drei fallen komplett durch. Das Ergebnis zeigt, dass freiwillige Sicherheitszusagen der Branche wenig wert sind: Alle führenden Unternehmen haben ihre Versprechen, bei Risiken die Entwicklung zu pausieren, inzwischen abgeschwächt. Positiv ist, dass der Index überhaupt existiert und die Labore unter öffentlichen Vergleichsdruck setzt. Die Bewertung bestätigt den europäischen Regulierungsansatz, der sich nicht auf Selbstverpflichtungen verlässt, sondern verbindliche Regeln schafft. Besonders auffällig: Mistral, das einzige europäische Frontier-Labor, erhält ein F. Das wirft Fragen auf, ob Europas eigener KI-Champion die Regeln ernst nimmt, die die EU gerade durchsetzt. Die Kehrtwende bei militärischer KI-Nutzung verdient besondere Aufmerksamkeit, da sie einen grundlegenden Wertewandel in der Branche signalisiert.
Relevanz für Deutschland
Der Bericht hat für Deutschland mehrere Implikationen. Erstens bestätigt er die Notwendigkeit des EU AI Act und des gerade verabschiedeten deutschen KI-Durchführungsgesetzes: Freiwillige Sicherheitszusagen der Industrie werden systematisch aufgeweicht. Zweitens ist Mistrals F-Bewertung bemerkenswert, weil das französische Unternehmen als Europas Antwort auf OpenAI und Google gilt. Wenn der europäische Champion bei der Sicherheit durchfällt, stellt sich die Frage, ob die EU-Regulierung ausreicht oder ob die Durchsetzung zu schwach ist. Drittens nutzen deutsche Unternehmen massiv KI-Modelle von Anthropic, OpenAI und Google. Der Index gibt ihnen eine Orientierung, welchem Anbieter sie in Sicherheitsfragen eher vertrauen können. Viertens ist die Kehrtwende bei militärischer KI relevant für die sicherheitspolitische Debatte in Deutschland, insbesondere angesichts der Diskussionen um KI in der Bundeswehr.
Faktencheck
Der AI Safety Index Summer 2026 wurde am 1. Juli 2026 vom Future of Life Institute veröffentlicht. Die Noten werden von Time, IEEE Spectrum, Seeking Alpha und MIT Sloan Management Review übereinstimmend berichtet: Anthropic C+, OpenAI C, Google DeepMind C, Meta D+, xAI F, DeepSeek F, Mistral F. Die Methodik basiert auf der Bewertung durch unabhängige Experten in sechs Kategorien. Die Aussage, dass Sicherheitszusagen abgeschwächt wurden, stammt direkt aus dem Bericht und wird von Axios und Seoul Economic Daily bestätigt. Die Kehrtwende bei militärischer KI wird ebenfalls im Bericht dokumentiert. OpenAIs Abstieg von C+ auf C wird von mehreren Quellen bestätigt.
Quelle
- • https://futureoflife.org/ai-safety-index-summer-2026/
- • https://futureoflife.org/wp-content/uploads/2026/07/AI-Safety-Index-Report_010726_2Pager.pdf
- • https://time.com/article/2026/07/07/ai-safety-rankings-openai-anthropic-meta/
- • https://seekingalpha.com/news/4611964-google-anthropic-openai-lead-ai-safety-index-spacexai-receives-f