OpenAI startet Herkunftsnachweis für KI-Inhalte: Neues Verifizierungstool soll Deepfakes erkennbar machen
Was wirklich drin steht
Am 19. Mai 2026 hat OpenAI eine umfassende Initiative zur Herkunftskennzeichnung von KI-generierten Inhalten vorgestellt. Das Unternehmen verfolgt einen dreischichtigen Ansatz: Erstens werden alle von DALL-E 3, ImageGen und Sora erzeugten Bilder und Videos mit Content Credentials nach dem C2PA-Standard versehen - einem technischen Standard, der manipulationssichere Metadaten direkt bei der Erstellung einbettet, einschließlich Herstellerkennung, Bearbeitungshistorie und Zeitstempel. Kryptografische Hashes stellen sicher, dass nachträgliche Änderungen erkennbar sind. Zweitens integriert OpenAI in Zusammenarbeit mit Google DeepMind die SynthID-Wasserzeichen-Technologie: Eine unsichtbare Markierung wird direkt in die Pixel von Bildern eingebettet, die über ChatGPT, Codex oder die OpenAI-API erzeugt werden. Dieses Wasserzeichen ergänzt die metadatenbasierten Content Credentials um eine robustere Schicht, die auch bei Screenshots oder Komprimierung erhalten bleibt. Drittens stellt OpenAI ein öffentliches Verifizierungstool bereit, mit dem jeder prüfen kann, ob ein Bild von OpenAI-Systemen erzeugt wurde. Zum Start ist das Tool auf OpenAI-generierte Inhalte beschränkt, soll aber in den kommenden Monaten plattformübergreifend funktionieren. OpenAI ist zudem dem Lenkungsausschuss der Coalition for Content Provenance and Authenticity (C2PA) beigetreten.
Unsere Einordnung
Für alle, die sich vor Deepfakes und KI-generierten Falschinformationen sorgen, ist diese Entwicklung eine gute Nachricht. Der Ansatz von OpenAI ist deshalb vielversprechend, weil er das bisherige Wettrüsten zwischen Deepfake-Generatoren und Deepfake-Detektoren umgeht: Statt im Nachhinein zu erkennen, ob ein Bild gefälscht ist, wird die Herkunft direkt bei der Erstellung dokumentiert. Die Kombination aus sichtbaren Metadaten (C2PA) und unsichtbaren Wasserzeichen (SynthID) macht es deutlich schwieriger, die Kennzeichnung zu entfernen. Allerdings gibt es Einschränkungen: Das Verifizierungstool funktioniert zunächst nur für OpenAI-eigene Inhalte. KI-Bilder von anderen Anbietern oder Open-Source-Modellen wie Stable Diffusion werden nicht erfasst. Zudem ist die Teilnahme am C2PA-Standard freiwillig - es gibt keine Pflicht für KI-Anbieter, Herkunftskennzeichnungen einzubetten. Die Initiative ist ein wichtiger Schritt, aber kein Allheilmittel: Solange nicht alle großen KI-Anbieter mitmachen und die Kennzeichnung nicht gesetzlich vorgeschrieben ist, bleibt eine Lücke.
Relevanz für Deutschland
Für Deutschland und die EU ist die OpenAI-Initiative besonders relevant, weil sie auf Anforderungen reagiert, die in Europa bereits gesetzlich verankert werden. Der EU AI Act schreibt ab Dezember 2026 vor, dass KI-Systeme, die synthetische Inhalte erzeugen, diese als KI-generiert kennzeichnen müssen - die sogenannte Transparenzpflicht. OpenAIs Einsatz von C2PA und SynthID ist eine konkrete technische Umsetzung genau dieser Anforderung. Für deutsche Nutzer bedeutet das: Wenn sie ein Bild aus ChatGPT oder DALL-E erhalten, können sie dessen Herkunft künftig verifizieren. Das ist besonders relevant im Kontext der bevorstehenden Bundestagswahl-Diskussionen und der wachsenden Sorge vor KI-generierter Desinformation. Die Bundesregierung hat im Koalitionsvertrag die Bekämpfung von Desinformation als Priorität benannt. Ein branchenweiter Standard für die Herkunftskennzeichnung von KI-Inhalten wäre ein wichtiger Baustein dafür.
Faktencheck
Die Kernankündigung stammt direkt aus dem offiziellen OpenAI-Blog vom 19. Mai 2026 und ist damit als Primärquelle belastbar. Die technischen Details zu C2PA (manipulationssichere Metadaten, kryptografische Hashes) und SynthID (unsichtbare Pixel-Wasserzeichen) sind durch die jeweiligen Organisationsdokumentationen belegt. OpenAIs Mitgliedschaft im C2PA-Lenkungsausschuss ist durch den Blogpost bestätigt. Die Einschränkung, dass das Verifizierungstool zunächst nur OpenAI-eigene Inhalte erkennt, wird im Blogpost explizit genannt. Die EU-Transparenzpflicht für synthetische Inhalte ab Dezember 2026 ist durch die offizielle Pressemitteilung des EU-Rates vom 7. Mai 2026 zum AI-Act-Omnibus belegt - dort wurde die ursprüngliche Frist vom August auf Dezember 2026 verschoben.
Quelle
- • OpenAI Blog 19.05.2026: Advancing content provenance for a safer, more transparent AI ecosystem (openai.com/index/advancing-content-provenance/)
- • C2PA: Coalition for Content Provenance and Authenticity - Technical Standard (c2pa.org)
- • Internet Pros 2026: AI Content Provenance & Watermarking 2026 - C2PA, Content Credentials & SynthID (internet-pros.com/blog/ai-content-provenance-watermarking-c2pa-2026/)
- • EU AI Act Omnibus 07.05.2026: Transparenzpflicht für synthetische Inhalte ab Dezember 2026 (consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/)