Lancet-Studie: KI-generierte Fake-Zitate in medizinischer Forschung um das 12-Fache gestiegen - fast 3.000 begutachtete Studien betroffen
Was wirklich drin steht
Ein Forschungsteam der Columbia University School of Nursing unter Leitung von Professor Maxim Topaz hat mit Hilfe von KI 2,5 Millionen biomedizinische Publikationen aus PubMed Central (Januar 2023 bis Februar 2026) systematisch auf erfundene Quellenangaben geprüft. Das Ergebnis, veröffentlicht als Forschungsbrief im renommierten Fachjournal The Lancet am 7. Mai 2026: Unter 97,1 Millionen überprüften Referenzen fanden die Forscher 4.046 gefälschte Zitate in 2.810 begutachteten Studien - Quellenangaben, die schlicht nicht existieren. Die Fälschungsrate hat sich seit 2023 mehr als verzwölffacht: 2023 enthielt eine von 2.828 Publikationen mindestens ein erfundenes Zitat, bis 2025 war es bereits eine von 458, und Anfang 2026 enthält jede 277. Publikation ein Fake-Zitat. Der stärkste Anstieg begann Mitte 2024 - zeitgleich mit der breiten Verfügbarkeit generativer KI-Schreibwerkzeuge. Besonders alarmierend: 98,4 Prozent der betroffenen Publikationen hatten zum Zeitpunkt der Studie keinerlei Maßnahme seitens der Verlage erfahren - keine Korrektur, kein Rückzug, kein Hinweis.
Unsere Einordnung
Diese Studie verdient die Einstufung als ernstes Risiko, weil sie ein konkretes, messbares Problem mit direkten Auswirkungen auf die Gesundheitsversorgung aufzeigt. Wenn Ärzte Behandlungsentscheidungen auf Studien stützen, deren Quellenangaben frei erfunden sind, gefährdet das Patienten. Das Problem sind dabei nicht die KI-Werkzeuge selbst, sondern ihr Missbrauch: Generative KI-Modelle erzeugen bekanntlich plausibel klingende, aber nicht existierende Referenzen - sogenannte Halluzinationen. Wenn Forscher diese ungeprüft in ihre Publikationen übernehmen, untergräbt das die Grundlage evidenzbasierter Medizin. Der 12-fache Anstieg seit 2023 zeigt, dass das Problem exponentiell wächst. Positiv ist: Die Columbia-Forscher haben ebenfalls KI eingesetzt, um die Fälschungen aufzudecken - ein Beispiel dafür, dass KI sowohl Teil des Problems als auch Teil der Lösung sein kann. Dringend nötig sind automatisierte Prüfverfahren bei Verlagen, bevor Studien veröffentlicht werden.
Relevanz für Deutschland
Für Deutschland ist diese Studie aus mehreren Gründen relevant. Deutsche Ärzte und Kliniken stützen ihre Behandlungsleitlinien auf internationale biomedizinische Forschung - wenn dort gefälschte Quellen eingeschleust werden, betrifft das auch die Versorgung deutscher Patienten. Die Deutsche Forschungsgemeinschaft (DFG) hat bereits 2024 Leitlinien zur guten wissenschaftlichen Praxis im Umgang mit KI veröffentlicht, doch die Umsetzung in der Praxis ist lückenhaft. Zudem nutzen laut Bitkom-Studie 58 Prozent der Deutschen KI-Tools - wenn selbst Wissenschaftler KI-generierte Falschinformationen ungeprüft übernehmen, stellt sich die Frage, wie gut Laien die Qualität von KI-Ausgaben beurteilen können. Die Studie unterstreicht die Notwendigkeit von Medienkompetenz und kritischem Denken im Umgang mit KI-generierten Inhalten - ein Thema, das auch in der deutschen Bildungspolitik stärker adressiert werden muss.
Faktencheck
Die Primärquelle ist der am 7. Mai 2026 in The Lancet veröffentlichte Forschungsbrief von Maxim Topaz und Kollegen der Columbia University School of Nursing. Die Zahlen (2,5 Millionen Publikationen, 97,1 Millionen Referenzen, 4.046 Fake-Zitate in 2.810 Studien) stammen direkt aus der Lancet-Publikation. Der 12-fache Anstieg der Fälschungsrate und die Angabe 'jede 277. Publikation' werden von Nature, Retraction Watch, CIDRAP und der Columbia University selbst übereinstimmend berichtet. Die Studie wurde am 26. Mai 2026 erneut breit aufgegriffen, unter anderem von Nature und Winbuzzer.
Quelle
- • https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(26)00603-3/fulltext
- • https://www.nursing.columbia.edu/news/nearly-3-000-peer-reviewed-medical-papers-have-fake-citations-columbia-nursing-ai-assisted-audit-finds
- • https://www.nature.com/articles/d41586-026-00748-w
- • https://retractionwatch.com/2026/05/07/one-in-277-pubmed-indexed-papers-in-2026-shows-fabricated-references-says-analysis/