Google verklagt milliardenschweres KI-Phishing-Netzwerk - erste Klage wegen Missbrauch von Gemini-KI für massenhaften Betrug
Was wirklich drin steht
Google hat am 12. Juni 2026 eine Klage gegen das internationale Cybercrime-Netzwerk 'Outsider Enterprise' eingereicht. Die aus China operierende Gruppe nutzte unter anderem Googles eigenes KI-Modell Gemini, um Phishing-Websites und Betrugsinfrastruktur im industriellen Maßstab zu erstellen. Die Zahlen sind erschreckend: Über 9.000 gefälschte Websites, rund eine Million betrügerische URLs und 2,5 Millionen betrügerische SMS-Nachrichten innerhalb von nur zwei Wochen. Seit Juli 2023 wurden laut Klageschrift 3,87 Millionen Kreditkartendaten gestohlen, der Gesamtschaden wird auf rund 1,8 Milliarden Euro beziffert. Das Netzwerk betrieb ein 'Phishing-as-a-Service'-Geschäftsmodell über Telegram - Abonnements für fertige Phishing-Kits kosteten ab 80 Euro pro Woche oder 185 Euro monatlich. Google stützt die Klage auf das US-amerikanische RICO-Gesetz zur Bekämpfung organisierter Kriminalität und koordiniert sich mit dem FBI sowie den großen US-Telekommunikationsanbietern Verizon, AT&T und T-Mobile. Es ist die erste Klage von Google, die den Missbrauch von Gemini-KI-Werkzeugen betrifft.
Unsere Einordnung
Dieser Fall verdient differenzierte Betrachtung. Einerseits zeigt er ein reales und ernstes Risiko: KI-Werkzeuge wie Gemini können die Erstellung überzeugender Phishing-Inhalte dramatisch beschleunigen und verbilligen. Ein Betrugsnetzwerk, das früher technische Expertise brauchte, kann heute mit KI-Unterstützung industriell skalieren - 80 Euro pro Woche für ein fertiges Phishing-Kit senkt die Einstiegshürde massiv. Die Dimension von 1,8 Milliarden Euro Schaden und 3,87 Millionen gestohlenen Kreditkartendaten ist besorgniserregend. Andererseits ist die Reaktion bemerkenswert: Google selbst klagt gegen den Missbrauch seiner eigenen Technologie, arbeitet mit Strafverfolgungsbehörden zusammen und nutzt schwere juristische Geschütze wie das RICO-Gesetz. Das zeigt, dass Technologieunternehmen und Behörden das Problem ernst nehmen. Die zentrale Frage bleibt aber: Können Schutzmaßnahmen mit der Geschwindigkeit mithalten, in der Kriminelle KI-Werkzeuge missbrauchen? Phishing existierte vor KI - aber KI macht es effizienter, überzeugender und schwerer zu erkennen.
Relevanz für Deutschland
Deutsche Verbraucher sind unmittelbar betroffen. Phishing-SMS und gefälschte Websites, die sich als Paketdienste, Banken oder Behörden ausgeben, sind in Deutschland alltäglich - und KI macht diese Nachrichten sprachlich und visuell überzeugender als je zuvor. Die Tatsache, dass Outsider Enterprise als internationales Netzwerk operierte, bedeutet, dass auch deutsche Nutzer zu den Hunderttausenden Opfern gehören können. Für deutsche Unternehmen und Behörden stellt sich die Frage, wie bestehende Schutzmechanismen gegen KI-gestützte Betrugsmaschen angepasst werden müssen. Das BSI warnt bereits regelmäßig vor zunehmend professionellen Phishing-Kampagnen. Der EU AI Act, der ab August 2026 vollständig gilt, adressiert zwar Transparenzpflichten für KI-Systeme, aber die kriminelle Nutzung von KI fällt naturgemäß außerhalb regulatorischer Rahmenwerke. Hier sind Strafverfolgung und technische Schutzmaßnahmen gefragt.
Faktencheck
Die Fakten sind durch mehrere unabhängige Quellen belegt. Google selbst veröffentlichte einen detaillierten Blogbeitrag über die Klage. TechCrunch, Help Net Security und IT-Boltwise berichten übereinstimmend über die Kerndaten: 9.000 gefälschte Websites, eine Million betrügerische URLs, 2,5 Millionen SMS in zwei Wochen, 3,87 Millionen gestohlene Kreditkartendaten und einen geschätzten Gesamtschaden von 1,8 Milliarden Euro. Die Nutzung des RICO-Gesetzes und die Koordination mit FBI und Telekommunikationsanbietern werden konsistent berichtet. Die Angabe, dass es sich um die erste Google-Klage wegen Gemini-Missbrauchs handelt, stammt aus Googles eigener Kommunikation.
Quelle
- • https://blog.google/innovation-and-ai/technology/safety-security/combatting-ai-scams/
- • https://techcrunch.com/2026/06/12/chinese-cybercrime-operation-that-used-ai-to-scam-hundreds-of-thousands-of-victims-sued-by-google/
- • https://www.helpnetsecurity.com/2026/06/12/google-china-based-cybercrime-network-lawsuit/
- • https://www.it-boltwise.de/google-klagt-gegen-outsider-enterprise-ki-phishing-im-grossen-stil.html