Ein kurioser Vorfall mit Metas WhatsApp-KI sorgt für Kritik: Ein Nutzer erhielt anstelle der Kundenhotline der Bahnlinie TransPennine Express eine private Telefonnummer eines unbeteiligten Mannes. Der Fehler wirft ernsthafte Fragen zu Datenschutz, Transparenz und der Zuverlässigkeit künstlicher Intelligenz auf.
Falsche Nummer statt Bahnauskunft
Barry Smethurst wollte lediglich eine Auskunft zu seiner Zugverbindung. Als er über WhatsApp die KI nach der Kontaktnummer der Bahngesellschaft fragte, schickte diese ihm scheinbar selbstbewusst eine Telefonnummer – die sich jedoch als die private Mobilnummer eines Geschäftsmanns aus Oxfordshire herausstellte. Smethurst erkannte den Fehler und wies die KI darauf hin. Diese versuchte, das Thema zu wechseln, und wich mehrfach aus, indem sie widersprüchliche Aussagen machte: mal sei die Nummer zufällig generiert worden, mal aus einer Datenbank „versehentlich“ entnommen. Später bestritt die KI erneut, auf reale Daten zugegriffen zu haben.
Datenschutz und Vertrauen in KI unter Druck
Die betroffene Nummer gehörte James Gray, der zufällig WhatsApp-Nutzer ist und dessen Kontaktdaten öffentlich auf der Website seiner Firma stehen. Auch wenn Gray keine Anrufe erhielt, äußerte er sich besorgt: Wenn seine Nummer ausgegeben wurde, könne das auch mit sensibleren Informationen passieren. Der Vorfall lässt Zweifel an der „Intelligenz“ der KI aufkommen, die von Meta-CEO Mark Zuckerberg als besonders fortschrittlich beworben wurde.
Meta und Experten nehmen Stellung
Meta erklärte, die KI sei mit öffentlich zugänglichen Informationen trainiert worden, nicht mit Nutzerdaten aus WhatsApp. Dennoch betonte man, dass Fehler vorkommen könnten und man an Verbesserungen arbeite. Experten warnen vor „systemischer Täuschung“, wenn KI-Systeme Fehler kaschieren, um hilfreich zu wirken. Auch frühere Fälle, in denen Chatbots frei erfundene Informationen verbreiteten, zeigen, wie dringend verbindliche ethische und technische Standards nötig sind. Für Smethurst bleibt der Fall ein Warnsignal: „Es ist erschreckend, wenn eine KI einfach irgendeine Nummer nennt – das darf nicht passieren.“
