Meta verklagt Betreiber von „Nudify“-Apps nach monatelangem Plattformmissbrauch
Meta hat rechtliche Schritte gegen ein Unternehmen eingeleitet, das auf seinen Plattformen KI-gestützte „Nudify“-Apps bewirbt. Diese Programme erzeugen mittels künstlicher Intelligenz Nacktbilder realer Menschen ohne deren Zustimmung.
Der Technologiekonzern reichte Klage gegen den Anbieter der CrushAI-Apps ein, um jegliche Werbeanzeigen des Unternehmens dauerhaft zu unterbinden. Zuvor hatte Meta über Monate hinweg versucht, die Anzeigen zu entfernen, doch das Unternehmen wich den Kontrollen durch Tricks immer wieder aus.
„Diese Klage macht deutlich, wie ernst wir diese Form des Missbrauchs nehmen und wie engagiert wir unsere Gemeinschaft schützen“, schrieb Meta in einem Blogbeitrag.
Expertensorge: Plattformen müssen wirksamer gegen KI-Missbrauch vorgehen
Alexios Mantzarlis, Autor des Blogs Faked Up, berichtete von mehr als 10.000 Werbeanzeigen für derartige Apps auf Facebook und Instagram. Er begrüßte Metas juristischen Schritt, stellte jedoch klar, dass dies nicht ausreiche.
„Während Meta seine Maßnahmen veröffentlichte, entdeckte ich weiterhin aktive Anzeigen von CrushAI und hunderte von ähnlichen Diensten“, sagte er.
Mantzarlis betonte, dass dieser Missbrauch ständige Überwachung durch Forschende und Medien erfordere. Nur so lasse sich die Verbreitung solcher gefährlichen Anwendungen eindämmen und Plattformen zur Rechenschaft ziehen.
Meta erklärte weiter: „Wir werden konsequent gegen Akteure vorgehen, die unsere Plattformen missbrauchen – auch durch rechtliche Mittel.“
KI-Nacktbilder treffen besonders Kinder – Rufe nach Verbot werden lauter
Der Boom generativer KI hat in den vergangenen Jahren eine Flut an „Nudify“-Apps ausgelöst. Bereits im April forderte die Kinderbeauftragte Englands gesetzliche Regelungen zum vollständigen Verbot dieser Technologien.
Die Erstellung oder der Besitz KI-generierter sexueller Inhalte mit Kindern ist bereits strafbar. Matthew Sowemimo von der Kinderschutzorganisation NSPCC warnte, dass Täter die Apps gezielt nutzen, um illegales Material zu erzeugen.
„Die psychischen Auswirkungen auf Kinder sind verheerend“, sagte er. „Viele fühlen sich entwürdigt, wehrlos und verlieren die Kontrolle über ihre Identität.“
Sowemimo forderte die Regierung auf, die Nutzung und Werbung solcher Anwendungen vollständig zu verbieten.
Meta kündigte parallel neue Maßnahmen an. Seit Ende März teile das Unternehmen verdächtige Informationen mit anderen Technologiefirmen.
„Bisher haben wir über 3.800 eindeutige URLs an unsere Partner weitergeleitet“, teilte Meta mit. Das Unternehmen räumte ein, dass manche Anbieter durch neue Domains systematisch Richtlinien umgehen.
Eine neu entwickelte Erkennungstechnologie soll künftig Anzeigen identifizieren, selbst wenn sie keine expliziten Inhalte enthalten.
Deepfakes und KI-Manipulationen nehmen auf Social Media zu
„Nudify“-Apps stehen exemplarisch für die Risiken künstlicher Intelligenz auf sozialen Netzwerken. Ein weiteres wachsendes Problem sind Deepfakes – täuschend echte manipulierte Videos oder Bilder, meist mit prominenten Personen, die für Betrugsversuche genutzt werden.
Im Juni kritisierte Metas eigenes Aufsichtsgremium eine Entscheidung, ein manipuliertes Video, das scheinbar den brasilianischen Fußballstar Ronaldo Nazário zeigte, nicht zu entfernen.
Meta reagierte bereits mit Maßnahmen: Dazu gehören Gesichtserkennung zur Betrugsbekämpfung sowie eine Kennzeichnungspflicht für KI-Nutzung in politischen Werbeanzeigen – vor allem, um Manipulationen während Wahlen zu verhindern.
