Fehlurteile durch KI führen zu sozialer Isolation
Zahlreiche Instagram-Nutzer berichten, sie seien zu Unrecht beschuldigt worden, gegen Richtlinien zum Schutz vor Kindesmissbrauch verstoßen zu haben. Die Sperren trafen sie ohne Vorwarnung – ausgelöst durch fehlerhafte Entscheidungen der künstlichen Intelligenz der Plattform. Erst nachdem Journalisten auf Einzelfälle aufmerksam wurden, erhielten Betroffene den Zugang zu ihren Konten zurück.
Ein Betroffener schilderte, dass er vor Sorge nächtelang nicht schlafen konnte und sich völlig zurückgezogen habe. Besonders schwer wog die Anschuldigung selbst, die für ihn eine tiefe Belastung darstellte. Der verantwortliche Konzern äußerte sich auf Anfrage nicht.
Mehr als 100 weitere Betroffene meldeten sich bei einer Nachrichtenredaktion. Manche verloren ihren Lebensunterhalt, andere ihre wertvollen digitalen Erinnerungen. Viele betonten, wie stark sich die Sperrung auf ihr psychisches Wohlbefinden auswirkte.
Eine Online-Petition, die die Fehleranfälligkeit der automatisierten Moderation kritisiert, erhielt über 27.000 Unterschriften. In sozialen Netzwerken wie Reddit häufen sich Erfahrungsberichte. Der Konzern räumt lediglich Fehler bei Facebook-Gruppen ein, bestreitet jedoch umfassende Probleme auf Instagram.
Persönliche Schicksale offenbaren das Ausmaß
David aus Aberdeen wurde am 4. Juni ohne Vorwarnung gesperrt. Ihm wurde ein Verstoß gegen Richtlinien zu Missbrauch und Nacktheit vorgeworfen. Noch am selben Tag legte er Widerspruch ein, verlor dann aber auch den Zugang zu Facebook und Messenger.
In einem Reddit-Forum stieß David auf viele weitere Betroffene mit demselben Vorwurf. Er verlor über zehn Jahre an Nachrichten, Bildern und Beiträgen. Die Vorwürfe bezeichnete er als „beschämend und empörend“. Auf Rückfragen reagierte das System nur mit standardisierten Textbausteinen. Nach einem Hinweis durch Journalisten wurde sein Konto am 3. Juli binnen Stunden wieder aktiviert. In einer Nachricht entschuldigte sich das Unternehmen und gab den Fehler zu.
Faisal, ein Student aus London, wurde am 6. Juni gesperrt. Er hatte begonnen, mit Kunstaufträgen über Instagram Geld zu verdienen. Nach dem Widerspruch folgte die vollständige Sperrung. Er berichtete, dass ihn die Anschuldigungen psychisch stark belasteten und in soziale Isolation führten. Nach einem Hinweis an den Konzern wurde sein Konto ebenfalls am 3. Juli wiederhergestellt. Auch er erhielt dieselbe Entschuldigung wie David. Trotz der Rückkehr bleibt die Sorge, dass diese Sperre bei späteren Prüfungen auffallen könnte.
Salim schilderte einen ähnlichen Fall: Seine Konten wurden unter denselben Vorwürfen deaktiviert. Widersprüche blieben unbeantwortet. Er kritisierte, dass die KI Menschen ohne Prüfung kriminalisiere. Erst eine Woche später wurde sein Zugang wieder freigegeben.
Transparenz bleibt aus – Nutzer bleiben ratlos
Der Konzern äußerte sich nicht zu den konkreten Fällen. In Südkorea jedoch gab eine Politikerin bekannt, dass der Konzern dort eingeräumt habe, Nutzer könnten zu Unrecht gesperrt worden sein.
Dr. Carolina Are von der Northumbria University, die zu Plattform-Moderation forscht, bemängelt die mangelnde Offenheit des Unternehmens. Häufig erfuhren Nutzer nicht, was die Sperrung ausgelöst hatte. Ihrer Meinung nach könnten Änderungen in den Richtlinien sowie ein ineffektiver Beschwerdeprozess hinter den Fehlern stecken.
Frühere Stellungnahmen betonen, dass Sperrungen nur bei klaren Verstößen erfolgen würden – mit Möglichkeit zur Berufung. Wie andere große Tech-Firmen steht der Konzern jedoch unter wachsendem regulatorischem Druck, seine Plattformen sicherer zu gestalten.
Nach eigenen Angaben nutzt der Konzern eine Kombination aus Technologie und menschlicher Prüfung. Einen Anstieg fehlerhafter Sperrungen sehe man nicht. Die Richtlinien erfassen auch KI-generierte oder fiktive Inhalte mit menschlichem Aussehen.
Das Unternehmen meldet alle gemeldeten Fälle mutmaßlicher Ausbeutung an das National Center for Missing and Exploited Children (NCMEC) in den USA. Diese Institution leitet die Informationen weltweit an Strafverfolgungsbehörden weiter.
