Das KI-Unternehmen OpenAI hat am Montag sein Video-Generierungsprogramm Sora für Kunden freigegeben. Mit dieser Veröffentlichung will OpenAI eine führende Rolle bei der Gestaltung von Regeln für KI-generierte Videos einnehmen.
Das Programm verarbeitet schriftliche Eingaben und erstellt digitale Videos von bis zu 20 Sekunden Länge. OpenAI stellte die Beta-Version von Sora im Februar vor und veröffentlichte nun die allgemeine Version als eigenständiges Produkt.
„Wir möchten, dass die Welt nicht nur aus Text besteht. Wenn KI-Systeme hauptsächlich mit Text arbeiten, verpassen wir etwas Wichtiges“, sagte OpenAI-CEO Sam Altman während einer live übertragenen Ankündigung am Montag.
In einem Blogbeitrag erklärte das Unternehmen, es wolle die kulturellen und regulatorischen Rahmenbedingungen für KI-generierte Videos aktiv mitgestalten. „Wir stellen unsere Video-Generierungstechnologie jetzt vor, um der Gesellschaft Zeit zu geben, ihre Möglichkeiten zu erkunden und Normen sowie Schutzmaßnahmen zu entwickeln, die eine verantwortungsvolle Nutzung sicherstellen.“
Was kann Sora?
Das Programm nutzt sein „tiefes Sprachverständnis“, um Eingaben zu interpretieren und Videos mit „komplexen Szenen“ zu erstellen. Diese können bis zu einer Minute lang sein und mehrere Charaktere, Kameraperspektiven, spezifische Bewegungen und genaue Details enthalten.
Während der Beta-Phase präsentierte OpenAI Beispiele wie animierte Monster und Kängurus oder realistische Videos von Menschen. Dazu gehörten etwa eine Frau, die durch eine Straße in Tokio geht, oder ein filmischer Trailer eines Astronauten auf einer Salzebene.
Dennoch weist das Unternehmen darauf hin, dass das Programm Einschränkungen hat. „Es erzeugt oft unrealistische Physik und hat Schwierigkeiten mit komplexen Aktionen über längere Zeiträume“, heißt es im Blogbeitrag.
OpenAI schützt vor missbräuchlicher Nutzung
Kritiker der KI-Technologie warnen vor möglichen Missbräuchen und verweisen auf Fälle wie Deepfakes von Präsident Joe Biden oder AI-generierte, explizite Fotos von Taylor Swift.
OpenAI erklärte, dass die Erstellung von Videos mit realen Personen zunächst eingeschränkt bleibt. Diese Einschränkungen sollen jedoch gelockert werden, sobald die Maßnahmen zur Verhinderung von Deepfake-Missbrauch verbessert sind.
„Unsere oberste Priorität ist es, besonders schädliche Formen von Missbrauch zu verhindern, wie etwa die Erstellung von kinderpornografischem Material (CSAM) oder sexuellen Deepfakes“, so das Unternehmen. OpenAI setzt auf Blockierungen, Filter, Überwachung, fortschrittliche Erkennungstools und Meldungen an das National Center for Missing & Exploited Children (NCMEC), wenn entsprechendes Material erkannt wird.
Alle von Sora erstellten Videos enthalten standardmäßig C2PA-Metadaten und Wasserzeichen. Diese Funktionen ermöglichen es den Nutzern, Sora-Videos eindeutig zu identifizieren.
