In den vergangenen Tagen hat OpenAI die Welt mit einem neuen KI-Modell namens Sora in Staunen versetzt. Sora wandelt Texteingaben (Prompts) in realistische Videos um. Und die bisherigen Beispiele sind einfach nur atemberaubend: https://openai.com/sora
Will Smith per KI vor 1 Jahr war eher ein Horrorfilm
Vor nicht mal einem Jahr hat eine KI generiertes Video die Runde gemacht, in dem Will Smith Spaghetti gegessen hat. Das Video war eher wie ein Horror-Film.
Sora ist ein riesiger Technologiesprung
Die aktuellen Videos von Sora sind einfach nur ein enormer Unterschied und ein riesiger Sprung in der KI-Welt.
So spannend die Videos auch sind, sie machen mir (und vielen anderen auch) richtig Angst. Denn wenn du per Texteingabe solche realistischen Videos erstellen kannst, wird es nicht lange dauern, bis Deep Fakes, Fake News, Fehlinformationen und Wahlbeeinflussung die Runde machen.
Die Videos können auch für Fakes und Betrug genutzt werden
Ich hoffe stark auf die Medienkompetenz meiner Mitmenschen, die die Videos kritisch hinterfragen. Allerdings fürchte ich, dass das nur ein Wunsch bleibt.
Bisher ist Sora nur zu Forschungszwecken für einen kleinen Nutzerkreis verfügbar.
OpenAI setzt zwar auf hohe Sicherheitsmaßnahmen und Nutzungsbedingungen, außerdem bittet man um ethischen Umgang mit dem KI-Modell.
So sollen Darstellungen von Gewalt und Sexualität oder potenzielle Urheberrechtsverletzungen automatisch blockiert werden.
Das funktioniert beim Bildgenerator Dall-E nur unzuverlässig, viele der Schutzmechanismen können mit etwas Geschick ausgetrickst werden. Auch die Ende Januar viral gegangenen KI-Fakes von Taylor Swift mit sexualisierten Darstellungen hätte es theoretisch gar nicht geben dürfen.
Quellen:
- https://openai.com/sora
- https://www.sueddeutsche.de/wirtschaft/sora-openai-ki-videos-fake-chatgpt-1.6366183
- https://www.faz.net/aktuell/wirtschaft/unternehmen/sora-open-ai-stellt-system-vor-das-aus-texten-videos-macht-19524676.html
- https://www.heise.de/news/Sora-Generative-KI-von-OpenAI-soll-realistische-Videos-erschaffen-9630109.html
