Der rasant wachsende AI-Zweig der deepfakes und synthetic media technology breitet sich zunehmen in die kommerzielle Industrie aus. AI-Models, Robo-Influencer und face swaps und nun also auch full body deepfakes halten Einzug in unseren digitalen Alltag (selbstverständlich auch in der Schweiz).
Прочитайте данную статью также на русском языке (Russische Version).
Fiktion wird wurde Realität
Was eigentlich relativ harmlos und nach Spass klingt, kann sehr ernsthafte und schwerwiegende Konsequenzen haben. Nicht nur können Videos komplett gefälscht werden, gefakte Politiker können mit Aussagen Kriege, soziale Unruhen und Börsencrashes verursachen, zum Mord an Minderheiten anstiften und im schlimmsten Fall können ganze Gesellschaften und Demokratien durch deepfakes ausgelöscht werden.
In diesem Fall erweist sich der russische Schriftsteller Viktor Pelevin als Visionär. Er lässt seinen Protagonisten Babylen Tatarky im Roman Homo Zapien bereits in den 90er Jahren entdecken, dass die bekanntesten Politiker in seinem Roman virtuelle Simulationen sind. Es scheint, dass seine Vision – ob das nun als Utopie oder Dystopie betrachtet – mit grossen Schritten Realität wird.
Nach deepfake faces, welche vor ein paar Jahren aufgekommen sind und die Weltbevölkerung ziemlich erschreckt haben, kommen nun die full body deepfakes. Die University of California zeigte Ende 2018 auf, dass ein Algorithmus Tanzbewegungen von Profis auf Amateure übertragen kann. Somit konnte jeder noch so untalentierte Tänzer plötzlich die schwierigsten Bewegungsabfolgen bewältigen. Zumindest virtuell.
Werden Models obsolet?
Doch damit nicht genug, letztes Jahr veröffentlichte das Japanische AI-Unternehmen Data Grid eine AI, die ganze nichtexistierende Körper generieren konnte, welche sich wie Models bewegen und verhalten. Von blossem Auge ist nicht mehr zu erkennen, ob es sich dabei um einen realen Menschen oder eine AI handelt.
Kann man also jetzt schon sagen, dass der Beruf Model vom Aussterben bedroht ist? Denn warum sollte ein Modeunternehmen noch für Modelgage, Flüge, Make-up, Hotelzimmer, etc. bezahlen, wenn man die Models ganz einfach von einer AI generieren lassen kann?
Gehen wir noch einen Schritt weiter: Stell dir vor, du bist im Einkaufscenter und möchtest neue Kleider kaufen. Überall siehst du Werbeplakate und Screens mit schönen Models die die neusten Kreationen tragen. Du bleibst vor einem Screen stehen und plötzlich siehst du nicht mehr das Model auf dem Screen, sondern dich in den neusten Klamotten. Du siehst sofort, ob dir die Hose steht oder nicht und bist ab nun der Star jeder Kampagne, jedes Kleidungsstück, jeder Schuh und jedes Make-up siehst du sofort an dir selbst, denn der Screen erkennt dich und der AI-Algorithmus fügt dich in Sekundenbruchteilen in die Kampagne ein.
Klingt nach weit entfernter Zukunft? Nein! Dies ist bereits jetzt möglich in einigen Fashion Stores in Asien.
Hallo, ich bin deepfake!
Doch nicht nur Models sind durch immer intelligentere Algorithmen in ihrer Existenz bedroht, auch Influencer kommen zunehmend unter Druck von AI basierten Influencern wie beispielsweise Lilmiquela.
Lilmiquela ist ein AI-Programm, welches mehrere Millionen Followers auf Instagram hat und da für einige Brands, doch vor allem für sich selbst Werbung macht. Auf den ersten Blick erscheint sie wie eine echte, sympathische junge Frau mit Sommersprossen, mit der sich Millionen Mädchen identifizieren können.
Erst wenn man genauer hinschaut, lässt sich ansatzweise erkennen, dass es sich bei ihr um einer virtuelle AI handelt. Die Frage, die sich nun stellt, ist, ob wir in Zukunft noch unterscheiden können zwischen Mensch und Maschine.
Wenn man den Gedanken weiterspinnt, brauchen wir noch Nachrichtensprechen, Moderatoren und Schauspieler? Oder werden wir in Zukunft statt den Gesichtern der Schauspieler in Hollywoodfilmen das eigene Gesicht und das Gesicht meiner Freunde, Feinde oder sonstigen gewünschten Personen sehen? Dass dies bereits jetzt möglich ist, zeigt das letzte Jahr lancierte App Zao. Mit ihr kann man innerhalb von Sekunden das Gesicht der Protagonisten durch sein Eigenes ersetzen. Kurz: Der neue Star in jedem Film bist DU!
Dies wirft jedoch diverse weitere Fragen auf: Fast jeder entsperrt heutzutage sein Handy mit dem Gesicht, in China bezahlen schon Millionen von Menschen mit ihrem Gesicht. Kann man nun mit Hilfe von deepfakes einfach und leicht mit Handys hacken und mit fremden Gesichtern bezahlen?
Alipay versichert, dass ihr Algorithmus ein deepfake face sofort erkennt, doch je besser die Algorithmen werden, desto schwieriger wird es, Realität und Fiktion zu unterscheiden.
Wird jedermann zum Pornostar?
Doch nicht nur das eigene Portmonee ist in Gefahr, auch die eigene Reputation, der Job, sogar das ganze Umfeld ist in Gefahr. Man stelle sich vor, du erhältst eines Tages eine E-Mail mit einem Video, du öffnest ihn und stellst mit Entsetzen fest, dass du in einem illegalen Pornofilm die Hauptrolle spielst.
Es kommt dir vor wie ein böser Traum, denn die AI-Algorithmen sind bereits so gut entwickelt, dass du überhaupt keine Anhaltspunkte finden kannst, dass es sich dabei um einen deepfake handelt.
Stell dir vor, deine Familie, dein Ehepartner, deine Chefin und deine Freunde sehen das Video. Wie würdest du reagieren wann man zwischen Realität und Fiktion nicht mehr unterscheiden kann? Oder anders gefragt, was ist dann noch Realität und was ist Fiktion?
