Platforma Obywatelska w spocie użyła głosu Mateusza Morawieckiego wygenerowanego przez sztuczną inteligencje
Platforma Obywatelska w spocie wyborczym wykorzystała wygenerowany przez sztuczną inteligencję głos premiera Mateusza Morawieckiego, który czytał jego domniemane maile z Poufnej Rozmowy. Nigdzie nie zaznaczono, że nie są to słowa wypowiedziane przez polityka.
W czwartek na profilu Platformy Obywatelskiej na X (wcześniej: Twitter) ukazało się wideo, w którym krytykowano premiera Mateusza Morawieckiego. Zestawiono jego wystąpienie z Sejmu i słowa „Zjednoczona Prawica jest twarda jak stal” z tekstami nieprzychylnymi Zbigniewowi Ziobrze z maili, jakie opublikowała strona Poufna Rozmowa..Ich domniemanym autorem miał być właśnie Morawiecki.
Jak tak naprawdę wyglądają relacje w „zjednoczonej” prawicy? Przekonajcie się sami! #MailePrawdy pic.twitter.com/ehytYIqwKf
— PlatformaObywatelska (@Platforma_org) August 24, 2023
W nagraniu teksty maili czyta głos wygenerowany przez sztuczną inteligencję, który jednak całkiem udanie imituje głos prawdziwego Morawieckiego. Nie zostało to nigdzie w wideo oznaczone.
To nie pierwsze tego typu wideo PO. 22 sierpnia opublikowano podobne wideo, w którym AI czyta kwestie głosami Morawieckiego i prezesa Orlenu Daniela Obajtka, dzień później – Michała Dworczyka, byłego szefa kancelarii premiera. Dopiero po dwóch dniach dodano tweety „Lektor wygenerowany przez AI”.
Zobacz kolejny materiał z serii #MailePrawdy! 🎥
— PlatformaObywatelska (@Platforma_org) August 22, 2023
Posłuchaj, jak zaczynała się kariera Daniela Obajtka w państwie PiS! Czy tak samo wyglądała twoja rozmowa o pracę? 🤔 pic.twitter.com/ZPlVB1YuX5
„Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy »zaginioną rozmowę Tuska z Putinem na molo w Sopocie«? Albo »wideo z tajnej narady u Kaczyńskiego?« Kto będzie rozróżniał co jest prawdziwe, a co podrasowane, gdy już teraz wszelkiego rodzaju fejki roznoszą się z prędkością światła?” - pytał Marcin Makowski z „Wprost”.
Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy…
— Marcin Makowski (@makowski_m) August 24, 2023
Niebezpieczna zabawa
„Gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ. Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych” - oceniła dziennikarka technologiczna Sylwia Czubkowska.
Ja wiem wiem zaraz mi się oberwie za symetryzm...
— Sylwia Czubkowska (@sylvcz) August 24, 2023
Ale: gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ.
Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych. https://t.co/i8br6ltGIE
- To nie jest jeszcze deepfake, to taki semideepfake – dodaje Czubkowska w rozmowie z Wirtualnemedia.pl. - Ale to, że pojawiło się takie nagranie bez żadnego wyraźnego oznaczenia, bo nie jest takim tweet po kilku godzinach, jest złym sygnałem. Jeszcze bardziej niebezpieczne są komentarze zwolenników Platformy, że w czym problem, że to nie jest zakazane – uważa dziennikarka.
- Nie będziemy mieli szybko regulacji nakazujących opisywanie deepfake'ów. One są w AI Act, który kilka miesięcy temu przeszedł przez Parlament Europejski. Implementacja może zająć około dwóch lat w unijnym prawie. Nie można spodziewać się, że przepisy pojawią się szybciej, to zawsze zajmuje czas, nawet przy ogromnej woli politycznej – podkreśla Czubkowska.
Dziennikarka nie spodziewa się też krajowych przepisów w tej kwestii. - Jesteśmy przed końcem kadencji Sejmu, ustawy nie przepchnie się w miesiąc. Bez sensu jest pisać własne przepisy, skoro i tak po implementacji unijnych trzeba byłoby je poprawiać – zaznacza.
Czy jednak po takich spotach PO ze strony partii rządzącej nie pojawi się wola polityczna, by kwestie głosów czy obrazów wygenerowanych przez sztuczną inteligencję jednak uregulować? - Prędzej będzie to sygnał dla innych, że można takie rzeczy robić. To wróżenie z fusów, ale może ktoś teraz pokaże Donalda Tuska mówiącego po niemiecku? - zastanawia się Czubkowska.
- Najlepszym obrazem tego, w jakim może to pójść kierunku, i to nie od strony technologicznej, bo ona jest najbanalniejsza, widać i słychać, że to nie jest prawdziwe: najważniejszy jest element psychologiczny, co świetnie pokazywał serial „Rok za rokiem” - uważa dziennikarka. Tam grana przez Emmę Thompson polityczka przyznaje, że widea przedstawiające jej rywali są fałszywe, ale dodaje, że oni mogliby te słowa powiedzieć. - Wiemy, że to nie jest prawdziwe, ale przecież oni tak myślą, to i tak byłyby ich słowa. I ludzie tak zaczną myśleć - mówi Czubkowska.
- To bardzo emocjonalna kampania, może bardziej nawet niż zwykle, bańkowa, oparta na skrajnych grupach działających w internecie. Do nich łatwo uderzyć z takim przekazem. Wyobraźmy sobie, że bardziej jeszcze podkręcony deepfake pojawia się w piątek o godzinie 17 tuż przed ciszą wyborczą. Kto go będzie prostował? To jest niebezpieczeństwo. Łatwo otworzyć tamę, trudniej potem ją zamknąć – dodaje dziennikarka.
Dołącz do dyskusji: Platforma Obywatelska w spocie użyła głosu Mateusza Morawieckiego wygenerowanego przez sztuczną inteligencje