SzukajSzukaj
dołącz do nas Facebook Google Linkedin Twitter

Platforma Obywatelska w spocie użyła głosu Mateusza Morawieckiego wygenerowanego przez sztuczną inteligencje

Platforma Obywatelska w spocie wyborczym wykorzystała wygenerowany przez sztuczną inteligencję głos premiera Mateusza Morawieckiego, który czytał jego domniemane maile z Poufnej Rozmowy. Nigdzie nie zaznaczono, że nie są to słowa wypowiedziane przez polityka.

Mateusz Morawiecki (screen: YouTube/Kancelaria Premiera) Mateusz Morawiecki (screen: YouTube/Kancelaria Premiera)

W czwartek na profilu Platformy Obywatelskiej na X (wcześniej: Twitter) ukazało się wideo, w którym krytykowano premiera Mateusza Morawieckiego. Zestawiono jego wystąpienie z Sejmu i słowa „Zjednoczona Prawica jest twarda jak stal” z tekstami nieprzychylnymi Zbigniewowi Ziobrze z maili, jakie opublikowała strona Poufna Rozmowa..Ich domniemanym autorem miał być właśnie Morawiecki.

W nagraniu teksty maili czyta głos wygenerowany przez sztuczną inteligencję, który jednak całkiem udanie imituje głos prawdziwego Morawieckiego. Nie zostało to nigdzie w wideo oznaczone.

To nie pierwsze tego typu wideo PO. 22 sierpnia opublikowano podobne wideo, w którym AI czyta kwestie głosami Morawieckiego i prezesa Orlenu Daniela Obajtka, dzień później – Michała Dworczyka, byłego szefa kancelarii premiera. Dopiero po dwóch dniach dodano tweety „Lektor wygenerowany przez AI”.

„Wykorzystywanie AI do kampanii wyborczej, zwłaszcza w kontekście generowanie deep-fakeowego wideo czy głosu, to autostrada do postpolityki. Zacieranie granicy między cytatem, a tworzeniem kontekstu, który nie zaistniał skłoni do przesuwania tej granicy. Czy zaraz dostaniemy »zaginioną rozmowę Tuska z Putinem na molo w Sopocie«? Albo »wideo z tajnej narady u Kaczyńskiego?« Kto będzie rozróżniał co jest prawdziwe, a co podrasowane, gdy już teraz wszelkiego rodzaju fejki roznoszą się z prędkością światła?” - pytał Marcin Makowski z „Wprost”.

Niebezpieczna zabawa

„Gdy wykorzystuje się AI do sztucznego generowania głosu SZCZEGÓLNIE POLITYKA to TRZEBA TO JASNO I WYRAŹNIE OZNACZYĆ. Inaczej przykłada się rękę do niebezpiecznej zabawy w generowanie półprawd i deep fejków politycznych” - oceniła dziennikarka technologiczna Sylwia Czubkowska.

- To nie jest jeszcze deepfake, to taki semideepfake – dodaje Czubkowska w rozmowie z Wirtualnemedia.pl. - Ale to, że pojawiło się takie nagranie bez żadnego wyraźnego oznaczenia, bo nie jest takim tweet po kilku godzinach, jest złym sygnałem. Jeszcze bardziej niebezpieczne są komentarze zwolenników Platformy, że w czym problem, że to nie jest zakazane – uważa dziennikarka.

- Nie będziemy mieli szybko regulacji nakazujących opisywanie deepfake'ów. One są w AI Act, który kilka miesięcy temu przeszedł przez Parlament Europejski. Implementacja może zająć około dwóch lat w unijnym prawie. Nie można spodziewać się, że przepisy pojawią się szybciej, to zawsze zajmuje czas, nawet przy ogromnej woli politycznej – podkreśla Czubkowska.

Dziennikarka nie spodziewa się też krajowych przepisów w tej kwestii. - Jesteśmy przed końcem kadencji Sejmu, ustawy nie przepchnie się w miesiąc. Bez sensu jest pisać własne przepisy, skoro i tak po implementacji unijnych trzeba byłoby je poprawiać – zaznacza.

Czy jednak po takich spotach PO ze strony partii rządzącej nie pojawi się wola polityczna, by kwestie głosów czy obrazów wygenerowanych przez sztuczną inteligencję jednak uregulować? - Prędzej będzie to sygnał dla innych, że można takie rzeczy robić. To wróżenie z fusów, ale może ktoś teraz pokaże Donalda Tuska mówiącego po niemiecku? - zastanawia się Czubkowska.

- Najlepszym obrazem tego, w jakim może to pójść kierunku, i to nie od strony technologicznej, bo ona jest najbanalniejsza, widać i słychać, że to nie jest prawdziwe: najważniejszy jest element psychologiczny, co świetnie pokazywał serial „Rok za rokiem” - uważa dziennikarka. Tam grana przez Emmę Thompson polityczka przyznaje, że widea przedstawiające jej rywali są fałszywe, ale dodaje, że oni mogliby te słowa powiedzieć. - Wiemy, że to nie jest prawdziwe, ale przecież oni tak myślą, to i tak byłyby ich słowa. I ludzie tak zaczną myśleć - mówi Czubkowska.

Czytaj też: W sprawie sztucznej inteligencji niezbędne są precyzyjne regulacje. "O tej technologii nie mogą decydować prywatne firmy"

- To bardzo emocjonalna kampania, może bardziej nawet niż zwykle, bańkowa, oparta na skrajnych grupach działających w internecie. Do nich łatwo uderzyć z takim przekazem. Wyobraźmy sobie, że bardziej jeszcze podkręcony deepfake pojawia się w piątek o godzinie 17 tuż przed ciszą wyborczą. Kto go będzie prostował? To jest niebezpieczeństwo. Łatwo otworzyć tamę, trudniej potem ją zamknąć – dodaje dziennikarka.

Dołącz do dyskusji: Platforma Obywatelska w spocie użyła głosu Mateusza Morawieckiego wygenerowanego przez sztuczną inteligencje

18 komentarze
Publikowane komentarze są prywatnymi opiniami użytkowników portalu. Wirtualnemedia.pl nie ponosi odpowiedzialności za treść opinii. Jeżeli którykolwiek z postów na forum łamie dobre obyczaje, zawiadom nas o tym redakcja@wirtualnemedia.pl
User
Opo
Czekamy na filmy wygenerowane przez AI . Swoja droga co im mogą zrobić? Sąd w trybie wyborczym ? Następny spotem będą przeprosiny z użyciem głosu Budki wygenerowanym przesz sztuczną inteligencje ? Czy w wyroku zaznacza ze musi wykonać go człowiek ?
31 7
odpowiedź
User
qba
No to się zaczyna. Wykorzystywanie AI do deepfakeów w kampani wyborczej. Tym razem jeszcze nieśmiało, ale kampania do wyborów za 5 lat to już będzie czysta jazda bez trzymanki.
0 0
odpowiedź
User
student
Czym taki wygenerowany głos różni się od prawdziwego głosu "sobowtóra"? Pamiętamy parodie Wałęsy czy Jana Pawła II. Wtedy to było ok?
0 0
odpowiedź