Na Słowacji na kilka dni przed wyborami internet zalały wygenerowane przez sztuczną inteligencję nagrania rozmowy jednego z polityków z dziennikarką. Ta oczywiście kompromitowała każdą z tych osób, bo dotyczyła m.in. fałszowania wyników wyborów. Udowodnienie, że nagranie zostało wygenerowane nie było proste. Czy sztuczna inteligencja stanowi więc zagrożenie dla demokracji?
Sfałszowana rozmowa słowackiego polityka
30 września na Słowacji odbyły się przedterminowe wybory parlamentarne. Zaledwie dwa dni przed tym wydarzeniem w mediach społecznościowych opublikowano nagranie audio. To fragment rzekomej rozmowy Michala Šimečka, który stoi na czele liberalnej partii Postępowa Słowacja i Moniki Tódovej z portalu Denník N. Podczas wygenerowanej rozmowy dyskutują o tym, jak sfałszować wybory. Mówią o kupowaniu głosów i marginalizowaniu mniejszości romskiej w kraju.
Šimečka i Denník N natychmiast zareagowali na nagranie i stwierdzili, że nie jest prawdziwe. Agencja informacyjna AFP również potwierdziła, że w pliku audio da się rozpoznać elementy, które mogą świadczyć o wygenerowaniu rozmowy przy użyciu sztucznej inteligencji.
Samo nagranie zostało opublikowane podczas ciszy wyborczej. Oznaczało to, że zgodnie ze słowackimi przepisami wyborczymi stanowisko to trudno było powszechnie zdemaskować. Post ze sfałszowaną rozmową pojawił się na Facebooku. Jako, że deep fake miał formę nagrania audio, nie naruszał tym samym polityki Mety, która wyraźnie zabrania publikacji wygenerowanych przez AI filmów – o samym dźwięku nie ma tam mowy.
Sztuczna inteligencja a wybory na Słowacji
Słowackie wybory były zaciętą walką między dwiema partiami z przeciwstawnymi wizjami przyszłości kraju. Ostatecznie wygrała partia Kierunek – Słowacka Socjaldemokracja (Smer-SD) byłego premiera kraju Roberta Ficy, który obiecywał zakończenie pomocy wojskowej dla Ukrainy.
Przed głosowaniem szefowa UE ds. technologii cyfrowych Věra Jourová powiedziała, że wybory na Słowacji będą sprawdzianem tego, jak podatne są wybory europejskie na „wartą wiele milionów euro broń masowej manipulacji używaną przez Moskwę do ingerencji w wybory”.
Dezinformacja podczas wyborów
Czy podobna historia mogłaby wydarzyć się w Polsce? Jak wynika z niedawnego badania Unii Europejskiej, nasz kraj jest szczególnie narażony na dezinformację. W przyszłym roku wybory odbędą się również m.in. w Wielkiej Brytanii, Indiach, UE i USA.
Algorytmy sztucznej inteligencji są już niezwykle zaawansowane, a osobom, wykrywającym dezinformację brakuje odpowiednich narzędzi. Istniejące systemy ustalają jedynie prawdopodobieństwo sfałszowania nagrania, a osoby je obsługujące nie wiedzą, na jakiej podstawie algorytm to oblicza. Veronika Hincová Frankovská, kierowniczka projektu w organizacji zajmującej się weryfikacją faktów Demagog, przyznała, że udowodnienie, że nagranie zostało wygenerowane przez AI, było trudne. Zespół Frankovskiej ustalił, że pierwotnie ukazało się ono na anonimowym koncie na Instagramie. Przez kilka godzin weryfikował czy dźwięk został sfałszowany, a nad problemem pochyliło się wielu specjalistów z zewnątrz organizacji. Ostatecznie padła decyzja, że nagranie nie jest prawdziwe, a pod postem na Facebooku każdorazowo widnieje informacja, że “Niezależni weryfikatorzy twierdzą, że zdjęcie lub obraz zostało zmodyfikowane w sposób mogący wprowadzać w błąd”. Użytkownicy Facebooka mogą następnie zdecydować, czy mimo to chcą posłuchać rozmowy.
“Kiedy treść posta jest sprawdzana pod kątem dezinformacji, oznaczamy ją specjalną etykietą i obniżamy jej ranking, dzięki czemu mniej osób ją widzi. Nasze standardy społeczności mają zastosowanie do wszystkich treści, niezależnie od tego, czy są one tworzone przez sztuczną inteligencję, czy przez osobę. Podejmiemy działania wobec treści naruszających te zasady”.
Ben Walter, rzecznik prasowy Mety
Sztuczna inteligencja jako zagrożenie dla demokracji?
Wybory na Słowacji były jednymi z pierwszych, które odbyły się po wprowadzeniu w sierpniu unijnej ustawy o usługach cyfrowych. Ustawa, mająca na celu lepszą ochronę praw człowieka w Internecie, wprowadziła nowe zasady, które miały wymusić na platformach większą aktywność i przejrzystość działań na rzecz moderowania dezinformacji. Richard Kuchta, analityk w Reset – grupie badawczej skupiającej się na wpływie technologii na demokrację – przyznał, że Słowacja była “przypadkiem testowym”, który uświadomił ekspertów, co się sprawdza, a gdzie warto wprowadzić kolejne zmiany. Jego zdaniem nowe prawo wywarło presję na platformy, aby te zwiększyły możliwości moderowania treści lub weryfikowania faktów. Meta przykładowo zatrudniła więcej osób na potrzeby wyborów na Słowacji.
Źródło: Wired