Deepfake’i mogą prowadzić do poważnych szkód na poziomie społecznym; zmanipulowane mogą zostać treści tekstowe, graficzne, audio i video, np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny – wskazano w analizie Think Tanku Parlamentu Europejskiego.
„Deepfake’i mogą mieć również złośliwy, oszukańczy, a nawet destrukcyjny charakter na poziomie indywidualnym, organizacyjnym i społecznym. Potencjalne zagrożenia można podzielić na trzy kategorie: psychologiczne, finansowe i społeczne. Po pierwsze, z uwagi na to, że deepfake’i są kierowane do indywidualnych osób, wywołują w grupie odbiorców bezpośrednie konsekwencje psychologiczne. Po drugie, nie ulega wątpliwości, że deepfake’i mogą być tworzone i rozpowszechniane z zamiarem wywołania szkód finansowych. Po trzecie zaś, istnieją poważne obawy co do nadrzędnych, społecznych konsekwencji zastosowania tej technologii” – głosi raport.
Dodali, że wpływ pojedynczego deepfake’a nie ogranicza się do jednej kategorii ryzyka, ale ma charakter kaskadowy i obejmuje wiele poziomów. „Deepfake’i obierają jako cel indywidualne osoby, więc ich oddziaływanie zaczyna się na poziomie jednostki. Mogą też zaszkodzić określonej grupie lub organizacji. Poza tym skumulowany efekt deepfake’a może prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowany może zostać np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny” – wyjaśnili.
W analizie wskazano, że przepisy prawne regulujące kwestię deepfake’ów obejmują złożoną sieć norm konstytucyjnych, a także twarde i miękkie regulacje zarówno na poziomie UE, jak i państw członkowskich. Wśród najważniejszych regulacji na poziomie europejskim wymieniono ogólne rozporządzenie o ochronie danych, ramy UE dotyczące sztucznej inteligencji, prawo autorskie, dyrektywę o handlu elektronicznym, ustawę o usługach cyfrowych, dyrektywę o audiowizualnych usługach medialnych, kodeks postępowania w zakresie zwalczania dezinformacji oraz Europejski plan działania na rzecz demokracji.
Eksperci zwrócili uwagę, że konkretne wzmianki o deepfake’ach można znaleźć w różnych stanowiskach Parlamentu Europejskiego. „Najbardziej wszechstronnym i najnowszym dokumentem dotyczącym dyskusji na temat deepfake’ów jest rezolucja z 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym” – zaznaczyli.
PE wezwał Komisję Europejską do wprowadzenia odpowiednich ram prawnych regulujących tworzenie, produkcję lub dystrybucję deepfake’ów dla negatywnych celów, zwiększenie przejrzystości treści wyświetlanych użytkownikom platform internetowych, by zapewnić im większą swobodę podejmowania decyzji, czy i jakie informacje chcą otrzymywać” – podsumowali. (PAP)
