Unijna propozycja regulacji znana w mediach pod nazwą „Chat Control” – formalnie projekt rozporządzenia CSAR (Child Sexual Abuse Regulation) – jest jedną z najpoważniejszych w ostatnich latach prób ingerencji w prywatność cyfrową obywateli państw członkowskich. Pod hasłem ochrony dzieci przed treściami CSAM (Child Sexual Abuse Material) projekt zobowiązywałby dostawców usług komunikacyjnych do skanowania zaszyfrowanych wiadomości – w tym czatów, e-maili, zdjęć – przed ich wysłaniem. Eksperci od bezpieczeństwa cyfrowego, organizacje praw człowieka i część rządów państw członkowskich od miesięcy ostrzegają: cel jest słuszny, środek – niebezpieczny i precedensowy.
Unia Europejska ma wkrótce wprowadzić przepisy, które będą oznaczały, że cała prywatna komunikacja obywateli UE będzie monitorowana.
W tym roku Komisja Europejska będzie pracować nad wnioskiem legislacyjnym o nazwie Chat Control. Wniosek ten ma na celu objęcie monitorowaniem i kontrolą całej komunikacji obywateli UE. Oznacza to, że wszystkie rozmowy telefoniczne, wideorozmowy, wiadomości tekstowe, każda linijka we wszelkiego rodzaju aplikacjach do przesyłania wiadomości, e-maile i rozmowy na czacie w grach wideo i aplikacjach randkowych – tak, wszystko to – będzie filtrowane w czasie rzeczywistym i potencjalnie oznaczane do bardziej szczegółowego przeglądu. Dotyczy to również zdjęć i filmów zapisanych w chmurze, czyli przepisy zasadniczo wpływają na wszystko, co robimy ze swoim smartfonem. Innymi słowy, życie osobiste będzie w pełni wystawione na kontrolę rządu. Większość ludzi nigdy nawet nie słyszała o tym prawodawstwie, mimo że będzie ono dotyczyło wszystkich obywateli Unii Europejskiej.
Komisja Europejska twierdzi, że przepisy są potrzebne do wykrywania i zapobiegania pornografii dziecięcej (CSAM) i uwodzenia dzieci. Problem polega na tym, że ten wniosek legislacyjny nie pomoże zbytnio dzieciom. Zamiast tego sprawi, że internet stanie się niebezpieczną przestrzenią dla wszystkich.
Koniec szyfrowanej komunikacji
W jaki sposób UE zamierza stworzyć masowy system nadzoru, który będzie monitorował komunikację każdego obywatela UE? Ponieważ ten wniosek legislacyjny dotyczy również szyfrowanych usług przesyłania wiadomości, będą dwie możliwości: albo UE zażąda tylnych drzwi do całej komunikacji, co oznacza, że każda rozmowa będzie miała słuchacza będącego osobą trzecią, albo, alternatywnie, każda komunikacja będzie musiała być przechwycona przez telefon lub komputer, zanim zostanie wysłana i opuści urządzenie. Obie te opcje oznaczają koniec prywatnych rozmów w UE. To samo w sobie będzie miało katastrofalne skutki, ale o tym więcej później. Przede wszystkim należy wziąć pod uwagę ogromną liczbę komunikatów, które trzeba będzie monitorować i sortować.
Przeczytaj artykuł o tym, Alert RCB w całej Polsce. Poradnik jest, schronów brak…
Jeśli te przepisy staną się rzeczywistością, UE zażąda, aby wszystkie firmy oferujące usługi cyfrowe spełniały wymogi Chat Control, aby wypełnić swoje zobowiązania. Wszystkie firmy cyfrowe będą musiały upewnić się, że narzędzia skanują całą komunikację użytkowników pod kątem CSAM lub komunikacji o charakterze seksualnym między dorosłymi a dziećmi. Następnie będą musiały albo same przejrzeć te materiały, albo wysłać je do nowego centrum UE, które trzeba będzie zbudować.
Narzędzie AI będzie skanować każdy bit komunikacji każdego obywatela w poszukiwaniu tego materiału. Jak myślicie, jak dobrze to pójdzie? Europejskie organy ścigania próbowały wyszukiwać znane już materiały, a nawet wtedy 80-90 procent trafień było fałszywych (czyli zupełnie zwyczajne, legalne zdjęcia). Chat Control wymaga również wykrywania „nowych materiałów”, co oznacza, że narzędzia AI będą musiały zdecydować, czy materiał jest nielegalny, czy to tylko intymne wiadomości tekstowe między partnerami, nagie zdjęcia między dwudziestolatkami, zdjęcia z wakacji na plaży czy zdjęcia z rodzinnego albumu przy basenie, gdy spodnie kąpielowe wylądowały na czyjejś głowie. System ten będzie gromadził nieskończoną ilość (całkowicie legalnych) prywatnych zdjęć i rozmów całej populacji UE. Jest to bezprecedensowe naruszenie prywatności. I pojawia się pytanie, co stanie się z tymi wszystkimi zdjęciami?
Czytaliśmy historie o prywatnych firmach ochroniarskich rozsyłających po biurze materiały, których nie powinny rozsyłać. Słyszeliśmy, jak Edward Snowden opowiadał, że pracownicy NSA zwykli siedzieć i patrzeć na nagie kobiety. Dlaczego od wszystkich pracowników, którzy prowadzą tę operację inwigilacyjną, należy oczekiwać lepszych wyników? I kim oni w ogóle są? Dlaczego ubiegali się o te stanowiska i jaką mamy pewność, że nie będą rozpowszechniać tych materiałów, w tym nielegalnych zdjęć, do których wykrywania zostaną zatrudnieni? Ale to nawet nie są największe problemy, z jakimi przyjdzie nam się zmierzyć przy Chat Control. Jest tego więcej.
Totalna masowa inwigilacja była kiedyś spotykana tylko w państwach totalitarnych
Wdrożenie tego systemu będzie z natury rzeczy oznaczało całkowite naruszenie prywatności. Ale jest jeszcze coś, czym należy się martwić, a mianowicie to, jak ten system może być wykorzystywany przez różne rządy w UE. Po wprowadzeniu systemu zaszyfrowane usługi przesyłania wiadomości staną się przeszłością, a cała komunikacja międzyludzka będzie podlegała przechwyceniu. Później system może być w każdej chwili przekonfigurowany w celu poszukiwania innych rzeczy. W 2022 roku pięć różnych rządów UE zostało skrytykowanych za monitorowanie przeciwników politycznych. Jak myślisz, do czego rządy będą używać tego narzędzia? Pomyśl o najbardziej autorytarnym kraju UE, jaki znasz. Następnie pomyślcie o tym systemie masowej inwigilacji. Czy my, jako obywatele UE, dowiemy się nawet, jakie „dodatkowe poszukiwania” prowadzą nasze służby wywiadowcze i ludzie u władzy?
Możemy porównać ten niezależny system masowej inwigilacji z istniejącą inwigilacją w Stanach Zjednoczonych, gdzie władze mają tylne drzwi do firm zajmujących się mediami społecznościowymi, a wielkie giganty technologiczne już prowadzą tego rodzaju poszukiwania. Jednak tym, co czyni ten wniosek UE jeszcze gorszym, jest fakt, że obejmuje on również usługi szyfrowania wiadomości. W Stanach Zjednoczonych nadal możliwe jest wysyłanie bezpiecznych wiadomości za pośrednictwem szyfrowanych usług. Jeżeli Chat Control stanie się rzeczywistością, Europa stanie się najbardziej technologicznie dystopijnym miejscem w świecie zachodnim.
Polecamy także: Zakaz telefonów w szkole. Prezydent podpisał, przepisy od września
Chat Control zagroziłby bezpieczeństwu online każdego człowieka
Ponieważ Chat Control oznaczałby koniec szyfrowanych usług komunikacyjnych, nigdy nie będziemy pewni, że nasza komunikacja nie wycieknie. To samo w sobie jest problemem dla firm pracujących nad nowym produktem, który chcą opatentować. Jest to problem dla osób, które mają cyfrowy kontakt z psychologiem, prawnikiem, lekarzem, czy w innych relacjach zawodowych, gdzie w grę wchodzi poufność. Cała ta komunikacja jest zagrożona wyciekiem, jeśli audytor jest niewłaściwą osobą (ktoś z ukrytymi motywacjami finansowymi, ktoś pod inną presją, ktoś, kto po prostu chce się podzielić materiałem, lub ktoś, kto ma trudności z zachowaniem ciszy przed kolegami i przyjaciółmi), lub jeśli rozmowa zostanie zhakowana. Wycieki danych nabiorą zupełnie nowego znaczenia dzięki Chat Control.
Poważnie: czy Komisja Europejska nie zdaje sobie sprawy, że internet, w którym cała komunikacja jest narażona na podwyższone ryzyko zhakowania lub wycieku danych, to puszka Pandory, której nie należy otwierać?
Najbardziej ucierpią osoby, które naprawdę mają coś do ukrycia. Wśród nich są sygnaliści, anonimowe źródła, dziennikarze pracujący w krajach autorytarnych, przeciwnicy polityczni w państwach, w których opozycja jest prześladowana, osoby o sekretnej tożsamości, ukrywające się przed brutalnymi związkami, nie wspominając już o dzieciach, które potrzebują skontaktować się z dorosłym i mieć pewność, że ich rozmowa nie wycieknie.
Temat kontynuujemy w artykule: Rosjanie podszywają się pod polskich polityków. „Bardzo groźna sytuacja”
Ten wniosek legislacyjny narusza prawa człowieka
W gruncie rzeczy chodzi o to, jakiej Unii Europejskiej chcemy. Wniosek narusza europejską konwencję, Kartę praw podstawowych UE oraz Deklarację praw człowieka ONZ, która stanowi, że każdy ma prawo do prywatności i prywatnej korespondencji. Urząd Ochrony Danych UE zdecydowanie krytykuje tę propozycję, a Komisarz Praw Człowieka ONZ wydał ostrzeżenie na jej temat. Ale Komisja Europejska już o tym wie i nawet wspomina o tym w samej propozycji: „Wniosek wpływa na podstawowe prawa do poszanowania prywatności, do ochrony danych osobowych oraz do wolności słowa i informacji. Choć mają one ogromne znaczenie, żadne z tych praw nie jest absolutne.”
Patrząc na to, jak masowy nadzór był prowadzony w przeszłości, widzimy mnóstwo przykładów, kiedy jego cel się zmieniał. Cele mogą się drastycznie zmieniać w tej dziedzinie. Nikt nigdy nie będzie pewien, czy ktoś go słucha, a kiedy ludzie czują się monitorowani, zaczynają się autocenzurować. Na początku zastanowimy się dwa razy, czy napisać cokolwiek intymnego do naszego partnera i ponownie rozważymy, które zdjęcia zrobić. Następnie, gdy wyczujemy, że system może sprawdzać również inne rzeczy, dostosujemy się do tego. Ostatecznie autocenzura doprowadzi do ograniczenia wolności słowa, nawet w warunkach prywatnych. Zmiana nie będzie nagła, raczej będzie się do nas skradać. Instalowanie tego typu tylnych drzwi będzie punktem, w którym nasza wolność będzie się powoli wymykać. Kiedy pozbawiamy się możliwości prowadzenia prywatnych rozmów, podkopujemy kamień węgielny demokratycznego społeczeństwa.
Chat Control nie pomoże nawet dzieciom
Wniosek jest tak inwazyjny i obraźliwy, że nie można go interpretować inaczej niż jako wykorzystanie dzieci jako pretekstu do totalnej masowej inwigilacji. Ale jeśli pominiemy to wszystko i skupimy się na kilku linijkach dotyczących jego rzekomego celu, to oczywiste jest, że Chat Control nie będzie nawet chronił dzieci.
Zacznijmy od flagowania fałszywych materiałów. To zaleje władze pracą, kradnąc zasoby z tropienia przestępców. Organy ścigania nie mają czasu na śledzenie wszystkich trwających spraw nawet teraz. Piętrzą się one, czekając na swoją kolej. Wdrożenie Kontroli Czatu kosztowałoby niewiarygodne kwoty, a to tylko po to, by utrzymać biurokrację, oprogramowanie i konserwację w ruchu. Nie wspominając o wszystkich pracownikach, którzy będą musieli śledzić wszystko, co zostało zgłoszone. Wyobraź sobie, że te pieniądze mogłyby być wydane na tropienie przestępców zamiast tego.
Chat Control nawet nie złapałby przestępców, ponieważ zawsze znajdą inne sposoby. Nie będą używać komercyjnych kanałów, o których wiedzą, że są przechwytywane. Będą szyfrować swoje wiadomości samodzielnie (wymaga to dużo pracy, ale można to zrobić, jeśli istnieje motywacja) lub zaczną korzystać z nielegalnych usług szyfrowania. Będą pracować przez łącza, które nie zostaną złapane przez filtry i używać archiwów ZIP. Jeśli prawo i technologia się dostosują, to oni też.
Chat Control zabroni również dzieciom korzystania z mediów społecznościowych. Wydaje się, że jest to rozwiązanie Komisji Europejskiej dotyczące uwodzenia dzieci, co naszym zdaniem wyraźnie pokazuje, jak bardzo oderwane od rzeczywistości są przepisy dotyczące Chat Control. Wniosek wymaga po prostu, aby wszystkie sklepy z aplikacjami nakładały bezpieczne kontrole weryfikacji wieku (co uniemożliwia anonimowe korzystanie z tych usług) i blokowały dzieciom korzystanie z usług, w których mogą mieć kontakt z dorosłymi (co oznacza wszystkie aplikacje). Nawet jeśli możemy zauważyć pewne pozytywne skutki dla dzieci, takie jak spędzanie mniejszej ilości czasu na mediach społecznościowych, to na pewno istnieje inne rozwiązanie dla rozwiązania problemu uwodzenia dzieci w sieci.
Organy ścigania powinny skupić się na istniejącym problemie, zamiast przewijać rodzinne albumy całej Unii Europejskiej.
Najczęściej zadawane pytania o unijną propozycję Chat Control
Czym jest Chat Control / CSAR?
Chat Control to medialne określenie projektu rozporządzenia Parlamentu Europejskiego i Rady, formalnie nazywanego CSAR – Child Sexual Abuse Regulation, dotyczącego zwalczania materiałów przedstawiających seksualne wykorzystywanie dzieci w internecie. Projekt zaproponowany przez Komisję Europejską w 2022 roku zakłada wprowadzenie mechanizmu „detection orders” – czyli prawnych nakazów skanowania komunikacji prywatnej, w tym wiadomości zaszyfrowanych end-to-end, w celu wykrycia treści CSAM i prób uwodzenia dzieci (grooming). Skanowanie miałoby odbywać się po stronie urządzenia użytkownika (client-side scanning), zanim wiadomość zostanie zaszyfrowana i wysłana.
Dlaczego eksperci od bezpieczeństwa cyfrowego są przeciwni?
Argumenty techniczne i prawne przeciwko Chat Control formułuje liczne grono ekspertów – w tym naukowcy zajmujący się kryptografią, organizacje takie jak European Digital Rights (EDRi), Electronic Frontier Foundation, polskie Panoptykon. Główne zarzuty: client-side scanning jest technicznie nieodróżnialne od backdoora w szyfrowaniu – raz wbudowane, może być rozszerzane na inne treści. System generowałby ogromną liczbę fałszywych alarmów, narażając niewinnych użytkowników na traktowanie jak podejrzanych. Mechanizm tworzyłby globalny precedens – narzędzie skanowania całej komunikacji obywateli, które po wprowadzeniu w UE będzie wzorem dla innych jurysdykcji, w tym autorytarnych. Wreszcie – istnieją skuteczniejsze, mniej inwazyjne metody walki z CSAM, niewymagające demontażu szyfrowania.
Co o tym mówią rządy państw członkowskich?
Stanowisko państw członkowskich w Radzie UE jest podzielone. W kolejnych głosowaniach w Coreper i na poziomie ministrów ujawniła się grupa państw sceptycznych – m.in. Niemcy, Austria, Holandia, Polska – które wskazują na zagrożenia dla praw podstawowych, dla szyfrowania i dla zaufania obywateli do usług cyfrowych. Z drugiej strony stoi grupa zwolenników bardziej rygorystycznej regulacji – z różnych powodów, od silnego nacisku organizacji ochrony dzieci po dążenie do rozszerzenia uprawnień służb. W kolejnych prezydencjach Rady UE projekt przechodził kolejne mutacje, ale na poziomie zasady – czyli wymogu skanowania komunikacji prywatnej – nie został wycofany.
Czy projekt naruszałby prawo podstawowe do prywatności?
Pytanie prawne, na które odpowiedzi udzielają już nieoficjalnie służby prawne instytucji UE i niezależni konstytucjonaliści. Karta Praw Podstawowych UE (art. 7 – poszanowanie życia prywatnego i komunikacji; art. 8 – ochrona danych osobowych) oraz Konwencja Praw Człowieka (art. 8) tworzą wysoki próg dla ingerencji w komunikację prywatną. Każda taka ingerencja musi być proporcjonalna, konieczna i ściśle ograniczona. Krytycy projektu – w tym czołowi europejscy konstytucjonaliści i organizacje praw człowieka – argumentują, że zaproponowany mechanizm tego progu nie spełnia: zakres jest zbyt szeroki, kontrola nieproporcjonalna do celu, a sposób działania (skanowanie wszystkiego po stronie urządzenia) jest funkcjonalnie tożsamy z masowym nadzorem.
Jakie znaczenie ma Chat Control dla zwykłego użytkownika?
Praktyczne znaczenie projektu dla obywatela jest poważne. Po pierwsze – usługi takie jak Signal, WhatsApp, Telegram, iMessage, Threema, Element straciłyby możliwość gwarantowania rzeczywistej poufności komunikacji. Po drugie – operatorzy musieliby albo wdrożyć client-side scanning, albo wycofać się z rynku europejskiego (Signal oficjalnie zapowiedział, że nie wdroży skanowania i raczej opuści UE). Po trzecie – model „skanowania wszystkiego, by znaleźć coś” jest precedensowy: raz wprowadzony dla CSAM, może być w przyszłości rozszerzony na inne treści (mowa nienawiści, dezinformacja, „treści szkodliwe” o niejasnej definicji). Stąd waga publicznej debaty nad projektem – która powinna trwać dalej, niezależnie od deklarowanej szlachetności celu.
Bezpieczeństwo cyfrowe to nie towar pojedynczego sezonu politycznego
Walka z wykorzystywaniem seksualnym dzieci jest celem, którego nikt rozsądny nie podważa. Pytanie nie brzmi „czy”, lecz „jak”. Wybór środków – szczególnie środków technologicznych, raz wbudowanych w infrastrukturę komunikacji całego kontynentu – będzie miał konsekwencje na lata. Stąd publiczna debata nad Chat Control nie może być sprowadzona do prostego sporu „za dziećmi vs przeciwko dzieciom”. Musi być debatą merytoryczną – o skuteczności proponowanych środków, o ich skutkach ubocznych, o precedensach, jakie tworzą, i o relacji obywatela do służb państwa w epoce cyfrowej. Tekst, który publikujemy poniżej, jest jednym z głosów ostrzegawczych w tej debacie – i wart jest spokojnego, uważnego przeczytania.
