Blog:Jak zwolennicy Chat Control wykorzystują błędy poznawcze, by usprawiedliwić masową inwigilację
Jak zwolennicy Chat Control wykorzystują błędy poznawcze, by usprawiedliwić masową inwigilację
18 września 2025 | Kenex
Narzędzie skanujące w poszukiwaniu przestępców, które ma rację w 90% przypadków, brzmi dla naszego mózgu jako coś bardzo solidnego. W rzeczywistości przy takiej trafności znacznie więcej osób zostanie niesłusznie oskarżone niż słusznie. Jak to możliwe?
- Wymuśmy na dostawcach usług internetowych skanowanie prywatnej korespondencji przez AI. Gdy AI wykryje CSAM (materiał pokazujący seksualne wykorzystywanie dziecka), niech automatycznie wyśle dowody do wskazanej instytucji unijnej. Jeśli usługa oferuje szyfrowanie E2EE, niech skanowanie następuje, zanim wiadomość zostanie zaszyfrowana.
Różnica wielkości zbiorów
Wyobraźmy sobie, że nasz Skaner dostał do przejrzenia milion obrazków (1 000 000). Ma on przesłać do Europolu wszystkie, które uzna za CSAM (materiał pokazujący seksualne wykorzystywanie dziecka).
- Jeżeli obrazek to faktycznie CSAM, jest 90% szans, że wskaże go poprawnie i prześle. Oraz 10% szans, że go zigoruje i nie prześle.
- Jeżeli obrazek nie jest CSAM, jest 90% szans, że go zignoruje i 10% szans, że niesłusznie prześle.
Do tego momentu nie brzmi tak źle, prawda?
No ale zastanówmy się nad jednym - jak wiele obrazków przesyłanych w komunikatorach stanowi CSAM? Nawet miłośnicy dziecięcego porno poza samym CSAM pewnie wysyłają sobie memy i inne treści. Przyjmijmy pesymistycznie, że CSAM stanowi 1% przesyłanych obrazków.
To oznacza, że wśród miliona obrazków mamy statystycznie 10 tysięcy CSAM.
- 90% z 10 tysięcy to 9 tysięcy
- 10% z niewinnych 990 tysięcy to 99 tysięcy
Nasz Skaner prześle do Europolu 9 tysięcy CSAM oraz 99 tysięcy nie-CSAM. Wśród przesłanych obrazków jedynie 0,9% będzie na to zasługiwać. Pozostałe 99,1% to niewinne materiały narażające użytkowników na nieusprawiedliwioną inwigilację.
Klątwa wiedzy
Klątwa wiedzy to określenie w psychologii na tendencję do niezdawania sobie sprawy, że ktoś może nie wiedzieć czegoś, co my wiemy. "To przecież oczywiste!".
Jeśli jesteś osobą względnie ogarniętą w sprawach cyfrowych, to zapewne skrzywisz się na myśl, żeby przesłać w komunikatorze zdjęcie swojego dziecka w kąpieli. Albo zdjęcie dziecka biegające po plaży bez majtek. Jednakże wielu rodziców nie widzi w tym nic niestosownego. Nie przyjdzie im nawet do głowy, że ktoś mógłby odebrać te zdjęcia jako materiał seksualny. Dla ludzi rzadko konsumujących media to wcale nie jest oczywiste, że istnieje coś takiego jak pedofilia oraz dziecięca pornografia. Nigdy nie czuli podniecenia na widok dziecięcych pośladków, więc skąd mają wiedzieć, że inni czują?
Nasz Skaner takie zdjęcia oczywiście oflaguje jako CSAM (a przynajmniej w 90% przypadków) i prześle do Europolu. Jakiś obcy człowiek będzie oglądać zdjęcia nagiego dziecka, żeby upewnić się, że Skaner poprawnie to oflagował. Być może rozpocznie postępowanie, przez co rodzice będą ciągani na policję i zmuszeni do tłumaczenia się z prywatnych zdjęć własnego dziecka, które w zamyśle nie miały być oglądane przez kogokolwiek poza rodziną.
Dochodzi jeszcze jeden aspekt. Kilkulatki często uważają "pupy i siusiaki" za najśmieszniejszą rzecz na świecie i - jeśli mają dostęp do komunikatorów - mogą chcieć się podzielić tą śmiesznością z kolegami. Nikt z konwersacji nie odbiera tego jako materiał seksualny i po kilku dniach zapewne o tym zapomną. Może po latach wspomną jako potworny cringe. No ale nasz Skaner czegoś takiego nie odpuści i oczywiście prześle do Europolu. Chwilowy brak rozsądku poskutkuje uwiecznieniem "śmiesznego siusiaczka" w materiałach policyjnych. Być może wyląduje w jakiejś wiecznej bazie danych i będzie krążył tam na dobre.
Rządowe agencje to nie same anioły
Hollywoodzkie filmy skutecznie zbudowały u nas wyobrażenie, że tajni agenci to istni nadludzie, którzy zawsze chcą nieść dobro. A ewentualne bariery biurokracji to niepotrzebna przeszkoda, przez którą źli ludzie unikają kary.
Zupełnie inny obraz wyłonił się, gdy Edward Snowden w 2013 postanowił pokazać etyczność służb od środka. Z ujawnionych informacji dowiedzieliśmy się chociażby, że osoby pracujące w NSA używały narzędzi inwigilacji to stalkowania swoich dziewczyn oraz osób, z którymi umawiali się na randki. Było to na tyle znormalizowane, że doczekało się wewnątrz żartobliwego kryptonimu LOVEINT (od ang. "Love Intelligence", "szpiegostwo miłosne").
Istnieje też mit, że agencje rządowe dysponują super zaawansowanymi technologiami, które wyprzedzają urządzenia użytkowe o dziesięciolecia. Gdy tylko postawisz nogę w niedozwolonej strefie, znikąd pojawi się pięciu facetów z laserami. W rzeczywistości agencje rządowe są często mocno w tyle do tego, co oferują chociażby cyfrowe korporacje. Z informacji ujawnionych przez Snowdena wiemy, że NSA chętnie korzystało z infrastruktury szpiegującej dostarczanej przez BigTechy. Bo sami o podobnej skali mogli tylko pomarzyć.
Więcej o tym, co ujawnił Snowden.
Co więc się stanie z danymi, które prześle nasz Skaner? Czy wszyscy użyją ich wyłącznie w etycznych celach? Czy nigdy nie zostaną wykradzione przez przestępców albo obce wywiady? Czy żaden polityk nigdy nie użyje ich w niecnych zamiarach?
Zobacz też: Policjant sprzedawał poufne dane - TVP
Podsumowanie
Mam nadzieję, że jasno pokazałem, dlaczego uspokajającą propagandę wokół Chat Control można włożyć między bajki.
Nie daj się nabrać, gdy ktoś zapewnia, że skanować przecież będzie obiektywne AI, które w 90% ma rację. Nie daj się nabrać, gdy ktoś deklaruje, że każda wiadomość z małym siusiaczkiem musi być przedmiotem śledztwa. Nie daj się nabrać, gdy agencje zapewniają, że mają kosmiczne zabezpieczenia i personel czysty jak łza. To wszystko ma uśpić Twoją czujność.
Gdy narzędzie masowej inwigilacji zostanie wprowadzone, ciężko będzie to odkręcić. Ludzie przyzwyczają się do tego, co jest i zaczną akceptować jako element rzeczywistości. I właśnie o to tak na prawdę chodzi.
Zobacz też
Navbox o prywatności:
Navbox o psychologii:
