Dobra wiadomość jest taka, że w dyskusji na temat weryfikacji wieku online w UE generalnie udało się chyba odejść od najbardziej bzdurnych i szkodliwych pomysłów – takich jak wysyłanie skanu dowodu czy weryfikacji na podstawie wideo, które nie dość, że są komicznie nieskuteczne, to jeszcze groteskowo niebezpieczne.

Zła wiadomość to to, że o weryfikacji wieku w Internecie w ogóle dalej dyskutujemy. Zamiast tego, powinniśmy dyskutować o odpowiedzialności wielkich platform za ich algorytmy, i za szkody wyrządzane przez nie zarówno dzieciom, jak i osobom dorosłym.

Problem wysoce nietrywialny¶

Z technicznego punktu widzenia weryfikacja wieku w Internecie jest problemem wysoce nietrywialnym – sam się na tym sparzyłem, gdy próbowałem naszkicować, jak można by myśleć o systemie weryfikacji wieku, który nie byłby kompletną katastrofą z punktu widzenia prywatności. Mimo mojego doświadczenia w obszarze prywatności i bezpieczeństwa informacji, szybko zostałem zderzony z wadami mojego hipotetycznego rozwiązania.

Podobnego zderzenia z rzeczywistością doświadczyła Komisja Europejska, która wypuściła niedawno aplikację mającą być podstawą systemu weryfikacji wieku online w Unii Europejskiej.

I to mimo tego, że proponowany przez Komisję Europejską system jest prawdopodobnie lepszy z punktu widzenia prywatności osób z niego korzystających, niż mój szkic. Na przykład dzięki wykorzystaniu dowodów z wiedzą zerową najwyraźniej nie wymaga kontaktu z centralną usługą przy każdym akcie weryfikacji wieku.

Kto weryfikuje weryfikujących?¶

Kod źródłowy rozwiązania Komisji Europejskiej jest otwarty. To doskonała wiadomość, pozwala niezależnym ekspertkom i ekspertom zweryfikować to, czy ta aplikacja robi to, co jej twórcy twierdzą, że robi.

O ile dobrze rozumiem, plan polskiego rządu na weryfikację wieku polega na tym, by dokładnie tę funkcjonalność zaimplementować w mObywatelu. Tyle, że kod mObywatela w pełni otwarty nie jest i najwyraźniej nie będzie. Mało tego, Ministerstwo Cyfryzacji nie zamierza podzielić się ekspertyzami, na bazie których decyzję o nie publikowaniu pełnego kodu mObywatela podjęło.

To nie budzi zaufania do rozwiązania, w kontekście którego zaufanie jest przecież absolutnie kluczowe. Kod źródłowy aplikacji mobilnej, która de facto będzie decydować, czy mamy dostęp do takich czy innych stron internetowych, czy nie, musi być w pełni publiczny i w pełni weryfikowalny.

I żeby było jasne, “takie czy inne strony” w tym wypadku to najwyraźniej między innymi wszystkie media społecznościowe. Cytując wiceministra cyfryzacji za linkowanym wcześniej artykułem Telepolis:

Każdy z nas będzie musiał logować się do mediów społecznościowych swoimi prawdziwymi danymi.

Kto może być zweryfikowany?¶

Zatrzymajmy się też na chwilę nad tym, że mowa o weryfikacji wieku za pomocą aplikacji mobilnej. Innymi słowy, tylko osoby korzystające ze smartfona wspieranego przez tę aplikację będą miały możliwość weryfikacji swojego wieku. Czy to oznacza, że dostęp do mediów społecznościowych i innych stron objętych obowiązkiem weryfikacji wieku będą miały wyłącznie osoby korzystające ze wspieranego smartfona?

Co ze smartfonami, które korzystają z niezależnie rozwijanych, dodatkowo zabezpieczonych i chroniących prywatność wersji Androida, jak GrapheneOS czy CalyxOS? Wiele aplikacji bankowych nie oferuje na nich pełnej funkcjonalności z powodu (błędnego) utożsamiania bezpieczeństwa z pewnymi wbudowanymi funkcjami Androida dostępnymi wyłącznie na pobłogosławionych przez Google wersjach tego systemu. Czy weryfikacja wieku będzie na nich dostępna?

Przez długie lata byłem bardzo zadowolonym użytkownikiem smartfonu Jolla, który nie miał na pokładzie ani Androida, ani iOSa. Nie istnieje wersja mObywatela na używany na Jolli, europejski (co ważne w kontekście debaty o suwerenności technologicznej) system SailfishOS. Nie ma też wersji na szereg innych mobilnych systemów operacyjnych (a jest ich sporo – jak Ubuntu Touch czy PostmarketOS), które nie są kontrolowane przez duopol Google i Apple i korzystają z innego formatu aplikacji mobilnych.

Czy Ministerstwo Cyfryzacji zamierza przygotować wersje mObywatela na wszystkie te systemy? Czy też traktować będzie osoby z nich korzystające jako “użytkowników gorszego sortu”, którzy nie będą mieli dostępu do weryfikacji wieku, a co za tym idzie – w ogóle do mediów społecznościowych?

Jak będzie wyglądała weryfikacja wieku dla osób nie korzystających ze smartfona wcale? Czy korzystanie ze smartfona będzie wymogiem koniecznym do tego, by móc korzystać z weryfikacji wieku – a co za tym idzie w ogóle z mediów społecznościowych?

Weryfikacja wieku dotyczy wszystkich, nie tylko dzieci¶

Chcę podkreślić coś, co powinno być na tym etapie jasne: weryfikacja wieku dotyczy absolutnie każdej osoby korzystającej z Internetu, od dziecka po seniora. Musi dotyczyć każdej osoby, bo przecież dopóki wiek nie zostanie zweryfikowany, nie wiadomo, czy do czynienia mamy właśnie z dzieckiem, czy z seniorem.

Raz wprowadzony, taki system będzie obowiązkowy dla każdej osoby chcącej skorzystać z dowolnej strony czy usługi objętej tym wymogiem. A ten zbiór będzie się przecież zmieniał. Strony pornograficzne i media społecznościowe teraz, internetowe sklepy z alkoholem chwilę później, kto wie co dalej? Może jak w Wielkiej Brytanii strony internetowe z autentycznie ratującymi życie nastolatków i nastolatek informacjami dla osób LGBTQIA+.

To w ogóle dość symptomatyczne, że w kontekście weryfikacji wieku pojawia się tylko temat “ochrony dzieci”. To oczywiście stara zagrywka, od razu emocjonalnie ustawiająca debatę, wprowadzająca ostry podział na “tych dobrych obrońców dzieci” i “tych złych, co dzieci nie chcą chronić”, na dzień dobry utrudniająca spokojną, merytoryczną rozmowę. I na tyle wyświechtana, że ma nawet własną stronę na Wikipedii.

Ale ciekawa jest jeszcze jedna rzecz: przecież z powodu szkodliwych algorytmów cierpią nie tylko dzieci. Na przykład seniorzy wystawieni są przez Metę na żer przez targetowane rekamy prowadzące do zwyczajnych szwindli. Tylko na promowaniu takich przekrętów właśnie do seniorów firma zarabia miliony. Jakoś jednak nikt nie domaga się zadbania o bezpieczeństwo seniorów poprzez zablokowanie możliwości korzystania z mediów społecznościowych osobom po 70. roku życia.

Bez emocjonalnego ładunku “argumentu z dzieci” taki pomysł brzmiałby przecież absurdalnie.

Kto weryfikuje obietnice?¶

Z czasem zmieniać się też będzie sam system i jego implementacja w formie aplikacji. Składane dziś obietnice dotyczące tego, jak działa, jakie dane są przetwarzane i w jaki sposób, są tylko obietnicami – które mogą zostać zignorowane lub zmanipulowane tak samo, jak zignorowana i zmanipulowana okazała się obietnica udostępnienia pełnego kodu źródłowego mObywatela (który, powtarzam, ma przecież implementować weryfikację wieku).

Skoro ta weryfikacja będzie obowiązkowa, łatwo z systemu weryfikacji wieku zrobić stary dobry Rejestr Stron i Usług Niedozwolonych. Wystarczy, by do aplikacji dodać – poprzez obowiązkową aktualizację – listę stron i usług, dla których weryfikacja przestanie działać, mimo, że jest wymagana. Z punktu widzenia osoby korzystającej mogło by to wyglądać jak zwyczajny błąd.

Teoria spiskowa? Ale przecież Ministerstwo Cyfryzacji już raz nas oszukało w kontekście tej aplikacji, czemu miałoby nas nie oszukać ponownie?.. Nie mówiąc już o tym, że nie wiemy, kto będzie ministrem cyfryzacji za dwa lata lub lat pięć. Raz wdrożony system blokowania dostępu do stron internetowych na bazie takich czy innych kryteriów zostanie wcześniej czy później nadużyty.

Niebezpieczne związki¶

Załóżmy życzliwie, że Ministerstwo Cyfryzacji zaimplementuje ten system poprawnie, spełni wszystkie swoje obietnice, opublikuje nawet pełny kod mObywatela (pomarzyć dobra rzecz!) by nas przekonać, że systemowi można zaufać. I załóżmy, że działa tak, jak to Komisja Europejska przedstawia: raz weryfikujemy swój wiek wobec aplikacji, efekt tej weryfikacji jest w niej zapisany i na jego bazie za pomocą dowodów z wiedzą zerową aplikacja weryfikuje nasz wiek na stronach, które takiej weryfikacji wymagają, udostępniając danej stronie tylko odpowiedź “tak” lub “nie” w kontekście konkretnego wymogu dotyczącego naszego wieku.

Jeśli chcemy wejść na stronę na laptopie, musimy zweryfikować nasz wiek za pomocą aplikacji na smartfonie. W porządku, skanujemy kod, aplikacja weryfikuje nasz wiek…

…I w tym momencie operator usługi może powiązać nasze dwa zupełnie różne urządzenia, i związane z nimi profile stworzone na bazie naszych danych, nawet, jeśli żadne zebrane wcześniej dane nie powiązały tych dwóch profili. I nawet jeśli laptop korzysta z WiFi, a smartfon z połączenia mobilnego, a więc zewnętrzne adresy IP są różne. Dlaczego? Bo kod QR pobraliśmy na laptopie, a zapytanie zawierające weryfikację naszego wieku – powiązaną przecież z tym kodem QR – wysłane zostało z naszego smartfona. Dwa zapytania, z dwóch urządzeń, jednoznacznie powiązane dzięki systemowi weryfikacji wieku.

Albo inny scenariusz: wchodzimy na zupełnie niewinnie wyglądającą stronę z wiadomościami. Pokazuje się okienko weryfikacji wieku. Nie zastanawiamy się, weryfikujemy. Tyle, że niewinnie wyglądająca losowa strona, na której znaleźliśmy się po kliknięciu gdzieś w jakiś link, wyświetliła nam kod QR weryfikacji wieku nie dla nas na tej stronie, a dla jakiegoś dziecka próbującego wejść na stronę, na którą wejść nie powinno móc. O co chodzi?

Kod QR to obrazek. Nic nie stoi na przeszkodzie, by ktoś uruchomił usługę pozwalającą wkleić taki obrazek, by został on potem szybko wyświetlony losowej innej osobie na jakieś specjalnie przygotowanej fałszywej stronie internetowej. Potem wystarczy chwilę poczekać, aż ktoś się nabierze, zeskanuje i zweryfikuje – nieświadomie pomagając obejść weryfikację wieku. Cyfrowy odpowiednik poproszenia przez nastolatka starszej osoby o kupienie butelki wódki.

Notabene to są dwa problemy, których sam nie zauważyłem w swoim szkicu systemu weryfikacji wieku; ktoś inny musiał mi to dopiero wyłuszczyć. Podkreślam to, by przypomnieć, że weryfikacja wieku jest naprawdę skomplikowanym tematem!

Nie ma weryfikacji wieku bez filtrowania Internetu¶

By weryfikacja wieku była skuteczna, nie może być jej łatwo obejść. Jeśli dość łatwo jest stworzyć usługę jej obchodzenia, to takie usługi muszą być jakoś zwalczane. Zwalczanie losowych stron internetowych hostowanych poza UE, i utrzymywanych przez podmioty spoza UE, nie jest łatwe.

Kary finansowe działają w kontekście dużych podmiotów zarabiających legalnie. Raczej się nie imają małych firm-krzaków tworzących z jednej sztampy tysiące stron z tą samą nielegalną usługą.

I tak dochodzimy do momentu w którym oczywistym staje się, że skutecznej weryfikacji wieku raczej nie uda się wprowadzić bez wprowadzenia filtrowania Internetu na poziomie kraju lub Unii Europejskiej. I nie chodzi tu tylko o jakieś wymyślne usługi celowo pomagające weryfikację wieku obchodzić – ale również po prostu usługi, które są objęte weryfikacją wieku, ale są utrzymywane przez podmioty spoza UE.

Co z tego, że PornHub wdroży weryfikację wieku przez mObywatela, jak mniejszych stron pornograficznych są nieprzebrane rzesze?

Nie ma filtrowania Internetu bez kontroli aplikacji¶

Dodajmy, że zarówno PornHub jak i Facebook mają adresy w sieci Tor. Podobnie jak mnóstwo innych stron i usług. A nawet te, które takiego adresu nie mają, są i tak zwykle dostępne przez sieć Tor.

Sieć Tor została stworzona między innymi po to, by obchodzić filtrowanie Internetu. I jest w tym naprawdę dobra. Jeśli weryfikacja wieku miałaby być skuteczna, polskie państwo (i Unia Europejska) musiałyby znaleźć sposób, by uniemożliwić korzystanie z Tora w ogóle.

Podobnie zresztą ze znacznie mniej wysublimowanymi narzędziami: VPNami. Unia Europejska musiałaby dołączyć do elitarnego klubu, w skład którego wchodzą na przykład Rosji czy Chiny, i zmusić operatorów sklepów z aplikacjami do usunięcia z nich VPNów. Ten problem z weryfikacją wieku ostatnio odkrył też rząd Zjednoczonego Królestwa.

Nie ma kontroli aplikacji bez zamkniętych systemów operacyjnych¶

Tyle, że istnieją przecież niezależne katalogi z aplikacjami, jak F-Droid (polecam gorąco). Dopóki można je instalować na naszych smartfonach, można z nich instalować aplikacje niedostępne w tych oficjalnych sklepach.

A więc i F-Droida trzeba zakazać. Tyle, że jak to zrobić na systemach operacyjnych, które nie są kontrolowane przez wielkie firmy technologiczne? Czy to jest odpowiedź na wcześniejsze pytanie o mObywatela na niezależnych systemach operacyjnych – wystarczy po prostu zakazać również ich?

I co z laptopami? Czy Ministerstwo Cyfryzacji zamierza próbować wymusić na wszystkich systemach operacyjnych – w tym niezależnych, jak różne dystrybucje Linuksa – by nie było możliwe instalowanie na nich VPNów i Tora? To zwyczajnie się nie uda w kontekście otwartych systemów operacyjnych.

Zgrana płyta¶

Problemów z pomysłami filtrowania Internetu oczywiście jest znacznie więcej, ale to debata, która przetoczyła się przez Polskę wielokrotnie na przestrzeni kilku ostatnich dekad, więc nie będę ich wszystkich powtarzał. Dość powiedzieć, że pamiętam niezliczone godziny spotkań i konsultacji społecznych w kontekście Rejestru Stron i Usług Niedozwolonych. Wydawało mi się nawet, że jakieś bardziej długoterminowe wnioski udało się z nich polskiej administracji wyciągnąć.

To było trzynaście lat temu. Zamiast dziś wałkować to wszystko od nowa, tym razem pod płaszczykiem weryfikacji wieku – która, powtarzam, nie będzie skuteczna bez filtrowania Internetu – może lepiej zastanowić się, jaki dokładnie problem próbujemy rozwiązać, i dobrać odpowiednie rozwiązanie.

Jeśli wziąć za dobrą monetę twierdzenia o tym, że weryfikacja wieku jest niezbędna ze względu na szkodliwy wpływ mediów społecznościowych na dzieci i młodzież, to właściwe pytanie zadała Joanna Cisowska w OKO.press:

Dlaczego więc w kwestii krzywd, jakie platformy internetowe wyrządzają małoletnim, próbuje się ukarać de facto właśnie dzieci?

Zamiast blokować dostęp dzieci do toksycznych platform, powinniśmy się skupić na tym, by te platformy nie były toksyczne. To, że są toksyczne, jest przecież świadomą, celową decyzją biznesową ich operatorów. Ta decyzja nie jest konieczna dla świadczenia tej usługi; Facebook kiedyś nie był aż tak toksyczny i szkodliwy.

Dziś jest, bo dzięki temu Mark Zuckerberg zarabia więcej kasy. A my znów debatujemy o filtrowaniu Internetu.