Wytwórcy systemów operacyjnych – Google i Apple – trzymają w swoich rękach klucze do sukcesu eksperymentu z aplikacjami śledzącymi kontakty społeczne. W ciągu trzech tygodni narzucili swój model państwom, które przestały mieć cokolwiek do powiedzenia. Skapitulowały już Niemcy, Francji pozostały groźby słowne, a Wielka Brytania się waha. Na razie Google i Apple chronią naszą prywatność, ale bez publicznego nadzoru nie będziemy mieć gwarancji, że tak pozostanie. Polityczne skutki tego eksperymentu mogą zostać z nami na dłużej niż którakolwiek z koronawirusowych aplikacji.
Nieoczekiwani prymusi ochrony prywatności
Rzadko zdarza się, by giganci, tacy jak Google i Apple, byli chwaleni akurat za podejście do naszych danych. Tymczasem tak właśnie się stało w przypadku ich propozycji systemu śledzenia kontaktów społecznych przez Bluetooth. „Prywatność na piątkę z plusem!” – tak w śródtytule podsumował analizę systemu portal niebezpiecznik.pl. Autorzy dodają, że „to niemalże doskonały protokół”. Michael Veale, lider akademickiego europejskiego konsorcjum DP3T działającego na rzecz proprywatnościowego, zdecentralizowanego standardu tego typu aplikacji, napisał na Twitterze: „Ogłoszenie Google i Apple to OGROMNE wsparcie […] przeciw scentralizowanym rozwiązaniom”.
Tworzy się nowy układ polityczny w sferze regulacji technologii. Nastąpiło wielkie odwrócenie sojuszy. Zwolennicy prywatności, od lat krytykujący wielkie firmy technologiczne, dziś chwalą rozwiązanie serwowane przez Google i Apple. Zresztą nie bez powodu, bo w kwestii oceny prywatności tego rozwiązania z pewnością się nie mylą. Europa, od lat spierająca się z big techem o praktyki monopolistyczne i zarządzania danymi, została w kwestii prywatności przelicytowana przez dwóch gigantów. Państwa mają niemal zerowe pole manewru i muszą przyjąć stworzone przez nich rozwiązanie. Co więcej, Europa zostaje pozbawiona wpływu na kształt technologii właśnie wtedy, gdy od paru miesięcy w Brukseli i kilku stolicach UE zawrotną karierę robi hasło „suwerenności cyfrowej”.
Decyzje Google’a i Apple’a pomagają chronić naszą prywatność, ale to nie jedyny czynnik oceny rozwiązania. Proponowany przez nich model może jeszcze okazać się nieskuteczny w ochronie zdrowia, w której nienadzorowane przez człowieka algorytmy decydują o społecznym odizolowaniu nas, opierając się na niesprawdzonych danych. Niezależnie od wyników eksperymentu z samą aplikacją Google i Apple mają szansę zostać domyślnymi partnerami w tworzeniu cyfrowej ochrony zdrowia.
Diabeł jak zwykle tkwi w szczegółach
Rozwiązania w krajach europejskich różnią się od siebie, ale żadne z nich nie jest podobne do chińskiego. W Państwie Środka używanie aplikacji do śledzenia kontaktów społecznych jest obowiązkowe. Przy rejestracji podajemy swoje dane osobowe, a informacje o naszym zdrowiu, według doniesień „New York Timesa”, są prawdopodobnie przekazywane tamtejszej policji. Niezanonimizowane dane łączone są na serwerach na przykład z naszą lokalizacją (dzięki GPS) lub danymi z kart płatniczych, aby precyzyjniej śledzić ruchy ludzi. Oczywiście kod aplikacji nie jest upubliczniony, a użytkownik za bardzo nie może odwołać się od decyzji algorytmu w aplikacji.
Jak to wygląda w Europie? Pomimo różnic w europejskich rozwiązaniach spróbujmy znaleźć ich wspólny mianownik. Większość koronawirusowych aplikacji nie wymaga podawania danych osobowych przy rejestracji, a ich użycie jest dobrowolne. Nie łączą one danych z Bluetootha z naszą lokalizacją (wyjątkiem jest tutaj Norwegia, Islandia z kolei używa sygnału GPS zamiast Bluetootha), dzięki temu nie śledzą każdego naszego kroku. Jeśli zostaniemy zdiagnozowani jako chorzy, sami w aplikacji wybieramy, czy chcemy o tym poinformować innych. Nasze telefony wymieniają się generowanymi i zmienianymi co chwila identyfikatorami, aby nie pozwolić na ujawnienie naszej tożsamości przechodzącej obok osobie lub państwowym serwerom. Aktualną listę rozwijanych aplikacji wraz z ich krótką charakterystyką tworzy MIT Tech Review. Link do niej znajdziecie tutaj.
10 kwietnia, po ogłoszeniu przez Google i Apple planów dotyczących współpracy przy śledzeniu kontaktów, w Europie wybuchła ogromna dyskusja, która podzieliła grupy zwolenników rozwiązania scentralizowanego oraz zdecentralizowanego, a wraz z nimi wspierające je europejskie państwa.
Przyczyną rozdźwięku poglądów jest ważny techniczny szczegół. Część państw początkowo wybrała rozwiązanie nazywane scentralizowanym. Google, Apple i spora grupa ekspertów od prywatności wspierają stworzenie systemu zdecentralizowanego. Różnica sprowadza się do tego, co dzieje się po otrzymaniu przez człowieka pozytywnego wyniku testu na koronawirusa. W pierwszym wariancie na państwowy serwer może on wysłać zanonimizowane identyfikatory urządzenia oraz sygnatury wszystkich urządzeń, które były w jego pobliżu przez ostatnie dwa tygodnie. Operujące na serwerze algorytmy analizują te dane i powiadamiają przez aplikację potencjalnie zagrożonych, którzy mieli kontakt z zarażonym właścicielem telefonu. W wariancie drugim wysyłane tą drogą są jedynie zmieniające się co chwila identyfikatory urządzenia osoby zakażonej. Inne urządzenia ściągają listę identyfikatorów osób chorych z serwera. Analiza danych i decyzja o rekomendacji izolacji odbywa się na urządzeniach końcowych.
Zwolennicy opcji zdecentralizowanej argumentują, że zapewnia ona prywatność. W ich opinii gromadzenie danych na serwerze pozwoliłoby rządom ze złą wolą zrekonstruować graf połączeń społecznych. Z kolei głównym argumentem wariantu scentralizowanego jest możliwość weryfikacji skuteczności działania bluetoothowych aplikacji oraz dokładniejszej analizy rozprzestrzeniania się wirusa.
Nie chcę tutaj rozstrzygać tej dyskusji, bo zasługuje ona na o wiele głębsze potraktowanie. Ważne natomiast jest, aby podkreślić, że decyzja o wyborze modelu nie polega na określeniu obiektywnie lepszego rozwiązania pod kątem technicznym. Jest to decyzja stricte polityczna. Podstawą do jej podjęcia jest priorytetyzacja określonych wartości i argumentów.
Krótkie kalendarium bezradności
Świadomość tego, że karty rozdaje dziś wyłącznie duet Google i Apple nie pojawiła się z dnia na dzień. Akurat w Polsce jej nie zabrakło.
Już dzień po ogłoszeniu współpracy dwóch gigantów, 11 kwietnia, na GitHubie polskiej aplikacji ProteGO pojawiło się ogłoszenie, w którym czytamy: „Google i Apple ogłosili, że stworzą własne rozwiązanie dla contact tracingu. […] Budowanie własnego rozwiązania typu contact-tracing straciło sens. […] Przygotowujemy ProteGO do integracji z API Google i Apple”.
Po okresie wątpliwości i błędów komunikacyjnych (przez chwilę użytkownicy aplikacji mieli mieć możliwość szybszego wejścia do sklepów i galerii handlowych) ten komunikat potwierdzony został przez lidera inicjatywy, Mateusza Romanowa, w poście na GitHubie. Taka deklaracja oznacza docelową rezygnację ze scentralizowanego modelu w aplikacji, która dzisiaj funkcjonuje pod nazwą ProteGo Safe.
19 kwietnia wspierane do tej pory przez Niemcy konsorcjum PEPP-PT opublikowało swoją specyfikację aplikacji dla Niemiec. Według niej niemieckie rozwiązanie ma bazować na modelu scentralizowanym. Dzień później opublikowany został list otwarty, podpisany przez ponad 300 badaczy z 25 krajów, który krytykuje PEPP-PT za ryzyko związane z przyjęciem modelu scentralizowanego i ostrzega przed możliwością „bezprecedensowego nadzoru całego społeczeństwa”. Tego dnia w Europie powstały dwa wyraźne stronnictwa. Tylko jedno ma szansę przetrwać.
Zarówno Niemcy, jak i Francja zwróciły się do Google’a i Apple’a o dopuszczenie modelu scentralizowanego. Giganci z Doliny Krzemowej po prostu odmówili. 26 kwietnia pogodzeni z porażką Niemcy zmienili front. Helge Braun i Jens Spahn, odpowiednio szef urzędu kanclerskiego oraz minister zdrowia, oświadczyli tego dnia, że niemiecka aplikacja powstanie jednak w modelu zdecentralizowanym.
Niemcy dołączyli tym samym do krajów, takich jak Szwajcaria i Austria. Trzy państwa wciąż uznają, że lepsze jest rozwiązanie scentralizowane, to Wielka Brytania, Francja i Norwegia. 4 maja brytyjska aplikacja zaczęła być pilotażowo testowana na wyspie Wight. Już trzy dni później Alex Hern i Kate Proctor na łamach „The Guardian” donieśli, że szwajcarska firma Zühlke Engineering otrzymała zlecenie zbadania możliwości konwersji brytyjskiej aplikacji na model zdecentralizowany. Matthew Gould, szef NHSX (komórki odpowiadającej za digitalizację angielskiej służby zdrowia), odpowiedział autorom artykułu w ten sposób: „Jeśli stanie się jasne, że inne [w praktyce: zdecentralizowane] podejście jest lepsze i bardziej skuteczne, zmienimy się”.
Francuskie rozmowy z Google’em i Apple’em nie przynoszą żadnych efektów. Reuters relacjonuje wypowiedź francuskiego ministra cyfryzacji, Cédrica O, dla BFM Business TV: „Apple mógł pomóc nam sprawić, aby aplikacja lepiej działała na iPhone’ach. Firma nie miała jednak zamiaru tego robić”.
Cédric O dodaje również groźbę: „Będziemy [o tym] pamiętać, kiedy nadejdzie czas”. Zapewne nawiązuje tutaj do trwających na poziomie europejskim debat w kwestiach: praktyk monopolistycznych, nowych regulacji rynku cyfrowego lub problematyki zarządzania danymi. W wywiadzie francuski minister dotyka wreszcie sedna problemu: „Uważamy, że nadzór nad systemem opieki zdrowotnej zwalczającym koronawirusa leży w gestii rządów, a niekoniecznie dużych amerykańskich firm”. Apple nie skomentował tych wypowiedzi dla Reutersa.
Dwa powody wszechwładzy Google’a i Apple’a
Google i Apple trzymają dwa klucze do skuteczności aplikacji do śledzenia kontaktów. Jednym z najważniejszych problemów dla jej twórców jest, aby Bluetooth nie usypiał, czyli stabilnie i bez przerwy skanował otoczenie, wychwytując inne urządzenia w pobliżu. W przypadku normalnych aplikacji nie jest to łatwe do zrealizowania ze względu na oszczędzanie baterii oraz kwestie bezpieczeństwa. To ograniczenie może znieść wytwórca systemu operacyjnego Android (a więc Google) oraz iOS (Apple).
Drugim warunkiem jest oczywiście konieczność przekroczenia masy krytycznej użytkowników. Aplikacja może rejestrować kontakty i powiadamiać jedynie te urządzenia, które również mają ją zainstalowaną. Jak wiele ludzi powinno ją pobrać, aby rozwiązanie okazało się skuteczne? Według artykułu opublikowanego w „Science” musiałoby używać jej 60% obywateli. Australia celuje w osiągnięcie 40%, w Singapurze natomiast zainstalowało ją jedynie około 20% użytkowników.
I tutaj dochodzimy do kluczowej roli Google’a i Apple’a. Te dwie firmy kontrolują systemy operacyjne i sklepy z aplikacjami. Wprowadzając w kolejnej fazie swojego projektu własną, samodzielną aplikację, będącą częścią systemu operacyjnego, są w stanie ułatwić korzystanie ze śledzenia kontaktów. Przy okazji działanie całego systemu stanie się kompletnie niezależne od państwa, a więc także od demokratycznych instytucji, które powinny odpowiadać za ochronę zdrowia.
Technologiczni giganci będą rządzić światem?
Historia ostatnich tygodni pokazuje, że decyzyjność w sprawie kształtu aplikacji do walki z koronawirusem została odebrana państwom, społecznikom i akademikom. Europejskie kraje mogą w praktyce albo zastosować rozwiązanie proponowane przez dwie wielkie firmy, albo wyrzucić do kosza temat wykorzystania aplikacji do śledzenia kontaktów.
Po pierwsze, decyzje Google’a i Apple’a praktycznie ograniczają zakres eksperymentu, co finalnie może oznaczać jego niepowodzenie. Aplikacje do śledzenia kontaktów są wciąż niesprawdzonym pomysłem. Istnieje coraz więcej przesłanek, że nie jest to rozwiązanie proste do wdrożenia, być może nie zadziała. Na przykład trzymanie telefonu w kieszeni, a nie na stole, podczas spotkania potrafi zmniejszyć siłę sygnału Bluetooth o 40%. Niestety, zmierzamy do przetestowania tylko jednego modelu aplikacji, bo Google i Apple zabraniają sprawdzenia innych rozwiązań. Co więcej, niegromadzenie danych o kontaktach społecznych na serwerze oznacza też, że trudniej będzie dogłębnie analizować poziom skuteczności.
Drugi problem dotyczy pełnej automatyzacji decyzji o izolacji zagrożonych osób. W zdecentralizowanym modelu o naszym statusie decyduje algorytm na smartfonie. Pomiędzy zmianą naszego statusu a możliwością poddania się testom na obecność wirusa musi minąć parę dni. To może oznaczać, że na izolację w tym czasie będzie nas skazywać telefon, którego decyzja nie jest weryfikowana przez specjalistę ochrony zdrowia. To złe rozwiązanie z punktu widzenia podmiotowości obywatela. W raporcie „AlgoPolska” ze względu na potencjał błędów i rozmycie odpowiedzialności krytykowaliśmy tworzenie systemów, które w pełni automatycznie podejmują decyzje dotyczące ludzkiego życia. W modelu scentralizowanym jakość danych i sugerowane przez algorytm decyzje mógłby zweryfikować specjalista bez poznania naszej tożsamości.
Po trzecie, decyzja o modelu aplikacji jest kwetią polityczną, ściśle związaną z zaufaniem. Nawet jeśli aktualnie Google i Apple zdecydowały się chronić naszą prywatność, nie mamy gwarancji, że to się nie zmieni. Ograniczone zaufanie do państw, które zostało wyrażone w krytyce propozycji scentralizowanych systemów, ma swoje uzasadnienie. W pierwszych dwóch dekadach również europejskie państwa wielokrotnie wystawiały zaufanie na szwank.
Jednak w kwestii prywatności Google i Apple mają wiele na swoim sumieniu, na przykład program PRISM, ujawniony przez Edwarda Snowdena. Co jednak absolutnie najważniejsze, prywatne firmy z siedzibami w Dolinie Krzemowej nie posiadają mandatu do decydowania o politycznych wyborach naszej społeczności.
Desperacko potrzebujemy wprowadzenia instytucjonalnej kontroli nad kształtem tych rozwiązań. W szczególności Google i Apple nie powinny przejąć kontroli nad całością śledzenia kontaktów (faza druga ich inicjatywy). Wówczas państwa nie będą kontrolować nawet kształtu korzystającej z danych aplikacji. Kod rozwiązania Google’a i Apple’a mimo zapowiedzi wciąż nie jest dostępny i raczej nie zapowiada się na to, by firmy oczekiwały demokratycznej kontroli nad jego powstawaniem.
Ta sytuacja ma też potencjalne skutki długoterminowe. Pierwszym z nich jest awans Google’a i Apple’a do roli partnerów niemal koniecznych przy dalszym rozwoju telemedycyny i cyfrowej opieki zdrowotnej. Państwa w wypadku przyszłych usług medycznych będą się zwracać do sprawdzonego duetu „G+A”. Innymi słowy, pomoc w walce z wirusem dzisiaj może się przełożyć na miliardowe kontrakty i duopolizację tego błyskawicznie rosnącego rynku w przyszłości, ostrzega Frederico Guerrini w „Forbesie”.
Jak twierdzi „The Economist” w felietonie Charlemagne, jesteśmy świadkami pierwszego poważnego testu europejskiego przywiązania do prywatności. Niewykluczone, że stworzenie skutecznej aplikacji do śledzenia kontaktów wymagać będzie kompromisu między prywatnością a ochroną zdrowia. Bruksela, broniąc nas przed globalnymi firmami, dowodziła sensu swojego istnienia. Tymczasem wielokrotnie wcześniej stawiane pod pręgierzem Google i Apple w sprawie niedotrzymania prywatności dziś przelicytowały UE. Jeśli nie ustąpią nawet o krok, będą w wygodnej pozycji odbierania pochwał ekspertów od prywatności. W tym czasie europejskie państwa mogą ponosić społeczne i ekonomiczne koszty niedostatecznego działania śledzenia kontaktów w walce z pandemią.
Bartosz Paszcza
Artykuł ukazał się na stronie Klub Jagielloński
Wszystko jedno czy biurokracja państwowa czy urzędasy firmowi będą elektronicznie walić jednostkę człowieczą po prywatnej twarzy. Czy ci, czy ci, to i tak prywatny tyłek jednego człeka jest/będzie do wglądu. Nie widzę co lepsze albo co gorsze. Otwór stołowy i tak z tyłu.
Zgadza się. Też dziwi w podejściu autora pewnego rodzaju obojętność na samo zjawisko totalnej inwigilacji. To tak, jakby wszystko było już przesądzone. Pytanie tylko: kto będzie tym zarządzał?
Ciekawe co na tego rodzaju szpicelstwo dowództwa poszczególnych armii każdego państwa? Już kilka lat temu terroryści mahometańscy byli w stanie namierzyć, albo w Iraku, albo w Afganistanie, albo w Syrii, nie bardzo pamiętam, ćwiczących i biegających w ramach treningu grup żołnierzy wokół poszczególnych baz, gdyż mieli przy sobie telefony komórkowe z programami mierzącymi tempo, kilometraż, tętno i ciśnienie ćwiczących. To jest dawna sprawa i jak się zakończyła nie pamiętam. W każdym razie był strach u tyłka, że można dzięki temu namierzyć cele. Ciekawe co na zagrożenie opisane w powyższym artykule cywilne i wojskowe wywiady i kontrwywiadu poszczególnych armii każdego kraju. Z jednej strony chętnie wykorzystałby do szpiegowania i z drugiej strony mają zagwozdkę, bo same będą szpiclowane. Czy ten art czytał ktośkolwiek z naszych wywiadowczych służb i widzi zagrożenia, nie tyle dla obywateli, bo ci są do sprawdzania i kontrolowania ciągłego i nieustannego, jako najbardziej podejrzani dał każdej władzy, a dla przede wszystkim własnej armii i służb specjalnych i policyjnych. Mamy kwadraturę kółka – bo należy zabezpieczyć się. Takie zabezpieczenie prędzej czy później, raczej później, dzięki przemyśleniom i dążeniu do wolności, jednak trafi do zwykłych i wolnych jednostek, szarych obywateli. Co oby się stało. Takie tam – beznadziejna nadzieja.
Dziwne. Sprzeczne. Paradoks. Te firmy komunikacyjno telefoniczne i siły porządkowo – bezpieczeństwa twierdzą, że już teraz, dziś i obecnie, są w stanie dzięki programom, internetowi i telefonom komórkowym, namierzyć gdzie jest aparat. Jednocześnie, jednak jak, zaginie człowiek, dorosły, dziewczyna, chłopak czy dziecko, to nie są w stanie odnaleźć zaginionego. To po co zakładać jeszcze jedną elektroniczną obrożę, jak nie jest dokładna i skuteczna? Czy może działa tylko na te osoby, co są podejrzane, o cokolwiek i wybrane? Capiąca rzecz i smród po świecie chodzi.
Comments are closed.