Raport mniejszości (Gigadane)

Kolejny z interesujących artykułów. Autorem jest pan *Wojciech Cellary, adres do oryginalnego artykułu na stronie GW. Steven Spielberg w swoim filmie „Raport mniejszości” z 2002 roku sprawę przewidział dopiero na rok 2054. Jak widać nasza wyobraźnia ma pewne ograniczenia w ocenie horyzontu czasowego naszych możliwości…

Inwigilacja_terroryzm

INWIGILACJA W EPOCE TERRORYZMU

Nadużycie analizy gigadanych prowadzi do społeczeństwa, w którym nie istnieje wolna wola i indywidualny wybór człowieka. Moralny kompas każdego człowieka jest zastąpiony algorytmem komputerowym

W dyskusji nad projektem zmiany ustawy o policji padają argumenty za i przeciw, ale powierzchowne i niesięgające sedna sprawy, a na pewno niepokazujące związków z nowoczesnymi technikami informatycznymi, takimi jak analiza gigadanych (ang. big data).

U podstaw problemu leży zjawisko terroryzmu, zwłaszcza samobójczych ataków. Dotychczas system prawny zakładał, że państwo wysyła społeczeństwu przekaz: „Obywatelu, nie popełniaj przestępstwa, bo policja cię złapie, prokurator oskarży, sędzia osądzi, a za karę twoje życie będzie skrócone, bo zamknięcie w więzieniu to jak skrócenie życia”. Nie działa to jednak w odniesieniu do terrorystów samobójców, bo oni, mordując przypadkowych, niewinnych ludzi, sami wymierzają sobie najwyższy wymiar kary. Bardziej ukarać ich nie można.

Obowiązkiem państwa jest chronić swoich obywateli, ale w tym przypadku jedynym sposobem ochrony jest niedopuszczenie do ataku na drodze aresztowania osób, które taki atak planują. To jednak oznacza konieczność naruszania ich prywatności, aby dowiedzieć się o ich planach z wyprzedzeniem. Stąd zmiana podejścia państw zagrożonych terroryzmem do inwigilacji obywateli.

Dawniej inwigilacja, w szczególności elektroniczna, była możliwa tylko w odniesieniu do konkretnych obywateli, co do których istniało uzasadnione podejrzenie popełnienia przestępstwa, i tylko za zgodą sądu stojącego na straży wolności obywatelskich i sprawującego nadzór nad organami ścigania. W epoce terroryzmu państwo chce zbierać wszelkie możliwe dane o wszystkich obywatelach, czyli wszystkich inwigilować, i w razie potrzeby przeprowadzać analizę tych danych w odniesieniu do podejrzanych.

Przy takim podejściu człowiek jest traktowany jako suma relacji społecznych, interakcji elektronicznych i ulubionych treści. Obywatel staje się podejrzany nie dlatego, że zrobił coś złego, tylko dlatego, że jego relacje z innymi ludźmi i treściami wskazują na większą niż u innych skłonność do popełnienia przestępstwa.

Gigadane 

Takie masowe zbieranie danych – gigadanych – nie byłoby uzasadnione, gdyby nie istniały skuteczne metody ich analizy. Ale wiedza ta opiera się nie na poszukiwaniu przyczynowości, tylko korelacji. To zdecydowanie nie jest to samo, ale taka wiedza również może być podstawą skutecznego działania. Tu jednak kryje się niebezpieczeństwo, bo dzięki analizie gigadanych będziemy wiedzieli, co się dzieje, a nawet – z wysokim prawdopodobieństwem – co się stanie, ale nie będziemy wiedzieli dlaczego.

Przykładowo dzięki analizie gigadanych możemy wykryć, że branie dwóch leków jednocześnie zwiększa skuteczność leczenia. Nie musimy wiedzieć, dlaczego tak się dzieje, aby podawać pacjentom oba leki. Analiza gigadanych nie ma na celu nauczenia komputerów, aby myślały jak ludzie, tylko polega na zastosowaniu matematyki do wyliczenia prawdopodobieństwa wystąpienia pewnego faktu.

Po napisaniu np. jakiegoś słowa w SMS-ie na smartfonie system mi podpowie, jakie słowo z największym prawdopodobieństwem będzie następne. Przy czym ta analiza jest spersonalizowana. Jeśli pisząc SMS-a, postawię kropkę, to system zaproponuje mi następne słowo: „Wojtek”, bo po kropce najczęściej podpisuję się swoim imieniem. Ale komuś innemu zaproponuje takie słowo, które w odniesieniu do niego ma najwyższe prawdopodobieństwo. Jeśli ja napiszę pierwsze dwie litery „po”, to system zaproponuje mi słowo „Poznań”, ale komuś innemu – „Pozdrowienia”.

Analiza gigadanych jest czym innym niż profilowanie. Profilowanie polega na kwalifikacji pojedynczego człowieka do określonej grupy, np. mężczyzn powyżej 50. roku życia albo kierowców poniżej 25. roku życia, i zastosowaniu do nich jednakowych reguł – np. uznanie ich za zagrożonych zawałem serca lub powodujących wypadki drogowe. Oczywiście nie wszyscy mężczyźni po 50. roku życia są zagrożeni zawałem i nie wszyscy młodzi ludzie jeżdżą jak wariaci. Na podstawie analizy gigadanych – a nie profilowania – tylko niektóry zostaną zakwalifikowani do zagrożonych zawałem i stanowiących zagrożenie na drodze.

Odwracając tę sytuację, pasażer o arabskim nazwisku i wyglądzie płacący gotówką za bilet lotniczy nie musi być automatycznie podejrzany o terroryzm, jeśli z analizy gigadanych dotyczących jego osoby to nie wynika.

Jednak odkrycie korelacji na podstawie analizy gigadanych to nie odkrycie związków przyczynowo-skutkowych. Można wykryć nieoczywistą korelację między bezawaryjnością samochodów a ich pomarańczowym kolorem. Jednak pomalowanie konkretnego samochodu na pomarańczowo nie spowoduje, że nie będzie on się psuć.

Prywatność 

Na proste pytanie: „Dlaczego chronić prywatność?”, jest prosta odpowiedź: „Ponieważ utrata prywatności czyni człowieka podatnym na manipulację i dyskryminację”. Niestety, analiza gigadanych nie tylko zwiększa groźbę utraty prywatności, ale także zmienia charakter zagrożeń. Wartość gigadanych jest bowiem związana z ich wtórnym, a nie tylko pierwotnym użyciem – i to do celu innego niż cel pierwotny.

Podważona jest zatem obecna zasada jawnego wyrażania zgody przez każdego obywatela na użycie jego danych osobowych do określonego celu i zakazu używania tych danych do innych celów. Nie można z góry wyrazić zgody na sposób wykorzystania danych, który jeszcze nie istnieje. Nie można prosić powtórnie właścicieli danych osobowych – często setek milionów ludzi, bo chodzi o gigadane – o zgodę na ich nowe wykorzystanie, gdy taki wtórny cel się pojawi.

Jednak nawet brak zgody nie jest zabezpieczeniem. Ludzie protestowali przeciwko pokazywaniu ich domów przez Google Street View w obawie przez złodziejami, ale rozmazanie zdjęcia konkretnego domu też może być wskazówką dla złodziei.

Anonimizacja, czyli usuwanie danych osobowych, umiarkowanie skuteczna w przypadku małych zbiorów danych, jest nieskuteczna w przypadku gigadanych. Eksperyment wykazał, że oceny wystawione anonimowo sześciu z 500 filmów na Netflixie pozwalają zidentyfikować klienta z dokładnością 84 proc., a jeśli dodatkowo znany jest dzień wystawienia oceny – to nawet 99 proc.

Sprawiedliwość

Predykcyjna analiza gigadanych pozwalająca z dużym prawdopodobieństwem przewidzieć, co się stanie, umożliwia zmianę podejścia państwa do ochrony obywateli przed zagrożeniami typu terroryzm, bo pozwala aresztować terrorystów, zanim przeprowadzą atak. To stanowi jednak zagrożenie dla sprawiedliwości takiej, jaką uznajemy w krajach demokratycznych. Myśl o popełnieniu przestępstwa nie jest bowiem nielegalna. Ilu z nas w przypływie gniewu „chciało zabić” swego szefa? Dopiero przejście do czynu jest nielegalne.

Osobista odpowiedzialność wiąże się z indywidualnym wyborem. Złodziej, który włamał się do sejfu, zostanie pociągnięty do odpowiedzialności, ale osoba, która otworzyła sejf, bo złodziej przyłożył jej pistolet do głowy, odpowiedzialności nie poniesie. Uznanie kogoś za winnego przewidywanych czynów, których jeszcze nie popełnił, to błąd. Polega on na wykorzystaniu prognoz z analizy gigadanych bazujących na korelacji do podejmowania decyzji o czyjejś indywidualnej odpowiedzialności, która wymaga istnienia związku przyczynowo-skutkowego: popełnione przestępstwo – kara.

Analiza gigadanych pozwala poznać ryzyko wystąpienia przyszłych zjawisk i odpowiednio dostosować nasze działania. Jednak nie mówi nic o przyczynowości. Każda osoba musi indywidualnie podjąć decyzję o swoim konkretnym działaniu, które wywoła konkretny skutek, za który będzie ponosić odpowiedzialność, w tym karną. Istnieje niebezpieczeństwo nadużycia analizy gigadanych do szukania przyczynowości na podstawie korelacji, co jest błędem metodologicznym.

Może to prowadzić do społeczeństwa, w którym nie istnieje wolna wola i indywidualny wybór człowieka. Moralny kompas każdego człowieka będzie zastąpiony algorytmem prognostycznym, a jednostki zostaną poddane nieograniczonemu przymusowi kolektywnych decyzji. Innymi słowy, państwo ogłasza obywatelowi: my, państwo (policjant, prokurator, sędzia), wiemy, że postąpisz nie według własnego uznania (moralności), lecz tak, jak to wynika z zachowań kolektywnych. Ponieważ to, co możesz zrobić, jest złe, to zamkniemy cię prewencyjnie w więzieniu za przestępstwo, którego wprawdzie nie popełniłeś, ale które możesz popełnić, bo podobni do ciebie je popełnili.

Takie podejście jest niedopuszczalne na gruncie sprawiedliwości w państwach demokratycznych, bo oznacza w istocie zniewolenie społeczeństwa. Pomimo możliwości, jakie oferuje predykcyjna analiza gigadanych, ludzie powinni być (nadal) sądzeni za to, co faktycznie zrobili, a nie za statystyczną prognozę tego, co mogą zrobić w przyszłości.

Wartości 

Zbierać więc gigadane o obywatelach czy nie? Nie ma łatwej odpowiedzi, bo niezależnie od zastosowanego rozwiązania zawsze ktoś może ucierpieć. Albo niektórzy obywatele ucierpią na skutek ataku terrorystycznego, który nie został wyprzedzająco wykryty i zneutralizowany przez służby specjalne, albo inni obywatele ucierpią, bo mający dostęp do gigadanych skorumpowani urzędnicy wystawią ich gangsterom lub nieetyczni politycy u władzy będą dyskryminować ich za poglądy. Wybór jak w greckiej tragedii – konflikt podstawowych wartości.

Jednak przed atakami terrorystycznymi nie ma innej skutecznej ochrony, a przed skorumpowanymi urzędnikami i nieetycznymi politykami – jest. Analiza gigadanych jak każda nowa technologia może być wykorzystana do czynienia dobra i zła. Dzięki niej można będzie skuteczniej i wcześniej chronić ludzi przed terroryzmem, katastrofami, wypadkami, chorobami itp. oraz lepiej zgadywać ich życzenia. Ale te same techniki mogą być użyte do typowania celów ataków kryminalnych albo dyskryminowania przeciwników politycznych.

Dlatego musi pozostawać pod ścisłą kontrolą takich organów jak niezawisłe sądy, które muszą mieć do dyspozycji kompetentnych informatyków, bo żaden prawnik tego nie skontroluje. Mamy w Polsce Generalnego Inspektora Ochrony Danych Osobowych chroniącego obywateli przed nieuprawnionym przetwarzaniem ich danych osobowych, ale będziemy potrzebować inspektora analiz gigadanych, który nas ochroni przed nieuprawnionymi wnioskami z takich analiz.

* Prof. Wojciech Cellary jest kierownikiem Katedry Technologii Informatycznych Uniwersytetu Ekonomicznego w Poznaniu, Autor korzystał z „Big Data. Rewolucja, która zmieni nasze myślenie, pracę i życie”, MT Biznes, Warszawa 2014

Średnia ocen
0 z 0 głosów.
Udostępnij przez:

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

Kontynuując przeglądanie tej strony, domyślnie akceptujesz użycie ciasteczek tzw. cookies. więcej...

Ustawienia cookie na tej stronie są ustawione domyślnie na "zezwalaj na pliki cookie", aby dać Ci najlepszy sposób przeglądania z możliwych. Jeśli w dalszym ciągu korzystasz z tej strony, bez zmiany ustawienia plików cookie lub klikając na przycisk "Akceptuję", wyrażasz na to zgodę.

Zamknij