Nowa służba specjalna zadba o uczciwych obywateli

Rząd powołał właśnie agencję O² (Odpowiedzialność Obywatelska), której misją będzie promowanie w społeczeństwie szacunku dla prawa oraz nadzór nad jego przestrzeganiem przez obywateli. Agencja otrzymała status służby specjalnej i adekwatne uprawnienia. Może m.in. śledzić nasze zachowania w Internecie, mapować rozmowy telefoniczne oraz używać prowokacji w
oparciu o przepisy kodeksu karnego.

W rozporządzeniu powołującym agencję O² przewidziano dla niej zaledwie 120 etatów. Wysoki jest za to budżet na wyposażenie techniczne. Zapytany o szczegóły minister spraw wewnętrznych wyjaśnił w parlamencie, że dla wypełnienia swoich zadań agencja będzie stosować kosztowne aplikacje oparte na sztucznej inteligencji. W pierwszym okresie zostaną zaadoptowane rozwiązania już istniejące, a w nieodległej przyszłości 30-osobowy zespół programistów ma stworzyć nowe programy, które wzmocnią skuteczność działania O².

Jeden z pierwszych dwudziestu nowo zatrudnionych funkcjonariuszy O² zgodził się anonimowo ujawnić niektóre z zaplanowanych metod pracy agencji. Jej mózgiem ma być program działający na superkomputerze Teraflop, który nasz rząd kupił niedawno od Amerykanów. Ta super-aplikacja jest autorskim połączeniem co najmniej kilkudziesięciu aplikacji opartych na SI.

Najpierw stworzy ona profile wszystkich mieszkańców naszego kraju. Następnie, korzystając z wszelkich dostępnych źródeł, będzie przyglądać się naszym zachowaniom w realu oraz w świecie cyfrowym. Już monitoruje w tym celu profile w mediach społecznościowych, różne dane przechowywane w chmurach, w tym pliki tekstowe, nagrania audio, zdjęcia i filmy wideo. Będzie ściągać także dane z urządzeń domowych i z komputera naszego pojazdu. Przyjrzy się ponadto korespondencji mailowej, treści rozmów telefonicznych oraz dzięki aplikacji do rozpoznawania twarzy zarejestruje każde nasze pojawienie się w miejscach publicznych. Dzięki temu wyłapie i zarchiwizuje takie zachowania jak przekroczenia prędkości, przejście na pasach przy czerwonym świetle, ale także obecność w parku czy hotelu w towarzystwie inne osoby niż nasz stały partner.
Dzięki tym danym profil każdego obywatela będzie systematycznie uzupełniany. Dodatkowo w oparciu o zdjęcia umieszczone w Internecie przypisze nam preferencje seksualne. Analiza wypowiedzi w sieci, w szkole czy pracy posłuży z kolei do ustalenia przekonań politycznych i religijnych.

Każdej z naszych cech i każdemu z zachowań program przypisze wartość punktową opartą na skali: przyzwoity – zagrożony – zdeprawowany. Kiedy suma punktów przekroczy pierwszy próg (jego wartość jest obecnie ustalana przez kierownictwo agencji), profil zostanie oznakowany pomarańczowym kolorem. Oznacza to, że program będzie teraz przyglądał się osobom „pomarańczowym” ze szczególną uwagą.
Najważniejszą funkcją programu jest bowiem profilaktyka. Dlatego korzysta on z algorytmów, które potrafią odczytać zamiary popełnienia wykroczeń, a nawet przestępstw. Służy temu m.in. analiza mikroekspresji twarzy podczas każdego pojawienia się osoby analizowanej w zasięgu publicznych kamer bezpieczeństwa, a także monitoring II stopnia (bardziej wnikliwy) jej wszelkiego rodzaju wypowiedzi.

W przypadku, gdy monitoring pomarańczowy nie da jednoznacznych wskazań, program został uprawniony do opracowania prowokacji. W tym celu na podstawie próbki głosu osoby znanej zagrożonemu może stworzyć jego kopię i zlecić awatarowi wykonanie rozmowy telefonicznej namawiającej do wspólnego popełnienia wykroczenia, a nawet przestępstwa. Gdyby to nie wystarczyło, program umie stworzyć film z udziałem awatarów osób znanych zagrożonemu, na którym zarejestrowane jest wykroczenie lub przestępstwo z ich udziałem. Awatary są nie do odróżnienia od osób realnych i w kolejnych kontaktach będą jeszcze dwukrotnie nakłaniać zagrożonego do naruszenia porządku prawnego.
Agencja działa w interesie publicznym i jej finalnym celem jest nie dopuścić do zdeprawowania choćby jednego obywatela. Dlatego rząd zaplanował, że osoby które ulegną prowokacji, będą izolowane, zanim im samym i społeczeństwu przytrafi się najgorsze.

(zbig)

PS. Gdzie działa taka agencja? Oficjalnie nigdzie. Ale wszystkie zasygnalizowane powyżej narzędzia (i wiele innych) istnieją, a sztuczna inteligencja codziennie je udoskonala. W Chinach testuje się program punktowania publicznych aktywności obywateli i przypisuje im wartość punktową, pozytywną i negatywną. Amerykańska NSA od lat podsłuchuje wszystkie rozmowy telefoniczne na świecie i śledzi korespondencję mailową obywateli swoich i nieswoich. Nie ma dziś dużego miasta na którymkolwiek kontynencie, które nie miałoby kamer monitorujących ulice oraz inne miejsca publiczne i wychwytujących twarze osób niebezpiecznych lub potencjalnie niebezpiecznych. Bez problemu można wprząc w ten system na przykład analizę mikroekspresji ich mięśni twarzy. Autokraci zapewne już dziś obmyślają, jak wykorzystać SI dla swoich celów, czyli dla manipulowania społeczeństwami i bezwzględnego wygrywania niby demokratycznych wyborów.

Co możemy z tym zrobić? Zapanować nad rozwojem SI, póki jeszcze możemy. Choć wcale nie jest pewne, czy już nie jest za późno.

Zbigniew Gajewski