DEKLARACJA KOMITETU MINISTRÓW dot. Ai

 DEKLARACJA KOMITETU MINISTRÓW 

W SPRAWIE MOŻLIWOŚCI MANIPULACYJNYCH PROCESÓW ALGORYTMICZNYCH

(Przyjęte przez Komitet Ministrów w dniu 13 lutego 2019 roku 

na 1337-tego spotkania Zastępców Ministrów)

1.Państwa członkowskie Rady Europy zobowiązały się do budowania społeczeństw opartych na wartościach demokracji,praw człowieka i praworządności.To zobowiązanie pozostaje i powinno być honorowane w całym trwającym procesie transformacji społecznej napędzanej postępem technologicznym.Państwa członkowskie muszą zapewnić prawa i wolności zapisane w Konwencji o ochronie praw człowieka i podstawowych wolności (ETS nr 5) wszystkim osobom podlegającym ich jurysdykcji,zarówno offline,jak i online,w środowisku bezprecedensowej globalizacji politycznej,gospodarczej i kulturowej oraz łączność.

2.Usługi cyfrowe są dziś wykorzystywane jako podstawowe narzędzie nowoczesnej komunikacji,w tym komunikacji politycznej między rządami oraz między instytucjami publicznymi a obywatelami.Ponadto mają one fundamentalne znaczenie dla coraz większej liczby użytkowników w zakresie konsumpcji wiadomości,edukacji,rozrywki,transakcji handlowych i wielu innych form codziennych czynności.Powoduje to bezprecedensowe ilości nowych danych,które są stale tworzone z rosnącą szybkością i skalą.

3.Zaawansowane technologie odgrywają kluczową rolę w utrzymaniu efektywności i wartości cyfryzacji dla usług publicznych,we wzmacnianiu indywidualnej autonomii i samostanowienia oraz w zwiększaniu rozkwitu człowieka poprzez tworzenie optymalnych warunków dla korzystania z praw człowieka.W tym kontekście nawiązuje się do zalecenia CM/Rec (2007) 16 Komitetu Ministrów do państw członkowskich w sprawie środków promowania wartości internetu dla usług publicznych;Rekomendacje CM/Rec (2014) 6 Komitetu Ministrów do państw członkowskich w sprawie przewodnika po prawach człowieka dla użytkowników internetu;i zalecenie CM/Rec (2018) 2 Komitetu Ministrów do państw członkowskich w sprawie roli i obowiązków pośredników internetowych.

4.Technologia jest coraz bardziej obecna w naszym codziennym życiu i skłania użytkowników do dobrowolnego ujawniania swoich istotnych danych,w tym danych osobowych,za stosunkowo niewielkie nagrody przyznawane za wygodę.Świadomość społeczna jest jednak nadal ograniczona,jeśli chodzi o zakres,w jakim urządzenia codziennego użytku zbierają i generują ogromne ilości danych.Dane te są wykorzystywane do szkolenia technologii uczenia maszynowego w celu nadawania priorytetów wynikom wyszukiwania,przewidywania i kształtowania osobistych preferencji,zmiany przepływu informacji,a czasem poddawania osób eksperymentom behawioralnym.

5.Bieżące dyskusje dotyczące stosowania i wzmocnienia przepisów o ochronie danych powinny uwzględniać szczególne ryzyko i interesy osób,które mogą być szczególnie nieświadome zagrożeń związanych z wykorzystaniem danych.Obejmuje to dzieci,a także osoby należące do społeczności marginalizowanych,które mogą napotkać bariery językowe lub inne trudności strukturalne.Może również obejmować osoby,które ze względu na swój szczególnie duży ślad cyfrowy są szczególnie narażone na nowe formy nadzoru opartego na danych.

6.Coraz częściej środki obliczeniowe pozwalają na wnioskowanie o intymnych i szczegółowych informacji o osobach z łatwo dostępnych danych.Pomaga to w dzieleniu jednostek na kategorie,wzmacniając tym samym różne formy społecznej,kulturowej,religijnej,prawnej i ekonomicznej segregacji i dyskryminacji.Ułatwia również mikro-kierowanie do osób na podstawie profili w sposób,który może mieć głęboki wpływ na ich życie.

7.Ponadto technologie i systemy oparte na danych są projektowane w celu ciągłego uzyskiwania optymalnych rozwiązań w ramach danych parametrów określonych przez ich twórców.Działając na dużą skalę,takie procesy optymalizacyjne nieuchronnie stawiają pewne wartości nad innymi,kształtując w ten sposób konteksty i środowiska,w których jednostki,użytkownicy i osoby niebędące użytkownikami przetwarzają informacje i podejmują decyzje.Taka rekonfiguracja środowisk może być korzystna dla niektórych osób i grup,a szkodliwa dla innych,co rodzi poważne pytania dotyczące wyników dystrybucji.Skutki celowego wykorzystywania stale rosnących ilości zagregowanych danych dotyczących wykonywania praw człowieka w szerszym znaczeniu,znacznie wykraczających poza obecne pojęcia ochrony danych osobowych i prywatności.

8.Współczesne narzędzia uczenia maszynowego mają coraz większe możliwości nie tylko przewidywania wyborów,ale także wpływania na emocje i myśli oraz zmieniania przewidywanego przebiegu działań,czasem podświadomie.Dopiero niedawno ujawniły się zagrożenia dla społeczeństw demokratycznych,które wynikają z możliwości wykorzystania takiej zdolności do manipulowania i kontrolowania nie tylko wyborów ekonomicznych,ale także zachowań społecznych i politycznych.W tym kontekście należy zwrócić szczególną uwagę na znaczącą władzę,jaką postęp technologiczny daje tym - czy to podmiotom publicznym, czy podmiotom prywatnym-które mogą korzystać z takich narzędzi algorytmicznych bez odpowiedniego demokratycznego nadzoru lub kontroli.

9.Drobnoziarnisty,podświadomy i spersonalizowany poziom algorytmicznej perswazji może mieć znaczący wpływ na poznawczą autonomię jednostek i ich prawo do formułowania opinii i podejmowania niezależnych decyzji.Efekty te pozostają niedocenione,ale nie można ich lekceważyć.Nie tylko mogą osłabiać wykonywanie i korzystanie z indywidualnych praw człowieka,ale mogą prowadzić do korozji samych fundamentów Rady Europy.Jej główne filary,czyli prawa człowieka,demokracja i praworządność,opierają się na fundamentalnej wierze w równość i godność wszystkich ludzi jako niezależnych podmiotów moralnych.

W związku z powyższym Komitet Ministrów:

-zwraca uwagę na rosnące zagrożenie dla prawa człowieka do wyrażania opinii i podejmowania decyzji niezależnie od zautomatyzowanych systemów,które emanuje z zaawansowanych technologii cyfrowych.Należy zwrócić szczególną uwagę na ich zdolność do wykorzystywania danych osobowych i nieosobowych do sortowania i mikrodelekcji osób,do identyfikowania indywidualnych słabych punktów i wykorzystywania dokładnej wiedzy prognostycznej oraz do rekonfiguracji środowisk społecznych w celu spełnienia określonych celów i partykularnych interesów;

-zachęca państwa członkowskie do przyjęcia odpowiedzialności za przeciwdziałanie temu zagrożeniu przez

a)zapewnienie,aby na szczeblu wyższego szczebla zwrócono odpowiednią uwagę na ten interdyscyplinarny problem,który często pojawia się pomiędzy ustalonymi mandatami odpowiednich organów;

b)rozważenie potrzeby dodatkowych ram ochronnych związanych z danymi,które wykraczają poza obecne pojęcia ochrony danych osobowych i prywatności i uwzględniają znaczący wpływ ukierunkowanego wykorzystywania danych na społeczeństwa i szerzej na korzystanie z praw człowieka; 

c)inicjowanie,w odpowiednich ramach instytucjonalnych,otwartych,świadomych i pluralistycznych debat publicznych w celu dostarczenia wskazówek,gdzie wyznaczyć granicę między dopuszczalnymi formami perswazji a niedopuszczalną manipulacją.Ta ostatnia może przybrać formę wpływu podprogowego,wykorzystującego istniejące słabości lub uprzedzenia poznawcze i / lub naruszającego niezależność i autentyczność podejmowania decyzji przez jednostki;

d)podjęcie odpowiednich i proporcjonalnych środków w celu zapewnienia skutecznych gwarancji prawnych przeciwko takim formom bezprawnej ingerencji; i

e)wzmocnienie pozycji użytkowników poprzez promowanie krytycznych umiejętności cyfrowych i zdecydowane zwiększanie świadomości społecznej na temat tego,ile danych jest generowanych i przetwarzanych przez urządzenia osobiste,sieci i platformy za pomocą procesów algorytmicznych,które są przeszkolone w zakresie wykorzystywania danych.W szczególności należy zwiększyć świadomość społeczną,że narzędzia algorytmiczne są szeroko stosowane do celów komercyjnych i,w coraz większym stopniu,z powodów politycznych,a także do dążenia do anty-lub niedemokratycznego zdobywania władzy,prowadzenia działań wojennych lub wyrządzania bezpośrednich szkód;

-u nderlines równie odpowiedzialność państw członkowskich do prowadzenia i wspierania poszukiwań i badań nad autonomii,równości i dobrobytu zwiększających potencjał zaawansowanych technologii przetwarzania danych i uczenia maszynowego.W szczególności należy stworzyć zachęty do rozwijania usług, które wzmacniają równy dostęp do praw człowieka i korzystanie z nich oraz tworzą szeroką wartość dla społeczeństwa,między innymi poprzez zachęcanie do zaspokajania potrzeb społeczności historycznie zmarginalizowanych lub dotychczas niezasłużonych.W tym celu należy wspierać strukturalną różnorodność innowacji i badań;

-a przyznaje,że należy wziąć pod uwagę,zarówno na szczeblu krajowym,jak i międzynarodowym,rosnący ciężar spoczywający na przemyśle w różnych sektorach,aby wywiązywał się ze swoich ważnych funkcji i wywierania wpływu na współmiernych poziomach większej sprawiedliwości,przejrzystości i odpowiedzialności,zgodnie z ich prawa człowieka i podstawowe wolności oraz pod kierunkiem instytucji publicznych;

-Podkreśla społeczną rolę środowiska akademickiego w opracowywaniu niezależnych,opartych na dowodach i interdyscyplinarnych badań i porad dla decydentów w zakresie zdolności narzędzi algorytmicznych do wzmacniania lub zakłócania suwerenności poznawczej jednostek.Badania te powinny uwzględniać istniejącą różnorodność społeczeństw i obejmować wszystkie środowiska i wiek użytkowników,nie tylko w odniesieniu do ich zachowań jako konsumentów,ale także szerszy wpływ na ich samopoczucie emocjonalne i osobiste .

https://www.coe.int/en/web/artificial-intelligence/ai-and-control-of-covid-19-coronavirus

https://techcrunch-com.cdn.ampproject.org/c/s/techcrunch.com/2020/03/22/ibm-amazon-google-and-microsoft-partner-with-white-house-to-provide-compute-resources-for-covid-19-research/amp/

https://bluedot.global/products/explorer/

https://www.cnbc.com/2020/03/03/bluedot-used-artificial-intelligence-to-predict-coronavirus-spread.html#close

https://www.reuters.com/article/us-health-coronavirus-facial-recognition/even-mask-wearers-can-be-idd-china-facial-recognition-firm-says-idUSKBN20W0WL

https://www.reuters.com/video/?videoId=OVC4H6JJB&jwsource=em

https://search.coe.int/cm/Pages/result_details.aspx?ObjectID=09000016809ed062