Panoptykon 4.0 Fundacja Panoptykon

ChatGPT i inne duże modele językowe od wielu miesięcy są już używane w funkcji asystentów głosowych. Z badań wiemy, że blisko 1/3 Polaków korzysta z głosowego wyszukiwania na swoich telefonach. Jak jeszcze używamy sztucznej inteligencji?

„Jeśli nie sprzeciwimy się akcesji Ukrainy do Unii Europejskiej, zrujnujemy rolników!”. „Ukraińskie kurczaki to nieuczciwa konkurencja”. Emocjonalne wpisy o zniszczeniu przyszłości młodych Polaków – to tylko kilka przykładów z ponad 4000 sponsorowanych treści kolportowanych przez powiązaną z Rosją siatkę „Doppelganger”.

Choć od lat człowiek może w sekundę znaleźć dowolną informację, dalej spędza dwie pierwsze dekady życia, wkuwając na pamięć. Nauczyciele nie mają przestrzeni, by uczyć współpracy z technologią i jej kreatywnego wykorzystania. Zamiast tego skupiają się na sprawdzaniu, czy uczniowie przepisywali fragmenty Wikipedii lub posługiwali się Chatem GPT do pisania wypracowań. Tylko po co komu takie zadanie, skoro sprawdzian polega na odtworzeniu danych, które są dostępne w Internecie, a rozprawka nie wymaga wypracowania oryginalnego punktu widzenia?

W umowie koalicyjnej zawartej między partiami tworzącymi dziś rząd umieszczono ważną dla nas deklarację: „Koalicja wprowadzi skuteczny mechanizm kontroli wykonywania czynności operacyjno-rozpoznawczych przez służby”.

Jednak natura dokumentów programowych jest taka, że trudno zdefiniować, co dokładnie autorzy mieli na myśli i co według nich oznacza skuteczność.

Urzędujący minister zdrowia sięga do prowadzonej przez resort bazy danych dotyczących zdrowia i leczenia po informacje, których użyje do próby zdyskredytowania lekarza, który go krytykował. To jednostkowa sytuacja, która nie powinna mieć miejsca. Ale kradzież danych z bazy laboratorium ALAB, wyciek danych ze środowiska testowego firmy MEDILY, która dostarczała oprogramowanie jednej z wrocławskich klinik, to incydenty, jakich niestety wiele, jeśli chodzi o dane medyczne. Informacje o zdrowiu – a raczej o chorobach – należą do tych, których ujawnienie może spowodować największe szkody.

Kto w państwie powinien mieć dostęp do historii medycznej? Na przykład, by sprawdzić, czy pacjent choruje przewlekle i czy leczył się w szpitalu. Dla wielu będzie oczywiste, że dostęp taki powinni mieć przede wszystkim lekarze i lekarki – ewentualnie inni kluczowi pracownicy ochrony zdrowia.

Ale przecież do danych medycznych, szczególnie digitalizowanych, ma dostęp większa liczba osób: od administratorów systemów po Ministerstwo Zdrowia. W przyszłości dostęp ten będą może miały nawet algorytmy sztucznej inteligencji.