Porucznik Columbo i kryminalna przyszłość AI

Dobra, wolałem Kojaka. Niemniej z tych wszystkich kryminałów, które oglądałem w dzieciństwie (czasem po kryjomu wyglądając spod pierzyny), w pamięci pozostała fabuła tylko jednego i jest to właśnie odcinek Columbo. Nie wiem, na ile te wspomnienia będą wierne, bo minęło już kilka dekad i mogło mi się coś poplątać. To wszak bez większego znaczenia, ważna jest zarysowana w tych wspominkach idea, którą, kilka akapitów niżej, skonfrontujemy z teraźniejszością.

Mamy więc trupa – oczywiście, skoro amerykański kryminał, trup być musi. Mężczyznę zagryzły psy, w czasie gdy rozmawiał przez telefon. Ale, ale – oczywiście nie telefon komórkowy, wtenczas takich nie było… Przed oczami mam scenę, gdy dwa wielkie psiska rzucają się na gościa krzyczącego coś do słuchawki w jakiejś budce telefonicznej czy czymś w tym rodzaju. W dochodzeniu prowadzonym przez porucznika Columbo okazało się, że psy należały do znajomego ofiary, co więcej, w czasie ataku psów zagryziony rozmawiał właśnie z właścicielem zwierząt. Panów coś chyba łączyło, nie pomnę, czy interesy, czy kobieta, czy jeszcze coś innego.

Psy wzięto na obserwację, ale ta nic nie wykazała: zwierzęta okazały się łagodne, dobrze ułożone, tylko głaskać i przytulać. Nasz detektyw zaczął przypuszczać, że psy wytresowano w taki sposób, że wpadały w szał na dźwięk jakiegoś konkretnego słowa. Dodajmy też – rzecz niebagatelna – że psy reagowały na dźwięk dzwonka telefonu i przybiegały w miejsce, gdzie ten dzwonił.

Hipoteza robocza: morderstwo z premedytacją. Morderca wytresował psy, a następnie w rozmowie telefonicznej skłonił ofiarę do wypowiedzenia słowa, które wywoływało agresję u zwierząt. Żeby to słowo odkryć, Columbo zaczął spotykać się z podejrzanym, by w czasie tych spotkań bawić się w słowną grę, która polegała bodaj na tym, że na zadane słowo odpowiadało się innym. Te rozmowy były skrycie nagrywane, a potem odtwarzane psom. W końcu się udało: w końcu, po którymś tam słowie wypowiedzianym przez domniemanego mordercę, psy pogryzły magnetofon. Jeśli dobrze zapamiętałem, było to słowo „różyczka”.

Przypomniałem sobie ten film niedawno, po przeczytaniu kolejnych wieści dotyczących AI. Oto naukowcy z Anthropic (jedna z wielu firm zajmujących się AI) postanowili sprawdzić, czy model językowy AI da się uwarunkować, by wykonał pewne konkretne działanie w odpowiedzi na zadany bodziec, który można ukryć wśród typowych instrukcji, jakimi komunikujemy się z chatbotem.

Mamy więc do czynienia z sytuacją podobną do tej, jaka miała miejsce w filmie. W odpowiedzi na „wyzwalacz”, czyli pewne konkretne polecenie (słowo, instrukcja), chatbot reaguje w określony sposób, wykonuje operację, której w danym kontekście nikt się nie spodziewa. Coś takiego można zaprogramować w normalnym treningu, jednak tutaj efekt ten uzyskuje się inną drogą, „nieoficjalną”, bocznym wejściem ukrytym przed tymi, którzy nad modelem sprawują dozór.

U psów to wymuszenie konkretnego zachowania odbywa się na drodze tresury, opartej na wykorzystaniu odruchów warunkowych; trudno powiedzieć, jaki mechanizm stoi za opisanym wyżej zjawiskiem w przypadku AI, najpewniej jest to jakiś sposób uczenia się; ale z podobnymi efektami mamy też do czynienia w przypadku zjawiska-procedury, które tego typu zachowania może powodować także u ludzi, myślę tu o hipnozie. Właśnie za pomocą hipnozy można w taki sposób „zaprogramować” również człowieka – nie zawsze i nie do wszystkiego, jako że podatność na hipnozę jest bardzo zmienna. W sytuacjach takich mamy działanie, które wykonuje zahipnotyzowany i które potem, już po fakcie, bywa przez ofiarę w najrozmaitszy, niekiedy dziwaczny sposób tłumaczone i racjonalizowane – ciekawe byłoby sprawdzić, jak w takich sytuacjach tłumaczyć będzie się AI… Pewnie jeszcze o tym usłyszymy.

Amazing Stories, 1939

O rozmaitych „niepożądanych” skutkach używania chatbotów dowiadujemy się co rusz, jednak prawdziwe hece zaczną się dopiero wtedy, gdy na masowy rynek trafią nowe roboty – już nie takie, z jakimi mamy do czynienia obecnie, więc o wąskich specjalizacjach, lecz bardziej uniwersalne, wszechstronne: roboty, które swoje zdolności zdobędą nie przez sztywne zaprogramowanie do takich czy innych działań, lecz właśnie na drodze uczenia się, takiego samego lub podobnego do treningu jakiemu poddawane są modele językowe AI. Wedy problemy, trapiące obecnie modele językowe, staną się udziałem maszyn już nie tylko „generujących treści”, jak to jest w przypadku chatbotów, lecz też urządzeń zdolnych do bezpośrednich oddziaływań w świecie fizycznym.

Być może pierwszym etapem będą tu autonomiczne pojazdy – obecnie używane na małą skalę, nie stanowią jakiegoś łatwego i oczywistego celu do „włamań”, jednak z czasem się to zmieni. Może więc będziemy mogli „nauczyć” samochód sąsiada, by ten trąbił na widok przechodnia w czerwonej kurtce lub mrugał światłami do każdej przechodzącej dziewczyny. To oczywiście drobnostki, ale przecież bez trudu można sobie wyobrazić działania stricte przestępcze. Aczkolwiek w przypadku pojazdów da się być może ten problem jakoś rozwiązać poprzez bezwzględną separację układów odpowiedzialnych za jazdę i bezpieczeństwo (odpowiednio zabezpieczonych i podległych jedynie producentowi auta) od tych oferujących rozmaite dodatkowe funkcje.

Trudniej będzie z robotami, jako że w ich przypadku pożądana będzie właśnie maksymalna uniwersalność, ich użyteczność będzie tym większa, im bardziej będą w swoich możliwościach – działaniach i komunikacji – przypominać ludzi. A tego zapewne nie da się na sztywno zaprogramować, tego maszyny będą musiały się uczyć, więc i otwiera się furtka do opisanych wcześniej nadużyć: przez odpowiednie warunkowanie w rodzaju takiego, jakie wykorzystali badacze z Anthropic, będzie można „skłonić” niczego nieświadome przecież roboty do rozmaitych nietypowych działań. Usypianie ekstra proszkiem – żaden problem; uduszenie przez pończoszkę – proszę bardzo; dokuczanie radiem z góry – ależ oczywiście; zanurzenie wuja w stawie...

Ba, można przypuszczać, że rozmaite typy robotów, produkowane przez różnych producentów, będą posiadać wiele specyficznych dla siebie podatności, tylnych wejść, tak jak to obecnie ma miejsce w przypadku systemów operacyjnych czy innego oprogramowania – będzie to jeszcze inne pole do manipulacji. I tak jak dziś informacje o takich podatnościach oprogramowania można kupić na czarnym rynku (a też i wykorzystujące takie luki gotowe wirusy), tak samo może być w przypadku robotów. Przeto „śledzenie właściciela”, które już dziś jest możliwe dzięki telefonom i innemu sprzętowi, to będzie najmniejszy problem, gdyż, jako się rzekło, będziemy mieli do czynienia z urządzeniami służącymi nie tylko do rejestracji, tworzenia i przesyłania treści, lecz z maszynami zdolnymi do konkretnych fizycznych działań – również tych cytowanych w poprzednim akapicie: kiedyś oferowanych jako usługa świadczona przez tanich drani, a w przyszłości… być może też.

Ostatnio zaczęły pojawiać się regulacje prawne dotyczące sztucznej inteligencji, ale to zapewne dopiero początek długiego i skomplikowanego procesu, te dzisiejsze zalecenia można chyba uznać za wstęp, przymiarkę do tego, co będzie miało miejsce w przyszłości – a co zostanie wymuszone przez olbrzymią ilość problemów i zagadnień, jakie pojawią się wraz z upowszechnieniem się robotów opartych na AI. Swoją drogą, jakże naiwne wydają się w tym kontekście „prawa robotów” sformułowane przez Asimova (a ich późniejsze rozwinięcia też nie są dużo lepsze); problemów i zagadek, z którym mamy już dziś do czynienia w przypadku chatbotów, na gruncie teoretycznym nikt chyba nie przewidział, jeśli zaś idzie o fabułę, to w morzu powtarzalnych schematów da się pewnie dostrzec jakieś perełki, ale i tu będą to chyba tylko intuicje i przeczucia, a nie jawne predykcje. Przychodzą mi na myśl roboty z Opowieści o pilocie Pirxie Lema – Terminus, Aniel, Setaur: w ich zachowaniach można dostrzec te niejasności, zagadki, które dziś są przyczynkiem do kontrowersji, jakie wywołuje AI w sporach, czy model językowy to tylko bezmyślny kalkulator, operujący nie na liczbach, jak ten tradycyjny, lecz na słowach, czy też mamy już do czynienia z czymś więcej, przejawami jeśli nie świadomości, to przynajmniej zdolności do jakiegoś szerszego oglądu.

Obecnie prawo daje wytyczne, ewentualnie stawia warunki i ograniczenia, ale w przyszłości trzeba będzie przecież określić zasady odpowiedzialności, winy i kary. I tu pojawi się problem, bo o ile w swoich działaniach AI będzie podobna ludziom, to przecież za ewentualne przewiny karać będziemy nie AI, lecz jej twórców albo użytkowników dopuszczających się nadużyć. Mamy jednak problem czarnej skrzynki, czyli tego, że nie jesteśmy w stanie określić, co tak naprawdę dzieje się w sieci neuronowej, że podejmuje ona takie czy inne działania i decyzje – a co za tym idzie, zapewne trudno będzie wyrokować, czy dane działanie jest wynikiem zbiegu rozmaitych nieprzewidzianych okoliczności, czy może skutkiem świadomego zaniedbania lub lekceważenia przepisów, jakiego dopuścili się twórcy urządzenia, czy też, w końcu, jest to efekt manipulacji dokonanej przez osoby trzecie. W filmie przywoływanym na początku porucznik Columbo, żeby udowodnić winę mordercy, używa podstępu (w końcu sam fakt, że psy reagują agresją na jakieś słowo, to jeszcze nie dowód), ale w przypadku uduszenia pończoszką przez robota sprawa może być dużo trudniejsza...

Jeśli problemy będą się mnożyć, a podatnościom takim, jak opisana przez naukowców z Anthropic, nie da się zapobiec, może to nawet ograniczyć rozwój robotycznego AI, przynajmniej tego kierowanego na rynek masowy. I powodem będą tu nawet nie tyle jakieś restrykcyjne regulacje, ale po prostu obawy potencjalnych użytkowników, którzy będą się bali takich maszyn i urządzeń używać – zwłaszcza jeśli przypadki zanurzania w stawie (lub tylko w wannie) zaczną się mnożyć… Tak czy owak, obszar najrozmaitszych regulacji będzie się pewnie ciągle poszerzał, powstaną całe gałęzie prawa, zajmującego się kwestiami związanymi z AI, i zapewne pojawią się też specjalizujący się w tych kwestiach prawnicy. No i również, rzecz oczywista, będzie miejsce dla detektywów zajmujących się przestępstwami popełnionymi przez roboty i sztuczną inteligencję – lub z ich wykorzystaniem. Zresztą, kto wie, może w końcu takim detektywem, nowym porucznikiem Columbo, zostanie jakiś robot… Zobaczymy. Jak pożyjemy, to zobaczymy.