Prof. dr hab. Andrzej K. Koźmiński: Gry technologiczne

Wdniu „7 października 2022 r. Ameryka wypowiedziała wojnę Chinom” – oznajmił Mustafa Suleyman, współzałożyciel DeepMind i Inflection AI, w swojej książce „Nadchodząca fala”. Tego dnia Departament Handlu wprowadził drastyczne ograniczenia eksportu do Chin najbardziej zaawansowanych półprzewodników i chipów stanowiących podstawę systemów sztucznej inteligencji (AI). Nie chodzi tu wyłącznie o zastosowania wojskowe, ale w ogóle o przystopowanie rosnącej chińskiej potęgi technologicznej. Jednego z twórców technologii AI i wybitnego analityka trudno posądzać o egzaltację i poszukiwanie sensacji.

Nie jest to pierwszy przypadek w historii, gdy właśnie technologia była podstawowym źródłem przewagi konkurencyjnej na polach bitew i na rynkach, a zatem stawała się przedmiotem zażartych konfliktów i legendarnych operacji wojskowych. Przyczyną klęski Niemiec hitlerowskich w II wojnie światowej było odcięcie dostaw ropy naftowej i zniszczenie zalążków produkcji broni nuklearnej w zakładach produkcji „ciężkiej wody” w Norwegii. Do upadku Związku Radzieckiego przyczyniła się z kolei amerykańska blokada dostaw elektroniki realizowana konsekwentnie w ramach zimnej wojny. I to Projekt Manhattan położył podwaliny amerykańskiej hegemonii w wolnym świecie po II wojnie światowej.

Od dawna znana jest też ludzkości refleksja na temat zagrożeń, jakie stwarzają technologie. Wielki polski wizjoner technologii Stanisław Lem pisał już w 1964 r.: „Jeśli człowiek tego zapragnie, osiągnie w końcu każdy cel, ale wcześniej pojmie może, że cena, jaką przyszłoby zapłacić, czyni osiąganie tego celu absurdem”. W obawie przed taką ceną ludzkość kilkakrotnie rezygnowała z zastosowania niektórych broni, takich jak gazy bojowe czy broń jądrowa. Podobne refleksje towarzyszą nam dzisiaj na temat AI.

Światowa sieć innowacji

Czym różni się ta współczesna gra technologiczna od tych znanych z mniej lub bardziej odległej przeszłości? Przede wszystkim żyjemy dziś w podwójnym świecie: realnym i wirtualnym. Są one ściśle powiązane, ale odmienne. Już Lem zadawał fundamentalne pytanie o relacje rzeczywistości „sztucznej” i „normalnej”. Dziś wiemy, że to rzeczywistość wirtualna silniej oddziałuje na świat fizyczny niż odwrotnie. To zmienia charakter dzisiejszych gier technologicznych toczących się głównie wokół AI.

Koncepcja biznesu, czyli tworzenia i przechwytywania wartości, stosowana przez twórców kolejnych systemów AI jest całkowicie osadzona w sieci, w świecie wirtualnym. W sieci powstają produkty, w sieci są rozpowszechniane i sieć jest kanałem dystrybucji umożliwiającym sprzedaż. Chodzi o to, by produkt był jak najszerzej sprzedawany i dzięki temu przynosił jak największe zyski. Technologia jest więc dostępna dla wszystkich. W sieci bardzo trudno jest cokolwiek ukryć. Teoretycznie więc niemal każdy może mieć dostęp do najbardziej wyrafinowanych systemów AI. Ale tylko teoretycznie.

W praktyce wymaga to dysponowania niezwykle zaawansowanym sprzętem. Chodzi tu o komputery wielkich mocy, już wkrótce kwantowe, syntetyzatory DNA, najbardziej zaawansowane procesory graficzne. Lwią część procesorów dostarcza amerykańska NVIDIA ze zlokalizowanej na Tajwanie „najdroższej fabryki świata” – TSMC. Urządzenia stosowane do produkcji tych chipów pochodzą z jednego tylko źródła: holenderskiej firmy ASML, uważanej za najcenniejszą firmę technologiczną w Europie. Ośrodki badawcze i huby komercjalizacji, z których pochodzą projekty tych urządzeń, są wyłącznie amerykańskie, czyli pod kontrolą rządu USA. Są to m.in. firmy Xerox, Apple, Genentech, Monsanto, agencja rządowa DARPA czy uczelnie ze szczytu listy szanghajskiej, takie jak Stanford czy MIT. W sytuacji narastających napięć międzynarodowych i wojen hybrydowych wszystkie te bezcenne źródła technologii są z pewnością starannie przez Amerykanów blokowane. Ale walka trwa.

Tajemnice i otwarta nauka

Bardzo trudno jest zaryglować w sejfie tak wielki zasób żywej, szybko rosnącej wiedzy. Zamknięta błyskawicznie traci wartość. Trzeba też pamiętać o pokazie rosyjskich umiejętności wykradania sekretów w trakcie realizacji Projektu Manhattan, prac nad bronią nuklearną, wodorową i później przez cały okres zimnej wojny. Chiny prawdopodobnie także opanowały te umiejętności.

Trzeba też wziąć pod uwagę specyficzną otwartość środowisk akademickich i pasjonatów technologii (technology geeks). Zaawansowana technologia pozwala włamywać się do jeszcze bardziej zaawansowanych systemów, np. za pośrednictwem chmury. Wiadomo, że takimi nielegalnymi furtkami posługują się Chińczycy. Mimo wysiłków rozpowszechnianie się wiedzy jest nieuniknione. Możliwe jest tylko opóźnianie tego procesu przez ośrodki dominujące.

Dodatkowym czynnikiem komplikującym gry technologiczne wokół AI są surowce rzadkie potrzebne do produkcji zaawansowanych chipów i półprzewodników, takie jak lit, kobalt, grafit i metale ziem rzadkich. Kraje i firmy biorące udział w tej grze starają się zapewnić sobie obfite zaopatrzenie i w miarę możliwości zablokować konkurentom dostęp do tych surowców.

Wobec narastających konfliktów geopolitycznych i militarnych oraz szybkiego rozwoju globalnych wirtualnych rynków konsumpcyjnych zaawansowane półprzewodniki i chipy stają się towarem coraz bardziej deficytowym, obszarem zażartego konfliktu. Każdemu odkryciu złóż tych strategicznych surowców towarzyszy gra, do której włączają się najważniejsi producenci i użytkownicy chipów. Pierwszy z rzędu przykład to rozgrywający się konflikt wokół litu w Serbii.

Oczywiście wygrywają najsilniejsi i obecnie to USA umacniają swoją dominującą pozycję, której najbardziej zagrażają Chiny. W grze o surowce i mniej zaawansowane systemy uczestniczy jednak wielu mniejszych graczy, takich jak Izrael czy Finlandia. Stawki rosną i rośnie poziom akceptowanego ryzyka.

Gdzie są granice?

Gry technologiczne wokół AI różnią się od tych prowadzonych w przeszłości, np. wokół technologii o wyraźnie określonych zastosowaniach, takich jak radar czy lotniczy silnik odrzutowy. Różnica polega na tym, że AI ma niemal nieskończony wachlarz zastosowań w różnych dziedzinach i nieustanny rozrost tego wachlarza jest szybki i nieprzewidywalny. Innymi słowy, AI może zmienić w naszym życiu wszystko, poczynając od położnictwa, a kończąc na grzebaniu zmarłych. Może, ale nie musi i nie wiemy, od czego to zależy. Stąd nerwowość i swego rodzaju hiperaktywność, którą obserwujemy w społeczeństwie, w biznesie, w polityce i w wojsku w związku z wprowadzaniem systemów AI.

Sztuczna inteligencja zwielokrotnia potencjał intelektualny człowieka. Czyni go perfekcyjnym decydentem, graczem, z którym normalny człowiek nie ma szans wygrać. Co się dzieje, gdy te nadzwyczajne zdolności znajdą się w rękach szaleńca, zbrodniarza, aferzysty, sabotażysty, wrogiego agenta czy po prostu głupca? Na te pytania niestety nie ma odpowiedzi i dlatego współzałożyciel DeepMind pisze poważne studium („Nadchodząca fala”), którego myślą przewodnią jest bezwzględna konieczność ograniczenia i kontroli tej właśnie technologii. Nie potrafię odpowiedzieć na pytanie, czy to jest możliwe. Przekonuje mnie jednak argument, że trzeba spróbować, bo w warunkach konfliktów, podziałów i hybrydowych wojen mamy do czynienia z czymś potencjalnie bardzo groźnym.

Surowcem AI są dane: big data, olbrzymie ilości danych dotyczących wszystkiego: zachowań ludzkich, wyborów konsumpcyjnych, profesjonalnych, obywatelskich, zmian pogody, temperatury, funkcjonowania urządzeń, logistyki, energetyki itd. Ogromny popyt na dane generuje też wzrost ich podaży. Normą kulturową staje się opisywanie wszystkiego za pomocą niezliczonej ilości danych. Ich obróbka przy wykorzystaniu skomplikowanych algorytmów na potężnych superkomputerach pozwala opanować niewyobrażalnie wielkie bazy danych, odkrywać nieznane prawidłowości, optymalizować procesy, a ponadto identyfikować masy krytyczne i czynniki najsilniej oddziałujące na przebieg procesów. Im bogatsze zbiory danych, tym skuteczniej AI może przejmować kontrolę nad badanymi procesami i zbiorowościami, w których zachodzą. Dlatego wszyscy użytkownicy AI dążą do zapewnienia sobie dostępu do jak najbogatszych zbiorów danych.

Toczy się gra o dane, niekiedy walka, czasem stosowane są korupcja, szantaż i przemoc, gdy w grę wchodzą np. wrażliwe dane medyczne wielkich populacji. W krajach demokratycznych na przeszkodzie staje prawna ochrona prywatności i danych osobowych. Wolny od takich ograniczeń chiński system powszechnej inwigilacji i oceny jednostek pozwala na gromadzenie gigantycznych zbiorów danych, które są wykorzystywane dla rozwoju i doskonalenia systemów AI.

Zmiana społeczna

Gry technologiczne mają dzisiaj szczególne znaczenie: są to gry o strukturę społeczną, a w konsekwencji o władzę i pieniądze na wszystkich poziomach, poczynając od podstawowych grup społecznych i kończąc na całej ludzkości. Sztuczna inteligencja jest w stanie z powodzeniem wykonać średnio kwalifikowaną pracę, którą nazywaliśmy umysłową, charakterystyczną dla dzisiejszej klasy średniej. O swoją pracę mogą się więc obawiać księgowi, analitycy, marketingowcy, handlowcy, ochroniarze, diagnostycy i wiele innych profesji. Wszyscy oni jednak będą musieli się przekwalifikować i wówczas praca się znajdzie. Specjalista od logistyki i transportu ustalił, że w USA pracę straci niedługo kilka milionów kierowców ciężarówek. Floty autonomicznych ciężarówek będą jednak wymagały obsługi takiej samej, a nawet większej, liczby pracowników. Będą to jednak gorsze stanowiska pracy, kiepsko płatne, mniej prestiżowe i mniej pewne.

Można mówić o degradacji i stopniowym zaniku klasy średniej. Należy się spodziewać jej rozbicia: część uzyska szanse wejścia do ścisłych elit jako twórczy użytkownicy i współtwórcy technologii, a druga część, zapewne większa, zostanie zdegradowana do poziomu prekariatu. Zaryzykuję hipotezę, że technologia spotęguje istniejący układ stratyfikacji społecznej. Społeczeństwa silnie rozwarstwione (takie jak np. amerykańskie) staną się jeszcze silniej rozwarstwione, choć zapewne wzrośnie liczebność elit. Społeczeństwa egalitarne, stosujące szeroki wachlarz konsumpcji i usług społecznych (np. skandynawskie), staną się jeszcze bardziej egalitarne. Technologia pozwoli bowiem wzbogacić i usprawnić państwo opiekuńcze.

Jeżeli rządy zdołają zapewnić sobie pierwszeństwo dostępu do nowej technologii, wzrośnie ich władza i możliwość oddziaływania na społeczeństwa. Rządy autorytarne będą dążyć do zapewnienia sobie monopolu na technologię i bezwzględnej przewagi nad obywatelami. Widać to wyraźnie w Chinach, gdzie na wielką skalę stosowany jest system totalnej inwigilacji i wystawiania obywatelom ocen, które stają się podstawą ich społecznej i materialnej pozycji. Sztuczna inteligencja umożliwia taką perfekcyjną tyranię ze świata SF.

Groźne zabawki

Czytając świeżo wydaną książkę Anne Applebaum „Koncern Autokracja”, wydaje się, że jest już za późno. Sieć wspomagających się wzajemnie autokratów weszła w posiadanie najnowszych technologii i z powodzeniem stosuje je nawet w najbardziej zacofanych i spauperyzowanych krajach, takich jak Zimbabwe. Kiedy przemawiając w 2007 r. na Konferencji Bezpieczeństwa w Monachium Władimir Putin wypowiadał wojnę Zachodowi, nie występował wyłącznie we własnym imieniu. Reprezentował zarówno wielkie autokracje, takie jak Chiny, Rosja, Iran czy Turcja, jak i rzeszę mniejszych, takich jak Korea Północna, Kuba, Wenezuela, Uzbekistan, Turkmenistan, Azerbejdżan czy dyktatury afrykańskie. Nie mają one formalnego sojuszu, często mają niezgodne lub sprzeczne interesy, nie łączą je więzi kulturowe, ideologiczne, religijne, ale łączy je strach przed „kolorowymi rewolucjami”, zachodnim modelem demokracji i praworządności, który nie tylko wywłaszczyłby ich i ich liczne rodziny z olbrzymich bogactw, ale także pozbawiłby ich wolności.

Wobec takiego zagrożenia skutecznie pomagają sobie wzajemnie, często używając w tym celu najnowszych technologii. Przykładem są „ciche” dostawy broni do Rosji m.in. z Korei Północnej, Chin, Iranu, chińskie systemy inwigilacji stosowane w Zimbabwe czy rola Turcji w handlu wenezuelskim złotem.

Nawet dobrze zorganizowana i liczebnie przeważająca opozycja nie jest w stanie obalić krwawych autorytarnych reżimów ani mniejszych kleptokracji, takich jak dwudziestoletni reżim Orbána na Węgrzech. Częściej to antydemokratyczne siły zdobywają rosnące wpływy w krajach demokratycznych i szykują się do stopniowego przejmowania władzy.

Widać to zwłaszcza w dwóch kluczowych krajach UE: Niemczech i Francji. A dziwny sojusz Donalda Trumpa z miliarderami z Doliny Krzemowej każe obawiać się, czy amerykańska demokracja przeżyje jego drugą kadencję.