„Wkrótce sztuczna inteligencja przewyższy intelektualnie ludzi”. Marc Elsberg dla smakksiazki.pl

Przygotujcie sobie kubek, a nawet kubeł herbaty, bo jest co czytać. Kiedy będziemy zaprogramować swoje przyszłe dziecko, kto płaci za idealny materiał genetyczny pół miliona dolarów, jakie zapasy ma hurtownia sieci Billa pod Wiedniem, a także dlaczego Marc Elsberg szyfruje swoje wiadomości? To tylko niektóre tematy poruszane przez Martę Guzowską w rozmowie z autorem „Blackoutu”, „Zera” i jeszcze ciepłej nowości – „Helisy”.

Czytałam niedawno o konkursie na najlepszego dawcę spermy, ogłoszonym przez agencję Purenetics. Perfekcyjny pod każdym względem dawca miał otrzymać za swój materiał genetyczny pół miliona dolarów! Chyba to już niedaleko od tego, co opisujesz w swojej najnowszej powieści „Helisa”, gdzie wybrani rodzice mogą dokładnie zaprojektować genom dziecka i nadać mu takie cechy jak ponadprzeciętna inteligencję, wytrzymałość, siła, itd.

To nic nowego, jedyne, co może budzić zdumienie to ogromna suma, jaką otrzyma dawca, bo oznacza to, że właściciele agencji planują sprzedać nasienie wyłącznie bardzo bogatym ludziom. Kobiety w bankach spermy od dawna wybierają dokładnie takiego dawcę, jakiego chcą. Ale na razie w projektowaniu dzieci ogranicza nas stan wiedzy. Potrafimy określić, które z ok. 2 tys. ludzkich genów odpowiadają za różne cechy wyglądu, a nawet za takie rzeczy, jak produkcja usznej woskowiny. Ale ciągle nie wiemy, który gen warunkuje inteligencję. Ale zdobędziemy tę wiedzę, raczej wcześniej niż później.

A gdybyśmy już teraz umieli manipulować ludzką inteligencją, robilibyśmy to?

Podejrzewam, że tak. Ale zastanawiam się, jak wielu ludzi naprawdę by chciało ulepszyć genetycznie swoje własne dzieci. Po napisaniu „Helisy” rozmawiało ze mną wielu czytelników, a zwłaszcza czytelniczek. Mówiły, że nie rozumieją postawy Helen, głównej bohaterki, która decyduje się na właśnie takie genetycznie zmanipulowane, wspaniałe pod każdym względem dziecko. Uważały, że jej decyzja jest psychologicznie nieprawdopodobna.

Serio? Bo kiedy ja czytałam tę powieść, doskonale rozumiałem decyzję Helen. I przysięgam, że nie wiem, co zrobiłabym w jej sytuacji. Perspektywa zapewnienia swojemu dziecku możliwie najlepszego startu jest bardzo kusząca i mogę zrozumieć, że ludzie zgodzą się nawet balansować na granicy prawa. A co Ty byś zrobił, gdyby dzisiaj ktoś ofiarował Ci możliwość posiadania doskonałego, zmanipulowanego genetycznie potomstwa?

Jest taka scena w książce, kiedy Helen ma zdecydować, jakie jej dziecko miałoby być. Wybiera inteligencję, większa siłę i wytrzymałość, mniejsze zużycie energii, mniejszą ilość snu. My definiujemy „lepszy” jako lepiej pasujący do określonego środowiska, to czysty darwinizm. Problem w tym, że jest to „lepszy” na dzisiaj. Środowisko prawie na pewno się zmieni i nie wiemy, w którą stronę pójdzie ta zmiana. Czy cechy, które dzisiaj wybierzemy dla naszych dzieci, które wydają nam się lepsze w dzisiejszych realiach, ciągle będą jeszcze lepsze za dwadzieścia lat? A za pięćdziesiąt?

Ale wracając do pytania, co ja bym zrobił w takiej sytuacji: podejrzewam, że nie odmówiłbym, pokusa byłaby jednak zbyt silna. Ale tylko w określonych okolicznikach. Po pierwsze: społeczeństwo musiałoby wiedzieć o takiej możliwości i aprobować ją. Nie chciałbym stworzyć dziecka, które będzie społecznym wyrzutkiem. Gdyby istniały prawa zabraniające takiej manipulacji nie zdecydowałbym się na nią. Chociaż pewnie w wielu krajach nigdy nie będzie reguł i praw, na przykład w Stanach Zjednoczonych, albo w Azji. Oni pewnie tego nigdy zdecydowanie nie zakażą.

www.unsplash.com/DrewHays

Przecież w każdej chwili mógłbyś wsiąść w samolot i polecieć tam, gdzie manipulacja genami potomstwa nie jest zabroniona?

No właśnie, przy mobilności w dzisiejszym świecie lokalne zakazy przestają mieć znaczenie. To by się pewnie nazywało turystyka genetyczna, albo turystyka ulepszająca dzieci, jakoś tak. Dlatego dla mnie ważniejsza byłaby aprobata społeczna, niż konkretne regulacje prawne. Nikt przecież nie chce, żeby jego dzieci czuły się odrzucone. I to w najlepszym wypadku, w najgorszym mogą zostać zabite lub wyjęte spod prawa.

To co opisujesz w „Helisie” – i myślę, że naprawdę ma szanse tak być – jest technologią dla wybranych: dla najbogatszych albo dla najbardziej inteligentnych. To by doprowadziło do niewyobrażalnych wręcz nierówności społecznych. Bogacze mieliby nad resztą świata przewagę nie tylko finansową, ale też czysto fizyczną.

Ale oni już ją mają. To między innymi też omawiam w mojej powieści. I dlatego dwójka moich bohaterów, genetycznie zmanipulowanych dzieciaków, którzy czują się wyrzutkami, próbuje rozprzestrzeni wirusa, który zmieni genom i bogatych i biednych. W sposób demokratyczny, chociaż nie do końca, bo ci, którzy zarażą się wirusem nie wiedzą o tym i nie podjęli tej decyzji dobrowolnie.

I dlatego wszyscy starają się zatrzymać te dzieciaki: ich twórcy, władze. Każdy z innych pobudek. Więc czego ludzie się boją: genetycznej manipulacji, czy tego, że każdy mógłby mieć taką możliwość?

Myślę, że obu tych rzeczy. Jeśli należysz do elity, boisz się tego demokratycznego, czy raczej populistycznego podejścia. A konserwatyści w ogóle nie lubią zmian, wszystko jedno jakich, z definicji.

Tyle się teraz mówi o błyskawicznym rozwoju sztucznej inteligencji i związanych z tym możliwych zagrożeniach. A może genetycznie ulepszeni ludzi, o możliwościach znacznie przewyższających nasze, byliby odpowiedzią na te lęki? Może mogliby konkurować ze sztuczną inteligencją.

Może, ale nie jestem pewien, czy zdążymy na czas, bo wielu naukowców prognozuje, że osobliwość, czyli moment, w którym sztuczna inteligencja przewyższy intelektualnie ludzi i sama zacznie stwarzać sztuczną inteligencję, nastąpi w ciągu 40-50 lat, a może wcześniej. Ale nie wiem, czy musimy dotrzymywać kroku maszynom. Gdybyśmy powiedzieli człowiekowi sprzed 400 lat o urządzeniach takich jak smartfon, uznałby to za czyste czary. Smartfony mają ogromne możliwości, a jak na razie nie wyparły nas z powierzchni ziemi. Może tak samo będzie z maszynami przyszłości.

O smartfonach w Twojej poprzedniej powieści „Zero”. Gdyby w przeszłości i to nie 400 czy 300 lat temu, ale 50 lat temu, w młodości naszych rodziców, ktoś powiedział im, że przez cały czas będą nosić przy sobie urządzenie, które będzie ich szpiegować, nigdy by się na to nie zgodzili. Teraz nie tylko to robimy, ale wręcz pracujemy nad tym, aby szpiegowanie było jak najbardziej dokładne. W „Helisie” opisujesz drogę wielkich nierówności społecznych. Fabuła „Zero” oparta jest na całkiem przeciwnym pomyśle: powszechnego raju, dla wszystkich, za przystępną cenę. Ale ten powszechny raj wiąże się z powszechną kontrolą. Co się takiego stało się przez ostatnich 50 lat, że zgodziliśmy się na to?

Kilka rzeczy. Przede wszystkim większość ludzi po prostu nie rozumie tych procesów, które obecnie zachodzą. Po drugie: trudno dokładnie ogarnąć konsekwencje, jakie za sobą niesie używanie smartfonów, które mogą nas szpiegować. W mojej pierwszej powieści „Blackout” opisuję konsekwencje awarii sieci energetycznej, które są łatwe do zrozumienia, bo są fizyczne: chłód, głód i tak dalej. Można je porównać z zastrzeleniem kogoś, bach i umierasz. A procesy opisane w „Zero” są bardziej jak podawaniem codziennie małych dawek trucizny. Efekt w sumie ten sam, ale bardziej rozłożony w czasie i ofiara może się nie zorientować, dopóki nie jest już za późno. A poza tym trudno znaleźć przyczynę śmierci. Te kompleksowe związki w cyfrowym świecie są mniej fizyczne, więc dla wielu ludzi o wiele trudniejsze do zrozumienia. To pozwala z kolei tym ludziom, którzy są w stanie je zrozumieć, używać ich do własnych celów, a czasem nadużywać, manipulować innymi ludźmi. To przecież kwestia ostatnich 20-15 lat, kiedy Google i Facebook zdecydowały, że zaczną zarabiać pieniądze nie na reklamach, ale na naszych danych. Jestem zresztą w tej kwestii umiarkowanym optymistą, Unia Europejska wprowadza prawa chroniące naszą prywatność. To idzie we właściwym kierunku, chociaż niezwykle powoli. Ale pomyślmy o niewolnictwie, które też było akceptowane przez całe tysiąclecia, a potem po prostu przestało być.

Ale teraz ludzie chcą inwigilacji. Pamiętam jeszcze dyskusję kilkanaście lat temu na temat wprowadzenia w Londynie wielkiej liczby kamer przemysłowych. Wszyscy protestowali. Dziś nikomu one nie przeszkadzają.

Nie, nie zgadzam się, ludzie nie chcą inwigilacji, tylko nie wiedzą, co naprawdę się dzieje. Ludzie chcą tylko pozytywnego aspektu posiadania smartfonów. Który oczywiście istnieje, gdyby nie istniał, nie używalibyśmy ich. Prawie każdy użytkownik aplikacji GPS wie, że jest śledzony, ale nie obchodzi go to. Nie znaczy to jednak, że chce być śledzony. On po prostu chce dojechać łatwo i bezpiecznie z punktu A do punktu B. Sam to robię.

www.unsplash.com/Rami Al-zayat

Ja też. Oczywiście myślę sobie, że to wszystko jedno, i tak nie mam nic do ukrycia, ale zdaje się, że to pułapka. Mam wyrzucić mojego smartfona?

W żadnym wypadku! Alternatywą nie jest zaprzestanie używania nowych technologii, zresztą odcięcie się od nich w coraz większym stopniu oznacza wykluczenie. Alternatywą byłoby z pewnością stworzenie prawdziwego rynku na nasze dane. Wtedy przynajmniej wiedzielibyśmy, ile są warte.

Ale to dokładnie dzieje się w „Zero”. Ludzie mają możliwość sprzedawania swoich danych.

Akcja „Zero” musiała być dramatyczna, inaczej nie było thrillera. Dlaczego opisałem, co może pójść źle z taką sprzedażą danych. Ale myślę, że w prawdziwym życiu to nie byłoby takie złe. Problem w tym, że w tej chwili różne firmy wiedzą o nas więcej, niż my sami wiemy o sobie sami, używając urządzeń elektronicznych zawieramy rodzaj faustowskiego paktu z diabłem. Tak jak w tym słynnym przypadku nastolatki, kiedy system wiedział o jej ciąży zanim dowiedzieli się jej rodzice, dlatego że zmieniła swój sposób wyszukiwania w internecie i zakupów. Myślę, że obecnie firmy analizujące dane mogłyby nawet wiedzieć o ciąży, zanim dowie się o niej sama kobieta. Ciąża zmienia przecież wzorce zachowania, snu i tak dalej, dobry algorytm powinien móc to wychwycić. Są już programy na smartfony, które z dużą dokładnością prognozują, czy w ciągu najbliższych kilku dni zachorujesz na grypę. Kilka lat temu przeprowadzono eksperyment, zainstalowano aplikacje na smartfonach paru tysięcy studentów – za ich zgodą, oczywiście – i monitorowano sposób, w jaki studenci używali telefonu: jak go trzymali, jak pisali, itd. A do tego co kilka dni proszono studentów o wypowiedź na temat ich samopoczucia. Okazało się, że zachowanie studentów zmieniało się na kilka dni przed chorobą. Skoro to możliwe z grypą, pewnie jest też możliwe z ciążą. Pewnie niedługo przyszłe matki będą dostawały smsa „Gratulacje, spodziewa się pani dziecka. Proszę udać się do lekarza”.

W „Zero” pojawia się firma FreeMe, która manipuluje danymi w celu eksperymentów na ludziach. Gdyby ich nie robiła, wszyscy bohaterowie byliby szczęśliwi, a Ty nie miałbyś fabuły. Na przykład córka głównej bohaterki, Wiola, bardzo dobrze wyszła na korzystaniu z programu monitorującego jej zachowanie: ma lepsze oceny, lepszą szansę na dobre studia, pogodziła się z matką… Więc dlaczego tak nas to przeraża?

Ponieważ w naszej kulturze, zachodniej kulturze judeo-chrześcijańskiej, wychowujemy się z dominującą ideą wolnej woli. A w momencie, kiedy zaczynamy używać tych aplikacji i kiedy analizujemy mechanizmy, jakie za nimi stoją, uświadamiamy sobie, że nie działamy z naszej własnej wolnej woli. Działamy z czyjejś, cudzej woli. Nawet jeśli ludzie z FreeMe, nie manipulują algorytmem w celu wymuszenia na ludziach konkretnych zachowań, oni ciągle ten algorytm definiują.

Ale co za różnica: słuchać podpowiedzi algorytmu, czy słuchać starej mądrej babci? Ludzie tak robili przez stulecia.

Różnica jest zasadnicza: wiem, kim jest moja babcia, i że ona prawie zawsze nie ma racji (śmiech). Nie wierzę w mądrość starców, w większości są uparci i staromodni, a w tak szybko zmieniającym się świecie zostają po prostu z tyłu. W przypadku algorytmu mam przeczucie, że on prawie zawsze ma rację. Wielu ludzi nadal wierzy, że Google albo Facebook podają im obiektywne, niespolaryzowane informacje. A celem tych programów jest wyłącznie zarabianie pieniędzy, więc dostarczają takich wiadomości, jakie ludzie chcą czytać. Nie tych, które są ważne dla oświeconego świata, tylko tych, które potwierdzają poglądy użytkowników, ponieważ ludzie tego chcą.

Znów zapytam: jaka jest alternatywa? Czy na w ogóle istnieje, jeśli nie masz siedemdziesiątki na karku, chaty w lesie i duszy samotnika?

Musimy dążyć do większej równowagi, bo w naszym społeczeństwie nastąpiło przesuniecie sił. Facebook czy Google mogą wiedzieć o mnie wszystko, ale ja nie mogę wiedzieć o nich nic, bo zasłaniają się tajemnicą firmy. Podczas gdy ja nie mogę się zasłonić moją personalną tajemnicą. Wiedza to władza, oni wiedzą o nas wszystko, a my o nich nic. To musi się zmienić, oczywiście jeśli nadal chcemy społeczeństwa demokratycznego. Bo jeśli go nie chcemy, to nie ma sprawy, róbmy tak dalej. Wtedy będziemy mieli cyfrową oligarchię, którą i tak już mamy. A ona się nie różni od innych oligarchii w przeszłości. Ale nasze doświadczenia z demokracją w ubiegłym stuleciu nie były takie złe, może więc warto popracować nad tym, żeby ten ustrój się utrzymał.

A Ty korzystasz ze smartfona?

Oczywiście, jestem od niego całkowicie uzależniony.

I szyfrujesz swoje wiadomości, używasz zabezpieczeń, żeby trudniej było zdobyć Twoje dane, i tak dalej?

Szyfruje mejle do ludzi, którzy potrafią je rozszyfrować. Czyli do bardzo niewielu, to 3-4 osoby spośród kilkuset, z którymi koresponduję. Czasem przy serfowaniu po sieci używam TOR-u. Mam lekką paranoję na punkcie mojego bezpieczeństwa. Zdaje sobie sprawę z tego, że to głównie akty symboliczny, ale myślę sobie: chłopaki, trochę wam utrudnię życie. A jeśli więcej ludzi będzie to robić, może zmienicie swój model biznesowy. Do niektórych firm już to zresztą dotarło. Ale w tej chwili i tak ma największe znaczenie nie treść naszych wiadomości tylko go kogo i kiedy je wysyłamy. Inna sprawa to przeglądanie stron internetowych. Niedługo wybieram się do Stanów. Jeśli ktoś starannie przeanalizuje mój research z ostatnich lat: terroryzm energetyczny, śledzenie ludzi za pomocą smartfonów, manipulacja genetyczna, to nie wiadomo, czy w ogóle mnie wpuszczą do kraju. Same poszukiwania informacji, które robiłem podczas pracy nad „Blackoutem” musiały sprawić, że moje nazwisko pojawiło się przynajmniej na kilku listach.

www.unsplash.com/Rodion Kutsaev

No właśnie „Blackout”. To Twoja najbardziej przerażająca książka. Nawet bardziej niż powieści Stephena Kinga, bo w przypadku Kinga można sobie powiedzieć: to tylko fikcja. To, co opisujesz Ty, może się zdarzyć naprawdę. Po lekturze pobiegłam do sklepu i kupiłam kilka zgrzewek wody.

Zrobiłem to samo, kiedy zacząłem prace nad „Blackoutem”.

Więc sam wierzysz, że to się może wydarzyć, praktycznie w każdej chwili.

O tak. Systemy są w tej chwili tak zintegrowane, tak ściśle ze sobą połączone, że uszkodzenie jednego pociągnie za sobą kolaps innych, nie mam wątpliwości. Wystarczy wiedzieć, które punkty mają strategiczne znaczenie, i można obalić cały system. To jest jak domino, trzeba wiedzieć, w którym miejscu stuknąć.

A tymczasem w twojej powiesić dyrektor elektrowni mówi: chcieliśmy zainwestować w lepsze systemy ochrony, ale były drogie, więc wydaliśmy pieniądze na te tańsze.

Tak dzieje się cały czas. Bezpieczeństwo jest kosztowne. A jeśli jesteś prezesem firmy i przez całe lata pompujesz miliony w nową technologię, a nic się nie dzieje, naturalnie po jakimś czasie obcinasz środki na bezpieczeństwo, bo udziałowcy pytają, dlaczego wyrzucasz w błoto tony pieniędzy. Nie da się uniknąć wzajemnego połączenia systemów, a nawet będzie ono postępować. Rozwiązaniem byłoby więc skonstruowanie bezpieczników, które nie pozwalają na zainfekowanie całego systemu, kiedy jego część zostanie zmanipulowana. Normalnie, gdybym obciął ci palec, nie umarłabyś od tego. Bolałoby, krwawiłabyś, ale twoje życie, a nawet twoje ogólne zdrowie nie byłoby zagrożone. Żeby cię zabić, musiałbym dziabnąć cię nożem w serce. A systemy energetyczne w Europie są tak skonstruowane, że odcina się palec, a one umierają.

Inwigilacja, którą opisujesz w „Zero”, zabiera nasze dusze, ale przynajmniej nadal żyjemy. Katastrofa energetyczna z „Blackoutu” zagraża bezpośrednio naszym ciałom. W ciągu tygodnia umieramy, a jeśli to zima lub bardzo gorące lato, to nawet szybciej.

Ale pamiętaj, że opisany przeze mnie scenariusz jest prawdopodobny w przypadku ataku terrorystycznego. Jeśli katastrofa byłaby wywołana przez naturalny czynnik, jak pogoda, albo wada techniczna, system prawdopodobnie udałoby się opanować w ciągu 3-4 dni.

Niezbyt to pocieszające, bo groźba ataku terrorystycznego jest spora. Nie boisz się, że terroryści wykorzystają „Blackout” jako podręcznik?

Myślę, że jeśli ktoś poważnie myśli o ataku terrorystycznym na sieci energetycznie, to ma już to opracowane i nie potrzebuje podręcznika.

Kiedy byłam nastolatką, mieliśmy kiedyś w Polsce straszną burzę, która zniszczyła sieć energetyczną w połowie kraju. W miejscowości, w której mieszkałam nie było prądu przez dziesięć dni. Ale to nie był wielki problem. Trochę mnie tylko irytowało, że musiałam czytać przy świecach i pompować ręcznie wodę, żeby się umyć. To było 35 lat temu, nie tak strasznie dawno. Przez tych 35 lat wszystko się zmieniło.

Mieliście ręczną pompę, dzisiaj prawie nikt ich nie ma. Trzydzieści lat temu szpitale mogły niezależnie pracować przez dni, odłączone od sieci, miały generatory i ogromne zapasy paliwa. Trzydzieści lat temu zupełnie inaczej wyglądały hurtownie towarów. Wiesz, jak działają dzisiaj?

Nie mam pojęcia.

Mało kto ma, ja też nie wiedziałem, póki nie zacząłem pracować nad tą książką. Kiedy mówisz „hurtownia”, ludzie wyobrażają sobie wielkie magazyny wypełnione po dach produktami. A tak naprawdę dzisiaj wielka hurtownia gdzieś w okolicy Wiednia, która zaopatruje na przykład sieć Billa, ma produkty na 6 do 12 godzin. Nawet nie na dni! Produkty są w ciągłym ruchu. Hurtownia to nie magazyn, tylko coś w rodzaju przystanku na drodze redystrybucji. Przez ostatnich 30 lat całkowicie zmienił się system zaopatrzenia w produkty, ale my mentalnie utkwiliśmy w czasach, kiedy były wielkie magazyny. A kiedy nie da się napełnić baków, bo większość stacji benzynowych w całej Europie nie będzie działać bez prądu, nie da się też przywieźć towarów z odleglejszych regionów. W czasach społeczeństwa outsourcingowego brak transportu to gigantyczny problem.

W moim mieszkaniu też wszystko jest na prąd. Uświadomiłam to sobie czytając Twoją książkę. Czyli jednym słowem, jesteśmy totalnie zależni od technologii. Sami sobie zgotowaliśmy własną zgubę?

To jest tylko kwestia punktu widzenia. Masz na nosie okulary. Poradziłabyś sobie bez nich?

Widziałabym Ciebie jako zbiór kolorowych, nieostrych plam. O czytaniu mogłabym zapomnieć.

No właśnie, a to przecież też jest technologia. Obecnie, przy tych systemach działających, prawie każdy z nas żyje bardziej komfortowo, zdrowiej, wygodniej, dłużej niż jakikolwiek władca 100 lat temu. Jedyne pytanie, jakie musimy sobie zadać, to jak uczynić systemy bardziej odpornymi, bardziej bezpiecznymi i jak dostarczyć je większej ilości ludzi na naszej planecie.

Ja jednak będę nadal trzymać te zgrzewki wody pod łóżkiem. Dziękuję za rozmowę!