Poďakovanie: John P. Johnson/HBOV seriáli HBO Westworld Roboti podobní ľuďom obývajú zábavný park, kde môžu ľudskí hostia zažívať násilné, krvavé dobrodružstvá na Divokom západe bez následkov. Roboty sú také živé, že oklamú návštevníkov aj seba. Krvácajú, umierajú, smútia a milujú – považujú sa za ľudí.
„Ľudská myseľ nie je nejakým zlatým meradlom trblietajúcim sa na zelenom a vzdialenom kopci,“ hovorí majiteľ parku Robert Ford v jednom momente svojmu kolegovi Bernardovi, ktorého robotická povaha zostáva počas veľkej časti prvej sezóny neznáma ani jemu samotnému.
[ Dôvod, prečo čas jednoducho neexistuje. ]
Ford je presvedčený, že na ľudskom vedomí nie je nič zvláštne, čo by znamenalo rozdiel medzi mysľou robota a našou mysľou. Ale keďže roboty Westworldu sú čoraz nezávislejšie od svojich opakujúcich sa naprogramovaných slučiek, relácia podnecuje divákov k otázke, či môže byť AI skutočne autonómna alebo vedomá – a kto si v tomto príbehu zaslúži empatiu.
Ira diskutuje o vedeckom a spoločenskom komentári show s robotikom Robin Murphy z Texas A&M University a neurovedcom z Bostonskej univerzity Stevom Ramirezom.
Najdôležitejšie z rozhovoru
Na prekážkach dosiahnutia robota, ktorý sa viac podobá človeku.
Robin Murphy: Myslím si, že keď hovoríte o niečom ako zábavní roboti a veci ako Sophia, Geminoid, tieto roboty, ktoré vyzerajú ako ľudia, urobili sme veľký pokrok vo fyzickom realizme a generovaní hlasu a dokonca aj sociálnych podnetov a spoločenské konvencie, ktoré ľudia používajú... To je naozaj, naozaj dobré. Základná inteligencia, ktorá vám umožňuje prejsť z veľmi obmedzenej oblasti, ak hovoríme len o nejakom type opravy alebo dohodnutia stretnutia, k širšej konverzácii, akou vedieme teraz, si vyžaduje oveľa viac inteligencie. Musíme mať spoločnú reč.
O jedinečnosti ľudského vedomia.
Steve Ramirez: Keď začneme hovoriť o veciach, ako je vedomie, definujeme to ako náš neustály pocit sebauvedomenia, ktorý sa realizuje v mozgu. A myslím si, že je to zvláštne, pretože sa cíti nedotknuteľné. Študujem pamäť a hovoríme to isté, že je veľa vecí, ktoré sú pominuteľné a majú pocit, že nemajú nejaký biologický substrát. Ale teraz, keď začíname zobrazovať vedomie v reláciách ako Westworld alebo študovať vedomie u ľudí alebo možno druhy vedomia, ktoré môžu mať napríklad iné cicavce, myslím si, že je to zvláštne a nie zvláštne. Je to „špeciálne“, pretože ten pocit sebauvedomenia je úžasná vec, ktorá pravdepodobne definuje časť našej ľudskosti. Nie je to „zvláštne“ v tom zmysle, že sa stále podriaďuje vedeckej metóde a stále je to niečo, čo sa realizuje v 86 miliardách mozgových buniek natlačených medzi moje uši.
[Ako blízko sme k budovaniu replikantov ako v Blade Runner 2049?]
Zapnuté Westworld’s pyramídová schéma vedomia.
Steve Ramirez: Myslím si, že je to užitočná metafora, ale dáva to vedomiu znieť, akoby existovalo v tomto druhu rebríkovej schémy, zatiaľ čo vieme, že existujú rôzne aspekty vecí, ktoré si uvedomujeme – či už keď ste napríklad pozeranie sa na západ slnka alebo počúvanie hudby alebo vnútorný rozhovor so sebou samým. Takže existujú jazykové zložky, pamäťové zložky, zložka schopnosti porozumieť tomu, čo si iní ľudia myslia. Myslím si, že to všetko je skôr ako pyramída ako taká v mozgu, je to skôr polievka modulov v mozgu.
O „Troch zákonoch robotiky“ od Isaaca Asimova.
Robin Murphy: Milujem Isaaca Asimova, ale Tri zákony robotiky boli vytvorené výslovne tak, aby zneli dobre, ktoré majú všetky tieto jemné dôsledky, ktoré by mohli podporiť zápletky, pretože sú nejednoznačné. A tak sa vždy, ako môžete povedať, krčím, keď ľudia hovoria: „Ach, roboti by sa mali riadiť tromi zákonmi robotiky.“ No, to znamená, že budú vo svojej podstate pokazení, pretože ich nemôžu nasledovať. Bol nastavený tak, aby mal tieto odpojenia.
O tom, či dokážeme vybudovať realistickú AI bez niečoho ako pamäť.
Robin Murphy: Nie, nemôžeme... Aby sme sa mohli rozprávať, máme spoločný základ, ktorým sú spomienky – ako sme si vybudovali naše chápanie sveta. Máme tiež veľa zabudovaných emócií. Jedna z vecí, s ktorou som nesúhlasil, je ako Westworld [zobrazené]... táto myšlienka emócií, ktoré sú také základné. Pomáhajú regulovať tie rebríčky inteligencie, tie moduly medzi nimi. Takže nechápeme, ako sa môžete skutočne dostať na túto vedomú úroveň bez spomienok, bez tohto spoločného základu, bez scenárov toho, ako svet funguje.
[Je manipulácia s pamäťou vecou Hollywoodu alebo pohľadom do blízkej budúcnosti?]
Steve Ramirez: Myslím, že to skončí tak, že naozaj nemôžete mať jedno bez druhého, kde sú obe prepojené. Spomienky sa prelínajú a zjednocujú náš celkový pocit bytia, takže vidíme, že v prípadoch, ako sú stavy podobné demencii, môžete byť v danom momente pri vedomí, ale váš celkový zmysel pre identitu časom stráca spoločného menovateľa, ktorým je pamäť. A vlastne to bola pre mňa jedna z najfascinujúcejších vecí na tom, ako je to zobrazené Westworld , pretože keď sa pozriete na postavy ako Dolores alebo Maeve [ktoré majú] akési spomienky na predchádzajúce opakovania sa začnú vkrádať späť, nemôžete si pomôcť a položiť si otázku: „No, zabudli sme?“
Naše iterácie sú v podstate také, ako keď ideme spať a ráno sa zobudíme alebo možno kým sme boli, keď sme mali dva a tri roky, čo si väčšina z nás nepamätá, zatiaľ čo to, čo sme robili včera, zapamätaj si to. Takže si myslím, že sa to skutočne dostáva k základnej otázke: „Ste rovnaký ako vaša predchádzajúca iterácia?“, okrem Westworld zobrazí sa to samozrejme opravou hostiteľa. Ale myslel som si, že to bolo zaujímavé, pretože to tiež prináša na svetlo otázku, či tam tie spomienky sú, existujú spôsoby, ako sa s nimi skutočne pokúsiť pohrať a priviesť ich späť, aj keď sa kedysi považovali za stratené? A myslím si, že je to skutočne veľmi reálna vedecky riešiteľná otázka.
O presune sympatií od ľudí k robotom v populárnej kultúre.
Steve Ramirez: Skončilo to ako skvelý prostriedok na zábavu, pretože tak trochu prevrátil príbeh na hlavu tam, kde sme zvyknutí stáť na strane človeka, pretože, samozrejme, sme ľudia, ale [napríklad] … keď sa pozriete na postavu Bernarda a uvidíte, ako dobre v podstate predstieral, že si všetci myslia, že je človek, a potom skončí ako robot. Takže si myslím, že je to v podstate preto, aby nás prinútilo cítiť sa trochu nepohodlne tým, že budeme môcť povedať: „Wow, vlastne som zistil, že mám vzťah k tomu, o čom som si myslel, že je človek, a nakoniec to skončilo ako robot.“ …Zatiaľ čo iné predstavenia mohli byť čistejšie a strihovo – my stojíme na strane ľudí, roboty preberajú moc, ľudia vyhrávajú. Myslím, že v tomto prípade [v Westworld ], rozprávanie má viac vrstiev, čo z neho podľa mňa robí pútavejšie predstavenie.
[ Od Dothraki po Valyrian, budovanie jazykov „Hry o tróny“. ]
O tom, či by roboti mohli nakoniec vyvinúť vedomie sami.
Robin Murphy: Určite sme videli, že vo vedeckej fantastike [a] špekulovali v populárnej tlači, že z toho vzíde len toto nové správanie, toto sebauvedomenie. Opäť to skutočne porušuje to, čo vieme o tom, ako programujeme s obmedzenou racionalitou, kde máme aj tieto explicitné hranice, tieto obmedzenia iniciatívy. Ako by to vyskočilo, nevieme, ako napísať tento kód. Nepredpokladáme napísanie tohto druhu kódu.
Tieto rozhovory boli upravené kvôli priestoru a prehľadnosti.