Naozaj tak volá vaša sestra?

Naozaj tak volá vaša sestra?

Nasleduje úryvok z diela Michaela Pearla Deň, keď sa to konečne stane .

Deň, ktorý môže každý napodobniť Ktokoľvek iný Dokonale

Pravdepodobne v tomto storočí? Nevyhnutné.



Hodnotenie vierohodnosti? 5/5.

desivé? Mimoriadne.

Oplatí sa zmeniť návyky? Nevenovali ste pozornosť novinkám v oblasti kybernetickej bezpečnosti za posledných dvadsať rokov? Samozreme to je!


Hovor prichádza z nerozpoznaného čísla. Odpoviete a osoba na druhom konci linky vzlyká, ale rozpoznanie hlasu vašej sestry trvá len zlomok sekundy.

„Zamkol ma! Pohádali sme sa a on ma vyhodil. Nemám kam ísť!'

Celé mesiace ste premýšľali, či niekto z vašej rodiny niekedy dostane takýto hovor. Koniec koncov, nikdy sa ti nepáčil ten chlap, s ktorým chodí a ktorý sa živí chovom škorpiónov.

'Fuj, spomaľ. Všetko bude v poriadku,“ hovoríš. 'Si v bezpečí?'

Nasleduje dlhá pauza a potom: „V Houstone nemám žiadnych priateľov! Kde budem spať?'

'Môžeš dostať hotel?'

Ďalšia znepokojivá pauza. 'S akými peniazmi?' pýta sa s náznakom horkosti.

'Nemáš peniaze?'

„Môžeš mi poslať tisíc dolárov? Len aby som prežil niekoľko nasledujúcich dní?'

Kúpte si knihu

Deň, keď sa to konečne stane

Kúpiť

Drôt? Nemôže jednoducho použiť Venmo? A tak či tak, naposledy ste počuli, že sa jej v práci darilo celkom dobre a práve si kúpila auto. Potom opäť, Houston je na druhej strane krajiny a neregistrovali ste sa tak pravidelne, ako by ste mali.

Poviete jej, že zavoláte svojej mame a potom jej zavoláte späť.

'Nezavesuj!' prosí. Je to znepokojujúce – dokonca bizarné – ako ďaleko sa zdá, že klesla za taký krátky čas. Zaveste.

Skôr než sa váš hovor s mamou stihne spojiť, volá znova, teraz cez FaceTime. Odpovieš a pripravíš sa na najhoršie.

Vidíš slzami rozbúrenú tvár svojej sestry, ako sa ponáhľa po prázdnom chodníku v centre mesta. 'Jeho priatelia vedia, kde som,' hovorí. „Vedia, čo sa stalo, a bojím sa, že ma hľadajú. Potrebujem tie peniaze. Budem v poriadku, ak dostanem motelovú izbu. Potrebujem len tisícku a hneď ti to vrátim.'

'Choď na políciu!' ty hovoríš.

„Nechápem, prečo zarábaš takú veľkú sumu okolo tisíc dolárov! Vždy si bol taký,“ hovorí a prechádza cez vchodové dvere niečoho, čo vyzerá ako high-tech Western Union. „Pozri, som na mieste. Napíšem ti info. Prosím, prepošlite mi tisícku a potom pôjdem priamo do motela a zavolám vám, len čo budem v bezpečí. Dobre?'

Nie si bohatý, ale môžeš si dovoliť rozlúčiť sa s tisíckami dolárov, ak to znamená udržať tvoju sestru v bezpečí. 'Dobre,' povieš. 'Je mi ľúto, že sa ti to deje.'

„Ďakujem,“ povie a vás zaplaví hrejivý pocit úľavy, keď sa na jej tvár vráti úsmev vašej sestry. „Neviem, čo budem zajtra robiť, ale prídem na to,“ hovorí. 'Ľúbim ťa. Hneď ti zavolám späť.'

'Tiež ťa milujem.'

Text príde o niekoľko sekúnd neskôr. “Toto miesto premieňa iba bitcoiny na hotovosť????” píše. 'Ale vieš, ako to funguje, však?' Vy áno, našťastie. V bitcoinovej peňaženke máte uložených niekoľko tisíc dolárov.

'Zvláštne,' odpovedala si. 'Ale žiadny problém.'

Prevediete tisíc dolárov a počkáte na jej telefonát.

Po pätnástich tichých minútach si FaceTime tvoja mama. Keď jej poviete, čo sa stalo, je nahnevaná. „Ako ju mohol nechať tak uviaznutú v Scottsdale? Nikoho tam nepoznajú!'

'Je v Houstone,' poviete.

'Nie. Do piatku sú na dovolenke v Arizone,“ hovorí tvoja mama. „Práve mi poslala fotku. Išli na turistiku.'

'No, ona so mnou FaceTimed, takže som si celkom istý, že je v Houstone,' hovoríte.

V pozadí môžete počuť hlas svojho otca. „Práve som jej napísal. Hovorí, že je v Scottsdale,“ hovorí predtým, ako nahlas prečíta texty. “ „Stále som na dovolenke. Aké peniaze?‘ ‚LOL. Je v poriadku?‘“

Tvoja tvár sčervenie. 'Videl som ju a určite bola v Houstone!' kričíš. Vieš, čo si videl. Nie je to tak, že by ste nedokázali rozpoznať tvár svojej vlastnej sestry.

Zavesíš a napíšeš sestre, alebo aspoň napíšeš číslo, ktoré mala tvoja sestra.

„Ahoj, už je všetko v poriadku? Si v moteli?'

Neodpovedaj.

'BTW prečo si mama a otec myslia, že si v Scottsdale?'

Neodpovedaj.

'Čo sa deje? Dostal si peniaze?'

Nakoniec dostanete odpoveď. Je to obraz bielej kozej masky, ktorú ste videli online. Je to maska ​​Guya Fawkesa, ten dráždivý „anonymný“ symbol.

Potom príde text. 'Mám to! LOL, thx sestrička!'

Máte prichádzajúci hovor. Je to vaša sestra, volá zo svojho starého čísla. Ukázalo sa, že jej skutočné číslo. V upozornení „PRICHÁDZAJÚCI HOVOR“ váš telefón zobrazí obrázok jej usmievajúcej sa tváre. Jej skutočná tvár.

Cítite, ako sa vám obed vracia. Teraz nie, pomyslíš si, a odmietni to .


Technológia uvedená v tomto nešťastnom scenári nie je len nejakou pravdepodobnou budúcou nočnou morou; už to existuje. V skutočnosti to nie je len skutočné, je to otvorený zdroj. Jedna bezplatná verzia, ktorú som našiel, sa volá FaceIt Live. Umožňuje komukoľvek posielať živé video s vlastnou tvárou, ktorá má na sebe digitálnu tvár niekoho iného ako masku. Zatiaľ výsledky nie sú úplne presvedčivé, ale nebude to tak dlho.

Je pravda, že táto technológia vám môže ušetriť čas, ak ste zaneprázdnený herec. V epizóde animovaného seriálu Netflix z roku 2016 BoJack jazdec , hlavná postava s rovnomenným názvom mala svoju podobizeň tajne zdigitalizovanú a táto digitálna verzia bola použitá na vytvorenie celého filmu – s veľkým ohlasom kritiky – aj keď BoJack nevykonal žiadnu skutočnú prácu. Ale okrem uľahčenia fantastických výkonov lenivosti vám táto technológia môže tiež umožniť vytvárať presvedčivé videá mŕtvych, ktoré môžu znieť desivo, ale ak sa používajú uvážlivo, môžu sa ukázať ako cenná pomôcka pri poradenstve pri smútku. Môže to byť aj úžasný – aj keď opäť trochu eticky problematický – nástroj na rekonštitúciu zabudnutých alebo potlačených spomienok.

Podľa Petra Eckersleyho, ktorý bol hlavným počítačovým vedcom pre Electronic Frontier Foundation (EFF), neziskovú organizáciu zameranú na digitálne práva, je táto etická lepkavosť len začiatok v čase, keď som s ním robil rozhovor, a ktorý je teraz riaditeľom výskumu v oblasti počítačov. priemyselné konzorcium Partnerstvo pre AI. Úlohou Eckersleyho v EFF bolo hľadať zariadenia a softvér, ktoré by mohli, bez vedomia používateľov, porušovať ich občianske práva, a on a jeho tím navrhli softvérové ​​riešenia pre tieto potenciálne porušenia.

Pripravte sa teda na prebudenie vo svete, v ktorom môže takmer každý vytvoriť skutočne neuveriteľnú falošnú verziu kohokoľvek iného, ​​​​kto sa môže zdať, že robí čokoľvek. Kým sa k tejto technológii nedostane najtemnejšia predstavivosť širokej verejnosti, je ťažké vedieť, aké budú aplikácie.

Myšlienka vytvorenia presvedčivých počítačových podvodníkov je v éteri popkultúry prinajmenšom od poviedky Isaaca Asimova „Evidence“ z roku 1946 o kandidátovi na verejnú funkciu, ktorý je podozrivý z toho, že je napodobňovateľom robota. Táto myšlienka sa stala znepokojujúcou a realistickou, keď v roku 2016 softvéroví dizajnéri z Inštitútu Maxa Plancka pre informatiku, Univerzity Erlangen-Norimberk a Stanfordskej univerzity vytvorili video ukážku s názvom „Face2Face: Zachytenie tváre v reálnom čase a rekonštrukcia RGB videá.” Pomocou tohto softvéru mohol používateľ v reálnom čase zachytiť video záznam niekoho skutočnej tváre – povedzme ruského prezidenta Vladimira Putina – a potom namierením kamery na svoju tvár a zmenou výrazov v reálnom čase mohol aby sa cieľová tvár pohybovala tak, ako chceli, aj keď nie spôsobom, ktorý by bol úplne presvedčivý.

Demo sa podobalo na selfie filtre Snapchat, ktoré boli predstavené minulý rok. Hoci to boli v porovnaní s nimi dosť triviálne, rozpoznali tváre a mohli ich zmeniť napríklad zmenou úst používateľa tak, že by zvracal dúhy. Už len táto technológia bola prekvapivo sofistikovaná, no Face2Face bola ešte pokročilejšia. To umožnilo takmer každému ľahko a okamžite prinútiť niekoho, aby niečo povedal. Pomocou tejto technológie môže každý, kto má dostatok vzorových obrázkov tváre, ktorú chcú premeniť na „masku“ a tvár, ktorá bude masku nosiť, odovzdať tieto fotografie algoritmu, ktorý potom vykoná všetku prácu pri výmene tvárí. . Nevyžadujú sa žiadne špeciálne hollywoodske zručnosti.

'Takže sa pripravte na prebudenie vo svete, v ktorom takmer každý môže vytvoriť skutočne záhadnú falošnú verziu kohokoľvek iného, ​​ktorý môže vyzerať, že robí čokoľvek.'

Ponaučenie z tohto dema je, že s dostatočným hardvérom už môžete niekoho prinútiť, aby vyzeral, že hovorí čokoľvek, pokiaľ to hovorí dosť strnulo, s pekným osvetlením televízneho štúdia, a pokiaľ to divák nehovorí. sledujte znaky ľudskosti, ako je pohyb tela.

Takže hovorím, že demo fungovalo úžasne dobre na politikov a nie na nikoho iného.

Počas nasledujúcich niekoľkých mesiacov sa podobné technológie zdokonaľovali, na koncept sa aplikovali nástroje s otvoreným zdrojovým kódom a niekoľko nápadov sa zblížilo, aby umožnili jednotlivcom ako vy a ja (na rozdiel od výskumníkov v high-tech laboratóriách) vytvárať ešte presvedčivejšie zámeny tvárí. Tento proces sa stal užívateľsky prívetivejším a digitálne mapovanie akejkoľvek tváre na cieľovú tvár sa stalo niečím, čo by mohol dosiahnuť každý, kto má dostatok šikovnej kreativity a času.

Predpokladám, že to, čo nasledovalo, bolo nevyhnutné: koncom roka 2017 používateľ Redditu s prezývkou „deepfakes“ prekryl tváre mainstreamových celebrít na tváre pornografov, čím vytvoril sériu falošných, ale znepokojivo realistických (a čo je dôležité, nekonsenzuálnych) celebrít. sexuálne pásky. Technológii trvalo len niečo vyše roka, kým našla aplikáciu, ktorá bola, ak nie očividne nezákonná, určite urážlivá a špinavá. Reddit zakázal deepfakes komunitu menej ako dva mesiace po tom, čo ju objavili novinári.

Ale výraz „deepfake“ žije ako internetová skratka pre videá, v ktorých sa tváre zamieňajú za iné tváre, a ako dôsledok sa technológia nahradenia tváre stala mikrokozmom pre desivú „postpravdivú“ budúcnosť, ktorú vytvárame. pre nás samých. V roku 2018 sa filmár a komik Jordan Peele objavil v komédii PSA pre BuzzFeed o falošných správach, v ktorých sa zdá, že bývalý prezident Obama hovoril veci ako „Zostaňte bdelé, sučky“, predtým, ako bol odhalený ako deepfake, zdanlivo udržiavaný na divákovi. Peele.

Hovorím „zdanlivo“, pretože Jordan Peele v skutočnosti neznie ako Barack Obama, keď robí svoj Obamov dojem, takže v skutočnosti nikto nebol oklamaný (bez urážky, Jordan). Tento problém s hlasom je najväčšou prekážkou pri vytváraní falošných videí ľudí, ktorí zdanlivo robia veci, ktoré v skutočnosti nerobili: nevedia rozprávať. Na Teraz.

Jedného dňa v roku 2018 som strávil niekoľko hodín čítaním stoviek viet do mikrofónu svojho laptopu a ich vkladaním do bezplatného online softvéru s názvom Lyrebird. Zdalo sa, že niektoré vety vymyslel sadistický učiteľ reči, napríklad „Veda sa háda o zoologickej klasifikácii tohto druhu už celé desaťročia“, a niektoré boli dosť zlovestné v kontexte, v ktorom som bol požiadaný, aby som si ich prečítal. , ako napríklad „Okrem šifrovania ho možno použiť aj na autentifikáciu.“ Keď bolo zdigitalizovaných asi dvesto príkladov môjho jedinečného vokálneho štýlu, softvér bol schopný vytvoriť nástroj na prevod textu na reč, ktorý generoval vety a frázy, ktoré absolútne zneli ako ja – zafarbenie, skloňovanie a tak ďalej.

No zneli presne ako ja keby moje slová boli vyslovené cez stolný ventilátor a do mobilného telefónu , ale počuť to bolo stále dosť desivé.

Povedzme teda, že sa niekto nabúral do môjho účtu Lyrebird a použil to na to, aby mojej priateľke zanechal hlasovú správu, v ktorej jej povedal, že som rukojemníkom a potrebujem previesť 500 000 dolárov na účet švajčiarskej banky. Aké efektívne by to bolo? No, môj avatar Lyrebird je strašný herec, pretože ma nedokáže rozčúliť alebo vystrašiť, takže vyrobený hlas znie ako ja – skutočné ja – pokojne čítajúc slová „Som držaný ako rukojemník teroristov, prosím pomôžte .“ A žiadny podvodník by nemohol oklamať moju priateľku takouto nahrávkou, pretože hlas hneď od začiatku bombarduje známe pozdravy. „Ahoj“ je príliš formálne a „ahoj“ Lyrebird je úplne mimo. A ak svoju polovičku nazývate špeciálnou prezývkou, ako to robím ja, a podvodníci nie sú zasvätení do tejto znalosti, zamýšľaný podvod nie je prvoradý. Aj keby podvodníci poznali prezývku, ktorú používam pre svoju priateľku, Lyrebird sa doručenie šialene mýli.

Eckersley, počítačový vedec predtým v EFF, mi povedal, že tieto obmedzenia zatiaľ neovplyvňujú len Lyrebird, ale aj sofistikovanejšie verzie tejto technológie, ktoré v súčasnosti existujú iba v počítačových laboratóriách. 'Hlasy, ktoré ľudia používajú pri verejných rozhovoroch, sú trochu iné ako tie, ktoré používajú v osobnom rozhovore,' čo nám zatiaľ poskytuje určitú ochranu, vysvetlil. 'Ale to je tenká ochrana a je to ochrana, ktorá sa potenciálne rozpadne na algoritmické techniky. Bude tam tlačidlo, ktoré zapína a vypína intonáciu hovorenia na verejnosti.' Keď sa to stane robustnejším, pravdepodobne narazíte na emotikon, ktorý zodpovedá nálade, ktorú potrebujete počuť pri skloňovaní počítačového hlasu.

Vidíte, kam to smeruje: falošné telefonáty, potom falošné hlasové správy a potom falošné videohovory nie od zjavných spamerov, ale zdanlivo od vašich blízkych. Možno vás podvodníci požiadajú o informácie o vašej kreditnej karte, ale pravdepodobnejšie bude, že lesť bude šikovnejšia. V súčasnej podobe by ste neverili textu z cudzieho čísla, však? Stavíme sa na istotu, že v najbližších rokoch neuveríte podobne zvláštnemu telefonátu alebo dokonca hovoru cez Skype bez toho, aby ste vyskúšali malý trik, ako napríklad položiť otázku, na ktorú bude poznať odpoveď iba skutočný človek. .

Predstavte si budúcnosť, keď sa táto falošná technológia dostane do rúk podvodníkov, povedzme, že vaša mama vás skype, kým ste preč na vysokej škole, a povie, že videla, že váš bankový účet klesá, a chce vám previesť nejaké peniaze, ale potrebuje, aby ste jej pripomenuli, aké je vaše číslo účtu a smerovacie číslo. Nekupujte to – iba ak si prejdete tvár svojej mamy cez nejaký autentifikačný softvér, ktorý buď potvrdí identitu vašej mamy, alebo odhalí podvodníka, napríklad na konci epizódy Scooby Doo .

Podľa Eckersleyho musíme pracovať na posilnení protokolov overovania telefónnych čísel a e-mailov, pretože jediná vec, ktorá vám dá vedieť, s kým hovoríte, je ID volajúceho, ktoré podvodníci môžu ľahko hacknúť. Nie je si však úplne istý, že tieto ochranné opatrenia budú zavedené včas, aby sa zabránilo mnohým podvodom, pretože telefónne spoločnosti sa skutočne zaoberali protokolmi zabezpečenia počítača.

'Vidíte, kam to smeruje: falošné telefónne hovory, potom falošné hlasové správy a potom falošné videohovory nie od zjavných spamerov, ale zdanlivo od vašich blízkych.'

Na seniorov sa už desaťročia zameriavajú podvody, ale keďže mladší baby boom a generácia Xers v najbližších desaťročiach dosiahnu dôchodkový vek, podvody sa budú musieť stať sofistikovanejšími, aby oklamali technologicky zdatných starších ľudí, ktorí nebudú tak horliví. verte, že IRS volá a potrebuje ihneď pokladničný šek. Podvodníci však už našli spôsoby, ako sa zamerať na ďalšiu generáciu seniorov. Napríklad začali používať internetové zoznamky, aby sa zamerali na starších ľudí s podvodmi so sumcami, predstierali, že sú slobodní seniori, ktorí hľadajú lásku, a potom presvedčili svojich porazených, aby vypísali šeky. Tieto druhy podvodov sa stanú jednoduchšími a rozšírenejšími, keď ktokoľvek môže zavolať cez Skype seniorovi zdá sa dokázať, že volajúci je zasnený — ale hodnoverný -potenciálny partner.

Keď podvodníci so zvukom a videom nájdu svoj domov na stránkach ako YouTube, dôsledky sú ešte znepokojujúcejšie. Nebezpečenstvo potom spočíva v tom, že, povedané Eckersleyho slovami, „epistemická alebo zmyslotvorná látka, ktorá do určitej miery držala západnú spoločnosť pohromade najmenej posledných päťdesiat rokov, ak nie dlhšie, sa [začne] rúcať a trhať. .“ To môže znieť prehnane hystericky, pretože aj dokonalé falošné videá môžu byť preukázané ako nepravdivé dôkladným nahlásením. Ak napríklad video zobrazuje kandidáta na úrad, ktorý hovorí niečo, čo poškodzuje jeho povesť, reportéri budú hľadať pravdu. Bola tá osoba v tom čase naozaj na tom mieste? Existujú iné zábery, ktoré to potvrdzujú?

Ale myslím, že už všetci vieme, že novinárska prísnosť ide von oknom, keď sa správy šíria online. Rovnako ako v prípade písaných falošných správ, vymýšľanie úplne divokej fikcie mimo ľavého poľa nie je ideálny spôsob, ako šíriť fámu. Namiesto toho je logické, že videá obsahujúce jadro pravdy sa pravdepodobne rozšíria, možno videá zobrazujúce verejné osobnosti, ktoré hovoria hodnoverné veci, ktoré zodpovedajú ich verejnej osobnosti.

Predstavte si veľkú armádu anonymných tvorcov falošných videí, platených za generovanie stoviek hodnoverne vyzerajúcich videí politického kandidáta, ktorý hovorí hrozné veci. Áno, nepriatelia tohto kandidáta by mohli šíriť lži a verejnosť by im mohla uveriť, ale mohol by nasledovať potenciálne znepokojivejší výsledok. Za predpokladu, že verejnosť vie, že existuje veľké množstvo falošných videí, bude pochybovať o všetkom, čo vidí a počuje, či je to lichotivé alebo nelichotivé – alebo ešte horšie, či je to pravda alebo nepravda. A toto je len jeden politický výsledok, ktorý sa môže, ale nemusí uskutočniť. Niet pochýb o tom, že technológia sa zhmotní a rozšíri. Keď sa tak stane, Eckersley mi povedal: „Ocitneme sa v super čudnom svete s krídlom.“

Ale je tu niekoľko dobrých správ: táto technológia bude využitá aj na nezlo.

Tvárové a hlasové filtre napríklad pre videorozhovory a vlogovanie umožnia ľuďom zmeniť svoju tvár, takže nebudú vyzerať a znieť tak ako celebrity alebo nevinní ľudia, ktorých identitu sa snažia ukradnúť, ale niekto iný . Ľudia, ktorí chcú skryť vážne kraniofaciálne anomálie, alebo ktokoľvek, kto by sa inak na videu nikdy necítil dobre, by sa mohol, ak by chcel, rozhodnúť použiť niečo také na otvorenú komunikáciu a zapojenie sa do verejného života.

Tieto technologické pokroky by tiež umožnili vytvorenie súvislých videozáznamov anonymných svedkov a únikov informácií v dokumentárnych filmoch. Namiesto toho, aby boli rozmazaní, pixelovaní alebo zahalení v tieni, mohli títo jednotlivci jednoducho vyzerať a znieť ako iná osoba – za predpokladu, že dokumentarista objasní, že sa používa prestrojenie.

Na záver tejto diskusie sa však vráťme k lenivým hercom a digitálnemu vzkrieseniu mŕtvych. Najväčším dôvodom na nadšenie z tejto neuveriteľne strašidelnej technologickej hranice je to, že – ako som povedal – zaháji deň, keď si budete môcť vytvárať vlastné filmy a televízne relácie pomocou niekoľkých stlačení kláves (alebo dovtedy možno len potiahnutím rukou alebo bliká).

Povedzme, že vašou najhlbšou a najtemnejšou fantáziou je slasher film s Frankom Sinatrom ako vrahom, ale keďže je Frank mŕtvy, viete, že ho nikdy neuvidíte ovládať krvavú reťazovú pílu. A teraz môžete! Možnosti rozptýlenia sa nekončia, ak viete, že veci ako turistika v lese, pozorovanie západov slnka alebo hladkanie vášho psa nestačia.


Výňatok z Deň, keď sa to konečne stane od Mikea Pearla. Copyright © 2019 Mike Pearl. Pretlačené so súhlasom Scribnera, divízie Simon & Schuster, Inc.