Ako naučíte robota správne a nesprávne? Čas na príbeh.

Ako naučíte robota správne a nesprávne? Čas na príbeh.

Robot čítanie , zo Shutterstocku

Tento článok je založený na rozhovore Science Friday a bol pôvodne uverejnený na PRI.org.

Roboti, ako vysvetľuje Mark Riedl, majú takmer všetci sociopatické tendencie.



'Budú to bezpečné?' pýta sa Riedla, profesora informatiky na Georgia Institute of Technology v Atlante: „Budú nám schopní ublížiť? A to nemyslím len z hľadiska fyzického poškodenia alebo fyzického násilia, ale z hľadiska narušenia určitého druhu sociálnych harmónií v zmysle...približovania sa k nám alebo urážania nás.'

Podľa Riedla nejde až tak o to, že roboti sú zámerne drzí. Ide len o to, že sa snažia „super-optimalizovať“. Ale ak sa roboti začnú stávať súčasťou nášho každodenného života, bude možné ich naučiť správať sa?

„Chceli sme sa pokúsiť naučiť agentov spoločenské konvencie, sociálne normy, s ktorými sme všetci vyrastali,“ hovorí Riedl. „Príbehy sú skvelý spôsob, skvelé médium na komunikáciu spoločenských hodnôt. Ľudia, ktorí píšu a rozprávajú príbehy, si naozaj nemôžu pomôcť, ale vštepovať im... hodnoty, ktoré si vážime, hodnoty, ktoré vlastníme, hodnoty, ktoré chceme vidieť u dobrých a čestných občanov.

Riedl a jeho tím experimentovali s rozprávaním veľmi jednoduchých inštruktážnych príbehov robotom. V súčasnosti sa snažia naučiť robota, ako ísť do obchodu a vyzdvihnúť si liek na predpis.

'Stále sme v jednoduchšej fáze,' hovorí Riedl. „Spracovanie prirodzeného jazyka je veľmi ťažké. Pochopenie príbehu je ťažké, pokiaľ ide o zistenie, čo sú morálky a aké sú hodnoty a ako sa prejavujú. Rozprávanie príbehov je v skutočnosti veľmi komplikovaná vec.“

Nakoniec však Riedl dúfa, že bude možné dať robotom celé knižnice príbehov.

„Predstavujeme si, že celé súbory príbehov, ktoré mohla vytvoriť celá kultúra alebo celá spoločnosť, vložíme do počítača a necháme ho spätne analyzovať hodnoty. Takže toto by mohlo byť všetko z príbehov, ktoré vidíme v televízii, vo filmoch, v knihách, ktoré čítame. Naozaj druh populárnej fikcie, ktorú vidíme,“ hovorí Riedl.

Netrápi sa tým, že roboti dokážu určiť, čo je v príbehu správne alebo nesprávne – či je lepšie postaviť sa na stranu hrdinskej postavy v príbehu alebo antihrdinu.

„Umelá inteligencia je skutočne dobrá vo výbere najbežnejších signálov,“ hovorí Riedl. „Takže veci, ktoré vidí znova a znova a znova, sú veci, ktoré budú stúpať a bublať až na vrchol. A to bývajú hodnoty, ktoré si kultúra a spoločnosť vážia. Takže aj keď vidíme... anti-hrdinov, stále je to veľká menšina vecí, ktoré produkuje celá naša spoločnosť.“