Rozhovor: Vědec Roman Neruda

Pokud si vědce představujete jako nějaké suchary, pak jste se ještě nepotkali s Romanem Nerudou. Ten se v Ústavu informatiky Akademie věd ČR v Kobylisích věnuje výzkumu umělé inteligence, přednáší na Matematicko-fyzikální fakultě UK a zároveň píše texty, hraje na klávesy a zpívá v alternativní punk-rockové kapele Sdružení rodičů a přátel RoPy.






To jsme někde v polovině 80. let, že?
„Dospíval jsem v dobré době, počítače se najednou zmenšily a z počítačových sálů s děrnými štítky se přestěhovaly na stůl… Takže do mých úvah čím se živit vstoupila ryze praktická úvaha. Řekl jsem si, že můžu být buď dobrý spisovatel a špatný programátor, anebo dobrý programátor a psaní mít jako hobby. A zvolil jsem programátorskou cestu. Coby kluk z Ústí nad Labem jsem se dostal na Matfyz do Prahy a tím vlastně také začalo moje spojení s Prahou 8.“

Jak to?
„Matematicko fyzikální fakulta měla tehdy koleje v Troji, ale my jsme si s kamarádem a našimi přítelkyněmi velice brzy pronajali v Bohnicích byt. Pak jsem se s přítelkyní, ze které se stala manželka, sice různě stěhovali, ale na bohnických a čimických adresách jsme bydleli snad 10 let. A byť nyní bydlíme jinde, já dodnes v Kobylisích v Ústavu informatiky pracuji.“

Jaký byl váš tehdejší studentský život, když jste zrovna nestudoval? Hospůdky?
„Měli jsme s kapelou zkušebnu v jednom čimickém skladu, chodili jsme Na Vyhlídku, kde koncertovali (a pili) Paleček a Janík, nebo na Vlachovku, tam zase kraloval Pepíček Zíma, nebo k Hoffmanům… Tehdy jsem urazil 5 budvarů a neumřel jsem, dnes bych dal sotva jeden a jsem mrtvý. Byl jsem holt mladší…“

K zamilovaným párům patří procházky ruka v ruce. Kam jste s přítelkyní chodil?
„Do Čimického háje, ten máme prochozený skrz naskrz. Tam také proběhla naše první vztahová krize. Jednou na nás vyběhl takový hafan a já se zbaběle okamžitě schoval za přítelkyni. Dalo mi pak moc práce vysvětlit, že jindy bych ji samozřejmě chránil, ale že se strašně bojím psů… Hodně jsme jezdili na kole dolů k řece a pak od mostu Barikádníků k Tróji, dělali jsme si táboráky…“

Dnes patříte ve svém vědeckém oboru k uznávaným kapacitám. Jak byste laikům přiblížil svět informačních technologií?
„Informatika je poměrně mladý obor. Velmi zjednodušeně, jedním z jeho zakladatelů byl vlastně první hacker na světě – britský profesor Alan Turing, který za 2. světové války dokázal nabourat německý šifrovací stroj Enigma a rozluštit jeho klíč. V polovině 20. století začaly vznikat první stroje, které nefungovaly jen jako kalkulačka, ale daly se skutečně naprogramovat, a tehdy se také od matematiky oddělila informatika jako teoretická disciplína. A už v polovině 50. let lidé začali přemýšlet o tom, jestli počítače někdy dokážou víc, než jen to, co jim zadá programátor – o umělé inteligenci.“

O umělé inteligenci uvažovali nejdřív spisovatelé sci-fi…
„Ano, známe to například už od Čapka, literatura v tomto vždy výzkum předbíhá. Ale ono se to velice rychle přelilo do skutečné vědy, začali vznikat první neforemní roboti osazení čidly a řízení počítačovými programy, které umožňovaly takové ƒ‚pračce’ jezdit po místnosti a při tom do ničeho nenabourat. A dnes se autonomní auta blíží okamžiku, kdy se budou sériově vyrábět.“

Bude na silnici bezpečněji?
„Pokud by jezdila jen auta bez řidičů, tak určitě. Autonomní auta nebudou porušovat dopravní předpisy, navíc budou mezi sebou komunikovat, uvidí se i za rohem, kam člověk nemá šanci dohlédnout, reagují mnohem rychleji.“

Pokud ovšem do jejich systémů nezasáhne člověk. To přece bylo příčinou i první smrtelné nehody, způsobené autem bez řidiče, ne?
„Ano, zatím je vše ve stádiu testování. Vůz nesmí ohrozit člověka, proto musí ihned zastavit, pokud by mělo dojít ke střetu. Program v autě byl velice citlivý a zastavoval vozidlo i když před čidlem jen proletěl list. Tuto funkci programátoři v zájmu plynulé jízdy vypnuli. Mimochodem tu paní by nejspíš srazil i živý řidič, jak se ze tmy vynořila najednou i s kolem před autem. Nicméně program ji registroval a teoreticky měl možnost zareagovat. To se musí ještě vše doladit, a pak samozřejmě nevypínat.“

A může to doladit sama umělá inteligence? Dnes přece jsou programy, které učí samy sebe.
„Umělá inteligence zatím není na myslící úrovni srovnatelné s lidskou inteligencí, a kdo ví, zda někdy bude. Programy se dnes mohou učit, ale vždy jen řešit jeden omezený problém, který jim člověk dobře definuje.“ Už dnes se ale vedou debaty například v oblasti autorského práva, kdy je to ‚něco‘, co vytvoří samoučící se program, ještě produktem programátora, a kdy je autorem už sám program, stroj.
Je dobře, že takové úvahy probíhají, ale myslím, že bude ještě nějakou dobu trvat, než budou programy takto autonomní. Programy se musí naučit řešit věci, nad kterými my se vůbec nezamýšlíme. Vrátím se opět k autonomním autům – Google dříve testoval svoje vozy v Kalifornii. Tam je pořád hezké počasí a vše probíhalo báječně. Najednou začalo pršet a program nevěděl, co má dělat. Změnily se totiž podmínky, na které algoritmus vůbec nebyl připravený.“

Je to tím, že člověk má nějaké zkušenosti, které sbírá celý život?
„Člověk se za život naučí strašně moc a má znalosti, o kterých ani nevíme, odkud je máme. Prostě je víme. Že prší, že sněží, že je proto kluzko… Ale auto to neví a všechny tyto situace mu musíme nějak popsat, aby se jim mohlo přizpůsobit. Otázka je, jestli by se tohle dokázalo samo naučit.“

V letadlech je autopilot dávno běžnou věcí. Proč to u aut trvá tak dlouho?
„Na nebi je přece jen situace mnohem jednodušší. Že by vám tam někdo vběhl nečekaně do cesty skutečně nehrozí. Zpočátku byl vývoj autonomních aut záležitostí velkých a prestižních univerzit jako jsou Stanford, Carnegie Mellon, Berkeley a podobně. Někdy v roce 2004 vypsala americká vládní grantová agentura DARPA soutěž, kdo dojede autem bez řidiče někde v poušti z bodu A do bodu B. První ročník skončil fiaskem, nikdo nikam nedojel. Univerzity vše vyhodnotily a ve druhém ročníku už nejlepší auta ujela v terénu přes 100 mil. A pak někdy kolem roku 2006 do hry vstoupil Google a vítězná auta i s konstruktéry jednoduše koupil. A dnes je se se svým autonomním vozem asi nejdál ze všech.“

Jak se liší dnešní autonomní auta od tehdejších?
„Tenkrát vyhrál na pohled obyčejný  VW Touareg, akorát v kufru sedělo místo řidiče šest notebooků. Dnes už jsou to speciály, které mají veškerou výpočetní techniku schovanou uvnitř. Ostatně i dnešní běžná auta mají v sobě zabudované počítače, takže když přijedete do servisu, technik auto napojí a přečte si data a ví o provozu auta prakticky všechno. Čím dražší auto, tím lepší a autonomnější má v sobě počítač. Klidně za vás třeba zcela sám automaticky zaparkuje mezi dvě jiná auta.“

Parkovací asistent je moc fajn věc, to uznávám.
„Byl to první úspěch metody strojového učení, která se jmenuje neuronové sítě. Už na přelomu 80. a 90. let vyšly informace, že při simulaci auto samo krásně zvládne parkovací manévr. Tehdy to bylo v teoretické rovině, a dnes už se to skoro běžně montuje do aut.“  

Funguje lidský mozek díky neuronovým sítím jako počítač, resp. počítač jako lidský mozek?
„Mozek má obrovské množství neuronových spojů a my si myslíme, že se to dá matematicky vyjádřit. Popis toho, jak funguje jeden neuron, je matematicky docela jednoduchý. To je řekněme středoškolská úroveň matematiky – neuron má nějaké vstupy, přikládá jim nějaké váhy, odborně se jim říká synaptické váhy a spojům synapse, a spočítá svůj výstup. Učení spočívá v tom, že se tyto váhy upravují podle toho, co se daný neuron má naučit. Složitost to získá až tím, že se spojí spousta neuronů dohromady.“

Co dokáže jeden neuron?
„Nic moc. Představte si, že neuron má dva vstupy a tohle (ukazuje na stolek s čokoládovými a žlutými sušenkami) je jeho vstupní prostor. Neuron mi dokáže nakreslit čáru a něco oddělit. Bude mi odpovídat tohle je nula, a tohle jednička a já si řeknu fajn, mám rozpoznávač čokoládových sušenek. Když jsou neuronů tisíce a v několika vrstvách, najednou dokáže z obrázku rozpoznat například písmena.“

To přece nemůže být žádný problém.
„Pro lidský mozek ne. A spousta lidí nechápe, že to byl obrovský problém pro počítače. My dospělí umíme číst, ale malé dítě ne. Když něco vyfotím, vidím na záběru a dokážu pojmenovat spoustu detailů, že po silnici mezi poli s kvetoucími slunečnicemi jede auto a že v dálce jsou hory a na nebi mráčky. Pro počítač je to obrázek, shluk pixelů. Až specializovaný software vám dokáže přečíst písmena. Toho využívají už teď například kamery u dálnice, které přečtou vaší SPZ a upozorní, že jedete příliš rychle. Říká se tomu optické rozpoznávání znaků a je to veliký úspěch strojového učení, nebo chcete-li umělé inteligence. A za tím je právě umělá neuronová síť.“

Na stejném principu pracuje i rozpoznávání obličejů?
„V zásadě ano, text je ovšem daleko jednodušší. I s obličeji už jsou znatelné pokroky, pokud má počítač určitý obličej v databázi, dokáže ho v davu identifikovat.“

Jak se to počítač naučí?
„Většina takového učení je takzvané učení s učitelem. To znamená, že počítači připravíme obrovské množství příkladů, kterými dokážeme říct, jak má odpovědět. Na spoustě obrázků bude písmeno A v nejrůznějších podobách a my mu to A vždycky ukážeme. A tím ten software naučíme to A rozeznávat.“

Když ale uděláte v zadávání programu chybu, tak se stane co?
„Dneska se programuje ve vyšších programovacích jazycích, ke kterým existují překladače, které naše zadání převádějí do systému nul a jedniček, strojového kódu, který pak počítač vykonává. Programátor to píše zhruba stejně jako ve wordu a používá vyjadřování jako: když je hodnota vstupu taková, udělej toto, jinak udělej něco jiného. Když jsem začínal, tak jsem programoval v jazyce Fortran na děrné štítky – a když jsem někde zapomněl středník, byl to den zdržení. Dnes je to pár vteřin.“

Takže pozice čárky je stejně důležitá jako v běžném psaném textu? Příklad: Věta „Jezte, děti.“ má zcela jiný význam s čárkou než bez čárky.
„Přesně. Programátor píše svůj program, pak zmáčkne zelenou šipku, program to přeloží a případně řekne – tady vám něco chybí. Syntaktické chyby jsou tedy jednoduché na odhalení, software má svou vlastní velmi přísnou gramatiku. Horší jsou logické chyby, když programátor opomene nějakou možnost, anebo naučí model umělé inteligence něco špatně. Kvůli takovým chybám vám pak padají aplikace ve vašem telefonu, ale někdy i letadla.“

A dokáže umělá inteligence sama sebe někam posunout?
„To je hluboká otázka. My máme dva přístupy k umělé inteligenci a neznáme, co je nejlepší řešení. Tradičnější přístup už z 50. let se nazývá
‚shora‘ a trošku to odpovídá programování. Snažíme se popsat naše znalosti pravidly a vztahy mezi nimi, aby tomu ten druhý, a také počítač rozuměl. Třeba popsat rodinu – ta jako celek sestává z lidí, kteří mají mezi sebou nějaké vztahy. Že Lenka má za manžela Karla a mají děti Karlíka, Pepíka a Aničku.

Ze širšího jdete k jednotlivostem?
„Přesně. Z výšky do hloubky. A když to dobře popíšu, tak umělé inteligenci můžu zadat: Karlík a Pepík, jaký je mezi nimi vztah? A ona odpoví, že jsou bráchové. Algoritmy používají matematickou logiku a umí uvažovat v rámci tvrzení pravda – nepravda. Nefunguje to tak dobře u otázek typu Jak to děláte, že řídíte auto? Člověk by odpověděl, že udržuje nějakou rychlost, točí volantem, ale počítač s neurčitými informacemi moc pracovat neumí.“

Takže vybrat z nějaké množiny jen velké lidi by neuměl?
„Kdo je velký? V Holandsku jsou velcí lidé dvoumetroví, v Japonsku jsou jako velcí braní dejme tomu metr osmdesát a výš. Každý z nás těm pojmům rozumí a běžně je používá, ale jsou neurčité a algoritmus s přístupem shora s nimi neumí dost dobře pracovat, i když existují metody jako fuzzy logika, které se o to snaží. Naopak výhodou přístupu shora je exaktnost. Firma IBM udělala program Watson, který načetl do strukturovaných databází všechny dosažitelné encyklopedie a vyhrál v americké znalostní soutěži Jeopardy, obdobě našeho Riskuj, dnes pomáhá lékařům například při diagnostice nádorů.“

A ten druhý přístup?
„To je metoda zdola, aby se to nepletlo. Inspirujeme se tu přírodou – typickým představitelem jsou umělé neuronové sítě. Stejně jako novorozenec i nová neuronová síť nic neumí, je jen náhodně inicializovaná. A stejně jako malé dítě se vše musí naučit – třeba zvířata. Já jsem učitel a ukazuji systému tisíce obrázků psů a koček v nejrůznějších podobách… Síť mi odpovídá jednička pejsek, nula kočička. Když je to špatně, síť si na základě své chyby upraví synapse tak, aby příště to bylo lépe. Toto učení samozřejmě trvá hodiny a hodiny.“

Takže je to učení na základě zkušenosti?
„Když se učíte malou násobilku, nejdřív vůbec nevíte, co to je, ale po nějaké době vám docvakne systém a pak už dokážete odvodit další vztahy a odpovědět i na složitější příklady. Tomu se říká systém generalizace. Když učíme systém rozpoznávat kočičku, věříme, že na základě desetitisíců obrázků kočiček pak rozpozná podle charakteristických znaků i kočičku, kterou ve skutečnosti nikdy neviděl. Problém je v tom, že je to pro nás tak trochu černá skříňka, uvnitř které jsou statisíce neuronů, a my už nevíme, proč reagují zrovna takhle. Algoritmus učení chápeme, matematicky víme, co se děje, ale úloha je už tak složitá, obsahuje miliony čísel a do těch milionů už nikdo pořádně nevidí.“


Když nevíte, co se uvnitř děje, nevymyká se to učení kontrole?
„Dneska sice máme software, který dokáže říct: Na obrázku je holčička v růžových šatech na louce a v pozadí je les. Ale pořád je to jen rozeznávání obrázků. A je úzce specializovaný, Když se ho zeptám, kolik je 2 x 3, tak mi to neřekne.“

A co rozpoznávání řeči?
„To je zase jiný specializovaný program. My zatím nedokážeme nějakou umělou inteligenci natrénovat tak, aby myslela, když to řeknu hodně zjednodušeně. Všechny programy jsou jen jednostranně zaměření experti bez tvůrčího myšlení. Je zvláštní, že když se program učil rozeznávat šroub, tak když měl šroub ukázat, předvedl jeho různé detaily, které považoval za důležité, ale ne šroub jako celek.“

Jak hodnotíte coby člověk zabývající se psaným uměleckým textem strojové překlady?
„Google Translate je poměrně úspěšný program založený na neuronových sítích. Je zajímavé, že pracuje s mezivrstvou umělého jazyka – jako kdybyste v reálu z angličtiny nejprve text přeložili do esperanta a pak teprve do češtiny. To se samo naučilo.“

Tohle chápu. Ale je nebo bude schopen překládat uměleckou literaturu? Básně? Dnes mi program přeloží smysl, děj, ale to koření tomu chybí.
„Těžko říct. Tady jsme u pojmů jako cit, emoce, pocit, chuť… Já docela rád vařím, a nemyslím si, že by někdy nějaký program nahradil dobrého kuchaře. Při mechanickém vaření přísně podle receptu ano, to je stejné jako roboti při výrobě aut.“

Nahrazování lidské, zejména manuální práce stroji je už běžná záležitost a není to ani nic nového.
„Lidé jsou nahrazováni i tam, kde byste to možná ani nečekal. Když voláte do firmy, dost často už vám odpovídá automat a nepoznáte to. Automaty se využívají k různým analýzám a rešerším. Umělá inteligence umí třeba už teď poznat z ukázky textu, třeba na Facebooku nebo Twitter, jestli je pozitivní, negativní, veselá, smutná. Toho právě využívají firmy, které potřebují analyzovat, co o nich píší na internetu. Nejdřív měly radost, jak moc se o nich píše, pak byly zklamané, že jsou to často negativní příspěvky naštvaných lidí, ale potřebovaly na to reagovat. To už umíme velice dobře.“

 Nahradí počítače člověka i v umělecké činnosti?
„Nemyslím. A když, tak to bude trvat hodně dlouho, někteří lidé jsou přesvědčeni, že to nebude nikdy. Co je možné, je naučit se nějaký styl – textu, hudby, malování. Je to v plenkách, ale vyvíjí se to, jak už jsem zmínil svého studenta a jeho umělého Bacha. Stejně tak už umělá inteligence víceméně dokáže z fotky udělat obraz ve stylu například van Gogha.“

To jsme zase zpět u autorských práv a kopírování, což ale není tvůrčí činnost.
„Za vším jsou matematická vyjádření toho, jak van Gogh pracoval s kontrastem, jak tahal štětec, jak kladl barvu. Když tohle dokážeme najít, pak můžeme malovat jako on. Respektive upravovat fotky. Fotka ala van Gogh nebo ala Picasso je sice kýč, ale funguje to.“

Kdyby dostal počítač úkol nakreslit pole s obilím a s havrany ve stylu van Gogha, dokázal by to?
„Tak daleko ještě nejsme. Generování je mnohem těžší než rozeznávání. Styl bychom tam dokázali dát, ale aby generoval obraz té síly, jak to dokázal van Gogh… Nicméně tohle zrovna je věc, o které – kdybychom se bavili za pár let – bych vám asi řekl, že to už jde. Na druhou stranu to pořád bude studené, bez emocí, vypočítané. Počítač nechápe, co znamená malovat jako van Gogh. Skutečné tvůrčí myšlení v dnes známých modelech určitě není.“

A myslíte, že někdy bude?
„Řeknu vám jiný příklad a jsem zvědav, co si o tom myslíte. Umělá inteligence se hodně testuje na hrách. Už v 90. letech IBM postavilo počítač Deep Blue, který nakonec porazil šachového mistra světa Garri Kasparova. To bylo velké. Ale ten program se šachy neučil, prohledával možné tahy a obsahoval jen spoustu fint od programátorů, které dokázal analyzovat a použít to nejlepší řešení. Hra, která dlouho odolávala počítačovému myšlení, je japonské Go. Ale vloni už počítač porazil velmistra Lee Se-dola. Použil k tomu strojové učení umělé neuronové sítě v kombinaci s prohledávacím algoritmem. Nakrmili počítač spoustou historických partií a důležité ale bylo, že ten algoritmu se sám učil, jak lidé hráli go – a dnes hraje líp než nejlepší velmistr. A to ještě není vše. Existuje způsob zpětnovazebního učení, tj. bez učitele, který by vás po každém tahu opravoval. Prostě počítač nechají hrát a na konci mu řekli prohráls-vyhráls. A oni vzali stejnou neuronovou síť, kterou předtím učili na lidských partiích, nic jí kromě pravidel neřekli, žádnými partiemi ho nekrmili – a nechali ho několik měsíců hrát proti sobě. On se postupně učil, zlepšoval, a nakonec nejenže porazil velmistra Sedola, ale i program, který se učil na lidských partiích. Takže tu najednou máme program, který je o level výš jen svým vlastním přičiněním, a který hraje go tak, že to lidé někdy nechápou. Tak co, je to kreativní?“

No nevím. Hry jako šachy nebo go jsou pořád svázány přesně danými pravidly, bez nich by se nedalo hrát, jednotlivé tahy a jejich varianty se dají propočítat, takže chápu, že dříve či později bude mít stroj navrch. Jak je to ale při hrách, které nejsou založeny na principu výpočtu, ale spíš na kamuflování, psychologii, přetvářce – tedy například pokeru? Anebo úplně obyčejné kámen nůžky papír? Anebo když už chodí a běhají, budou někdy hrát fotbal?
„Fotbal už hrají. Je to sice někdy směšné, ale učí se. Poker je těžký, je tam velký prvek náhody, jaké dostanete karty. Ale kluci z matfyzu udělali ve spolupráci s kolegy z Kanady nedávno program, který poker už hraje na solidní úrovni. Opět se použily neuronové sítě a její učení.
Kámen nůžky papír… Pokud nebudete dělat ksichty a neprozradíte se, tak matematicky je to 1:3. Statisticky víme, že nejlepší taktikou je náhodná volba. Lidé se ale málokdy rozhodují náhodně, vždycky podle nějakého systému, něco se jim líbí víc, na něco reagují takto. A když toto odhalíte, máte větší pravděpodobnost výhry. Když bude počítač vybaven rozpoznáváním jak se u toho tváříte a dalších věcí, tak pro něj nebudete žádný složitý soupeř.“

Ale to pořád není obdoba lidské inteligence.
„Všechny příklady programů, které jsme probírali, byly samozřejmě určitým způsobem inteligentní. Ale že bychom dokázali vytvořit bytost uměle inteligentní, která by chápala nejen smyslové vjemy, ale i naše emoce, k tomu jsem dost skeptický.“
„Když ho to naučíte, když mu to dáte do programu, tak podvádět bude už teď. I lidé vždy kalkulují, co jim přinese největší zisk. Matematicky dokázané je, že v takzvaném vězňovu dilematu, což je problém modelující rozhodování, zda budete spolupracovat nebo budete sobecký, tak k nejlepšímu výsledku vede zrada. Když máte dva vězně, kteří nemají možnost se domluvit, tak dříve či později jeden druhého zradí. Když se ale domluví, že nic neřeknou, a dodrží to!, tak jejich zisk je v součtu větší, propustí je pro nedostatek důkazů, ale pro každého jednotlivě bude zisk menší. Dá se to ukázat na chůzi po trávě – když se projdu sám, fajn. Když po ní budeme chodit všichni, tráva zmizí. Je to jako celé životní prostředí – když se nedohodneme, doplatíme na to všichni. Když se dohodneme a budeme to dodržovat, získáme všichni. Ovšem za určitého omezení jednotlivce.“
„To bychom opět museli definovat, co je to podvod. I v lidských kulturách je stejné jednání posuzováno různě. Když umělé inteligenci zadáte pravidla, kterých se má držet, tak se jich držet bude. Když je definujete volněji, nelze vyloučit, že najde řešení, které z vašeho hlediska může vypadat jako podvod. Uvedu příklad, který není až tak podvod, ale je charakteristický pro hledání řešení umělou inteligencí. Vědci se snažili naučit robota jezdit hezky chodbou a nenarážet. A dávali mu pokyny jednoduchými příkazy: Musíš udržovat stejnou vzdálenost od stěn. Mysleli tím, aby jel prostředkem. Pustili robota, ten dojel doprostřed chodby, a tam se zastavil. Udržoval stejnou vzdálenost od všech čtyřech stěn. Dobře, to tedy nestačí, aby ses pohyboval, tady máš další příkaz: Musí se ti při tom točit kolečka. A robot se uprostřed chodby začal točit dokola. Splnil úkol. Nalezl nejjednodušší řešení.“

Takové švejkovské doslovné striktní splnění rozkazu ale není podvod.
„Robot nemá žádnou morálku, takže sci-fi Isaaca Asimova, že máme tři robotické zákony, které roboti budou dodržovat, je skutečně jen sci-fi. Žádné morální zábrany, ale ani žádné jiné pohnutky k podvádění nemá. Když mu jeho program podvod umožňuje, klidně ho použije. Vždycky je to opět na člověku, co do něho založí. Umělá inteligence sama o sobě je neutrální, ani zlá, ani hodná, a z vlastního rozhodnutí zabíjet nikdy nikoho nebude.“

Laický rozum mi říká – aby byla umělá inteligence lidsky inteligentní, musí být ve finále každá jiná, jako jsou lidé různí. Jsem ale přesvědčen, že stejné stroje při stejném výchozím zadání dojdou vždycky ke stejnému výsledku.
„Máte naprostou pravdu. Je to nesmírně složitý problém a filosofové ho nazývají qualia. Tenhle pojem popisuje naši osobní zkušenost s vnějším světem. U strojů je to otázka, jestli někdy budou mít vědomí, a  co je to vůbec vědomí? Bude si uvědomovat sám sebe, bude schopen přemýšlet na vyšší úrovni než jenom hrát třeba karty? Spousta filosofů si myslí, že k vědomí musíte mít individuální prožitky, počitky a názory, mít schopnost umět zaujmout stanovisko. K něčemu si čuchnu a vím, jak to voní, líbí se mi to – nelíbí se mi to. Inženýrský přístup je takový, že umělá inteligence si k něčemu čuchne a řekne je to mateřídouška. Anebo je to psí exkrement a ten pes snědl to a to. Zanalyzuje skutečnost, ale bez emocí.“  
„Jestli dokáže vymyslet něco kvalitativně zcela nového? To je těžké předpovídat. Na jednu stranu jsou řešení, které nám ta učící se umělá inteligence předkládá, neuvěřitelně originální a překvapivá, ale je to zatím stále v omezeném měřítku vstupních dat. Na druhou stranu si dovedu představit, že budeme ty problémy rozšiřovat a zadávat stále obecnější data toho prostředí, ve kterém má řešit úlohy. A ono tam opět najde něco, na co člověk předtím nepřišel. Což ale pořád neznamená, že to myslí a má vědomí.“

Dokáže umělá inteligence napsat román?
„Časem jo. Začne to analýzou, imitováním a postupně se bude zlepšovat jak při hraní her nebo při vytvářením obrazu ala van Gogh. Na ten bachovský program, o kterém jsme mluvili, stačily tři neuronové sítě. Zkoušelo se to i se Shakespearem, ale zatím nic moc, shakespearovské kombinace slov z toho vypadly, děj tam ale žádný nebyl, to je úplně jiný level. Nicméně i to se časem podaří. Tyto věci fungují zatím na syntaktické úrovni – noty a vztahy mezi nimi jsou jasné, víme, co je falešně. Ale proč se nám ta skladba líbí? Je tam nějaký hezký akordický potup? Co je to hezký? Co je to líbí? To už je sémantika, která je ještě mnohem výš.“

Takže až zvládne umělá inteligence přechod od syntaxe k sémantice bude lidsky inteligentní?
„Jak poznáme, že už je stroj inteligentní, na to se lidé ptali už v době počítačového pravěku.  Už zmiňovaný profesor Alan Turing vymyslel test, který nese jeho jméno. Budeme si přes dálnopis – nebo dnes přes chat – s někým povídat, ale nebudeme vědět s kým. Když po deseti minutách povídání o čemkoli řekneme, že na druhé straně seděl člověk, tak počítač uspěl.
„To ano, povídají si s vámi, odpovídají přesně na otázky, intonují bezvadně, takže nerozeznáte, že mluvíte se strojem, ale vůbec nechápou smysl komunikace. Před pár lety byla oblíbená otázka, jak jste je mohli nachytat, co je větší – měsíc nebo pomeranč? Z lidí to každý ví a vůbec nad tím nepřemýšlí. Program, aby odpověděl správně, musí vyluštit, jestli myslíte měsíc na obloze nebo kalendářní, musí v nějaké databázi najít velikost měsíce a velikost pomeranče, porovnat je a pak dát odpověď. Na to chatbot není programovaný, to je pro něj strašný skok. Vybrat nábytek v Ikee – proč ne, na to má katalog, ale ptát se ho, co si myslí o Kantovi…? Aby byl stroj lepší než lidský asistent v Ikee, to bude ještě hodně dlouho trvat.“

Ale nevylučujete to.
„Tuhle větev umělé inteligence, kdy dojdeme k okamžiku, kdy dokáže vstřebat sémantiku těch informací a pracovat s nimi, opravdu nevylučuji.“

Třeba se ale v budoucnu objeví technologie, které vše postaví na hlavu. Nicméně pořád je tu jedno nebezpečí. Možná znáte ten vtip, jak si povídají Google, Wikipedie, Facebook, internet a elektřina. Já všechny najdu, chlubí se google. Já všechny znám, kontruje facebook. Já všechno vím, trumfuje Wikipedie. Kdyby nebylo mě, tak tu nejste, na to internet. A elektřina? Tak se kluci zase uklidněte…
„Jo, zatím to je hluboká pravda. Veškerá technika včetně umělé inteligence je stále závislá na zdrojích energie zvenčí. Katastrofické scénáře předpokládají, že umělá inteligence dokáže z toho počítače interagovat s tím fyzikálním světem naším. Neví se jak, prostě nějak, ale hlavně výrazně dobře. Robot v továrně se pohybuje a kdyby dostal pokyn, dokáže vás zabít. Ale programy jako takové jsou zavřené v počítačích a bez nich nejsou nic.“

A můžou mít klidně tělo jak umělá bytost Sofia se saudskoarabským občanstvím, která na jaře navštívila Prahu. Pořád je to krabice, které když dojdou baterky, tak zmlkne. Kdysi jsem jako kluk četl kratičkou sci-fi povídku, kdy pospojují všechny počítače světa dohromady a nejvyšší představitel má tu čest systém zapnout a položit superpočítači první otázku. Cvakne vypínačem a zadá otázku, na kterou lidstvo nezná odpověď: Existuje Bůh? –  V tu chvíli ho blesk z čistého nebe srazí k zemi, zataví vypínač v poloze zapnuto a hromový hlas řekne: Ano, TEĎ existuje Bůh!
„Ten počítačový bůh v té povídce moc dobře ví, že ho nesmí nikdo vypnout. A tím se vědci skutečně zabývají,  třeba americký futurolog Kurzweil, jedna z klíčových postav technologického vývoje Gogolu. Ten uvažoval o tom, co se stane, až kapacita všech počítačů přesáhne kapacitu lidského mozku. Lidé se toho báli, říkali tomu singularita a zvažovali, jestli se to najednou nezapne samo – a ta situace skutečně nastala zhruba před pěti lety.“

A nic se nestalo, nebo alespoň já jsem nic nezaznamenal.
„No jistě, z mého hlediska je to pitomost. Je to stejné, jako kdybyste sečetli výkon všech vysavačů a usoudili, že to spustí tornádo. V tom stavu znalostí, jaké nyní máme, jsou úvahy o uměle vytvořené super inteligenci s božskými parametry naprosto mimo. Hodně se o tom v posledních letech mluvilo – nedávno zesnulý fyzik Stephen Hawking se proti umělé inteligenci vymezoval, chtěl ji spíš zakázat, Bill Gates i Elon Musk patří k těm, kteří říkají opatrně s tou umělou inteligencí. Můj názor – je dobré si o tom občas popovídat, ale psát kvůli tomu nějaké petice…“

Otázkou je, proč se tak vyjadřují. Je to dáno jejich věkem? Není jim už dávno dvacet.
„Kdybyste něco o omezování umělé inteligence řekli Gatesovi v polovině 70. let, tak si poklepe na čelo, protože on spolu se Steve Jobsem tohle všechno vlastně spustili.“

A co když se objeví něco obdobně převratného, jako byl tehdy pécéčko? Třeba počítač na bázi genetiky?
„Už teď jsou projekty počítačů, které jsou založeny na DNA. Zatím dokáží řešit jen jednoduché problémy.“

Jak pracují?
„Pracuje to na principu, že dokážeme dneska syntetizovat libovolnou kombinaci DNA, takže si můžeme představit, že řešení našeho problému nezakódujeme do nul a jedniček, jako u elektronických počítačů, ale pomocí čtyř bazí DNA, a pak pomocí speciálních enzymů hledáme správné řešení mezi miliardami molekul. Vezme se to, zatřepe se s tím, a ono to něco vyřeší, řečeno laicky. Není to ani zdaleka ve stavu, aby se daly řešit složité úkoly. Ale ty technologie jdou strašně rychle kupředu. Před deseti lety jsme teprve přečetli lidský genom – a dnes dokážeme ty samé genetické informace modifikovat. Je to cesta ke kyborgům? Nevím.“

Na co by se mělo lidstvo připravit?
„Určitě na mnohem větší robotizaci. Nebudou třeba tak hezcí, ale budou zastávat určité funkce ve společnosti. Lidé nejspíš přijdou o manuální práci ve výrobě, ale zmizí i z činností, které dnes bereme do určité míry jako tvůrčí. Například tři čtvrtiny právnických úkonů je rutinní prohledávání zákonů a hledání vztahů mezi nimi. To umělá inteligence už dnes hravě zvládne. A právníků bude najednou potřeba desetina.“

To ale totálně zamíchá nejen situací na pracovním trhu, vyvolá to určitě i potřebu zcela jiného uvažování v mnoha oblastech lidského konání.
„Myslím, že spíš než problém umělé inteligence to bude problém společenský, sociální. Nebude to o tom, že by umělá inteligence po nás šla, ale bude tu najednou levná pracovní síla, které hodně věcí dělá lépe a rychleji. To pravděpodobně způsobí otřesy ve struktuře společnosti. Proto jsou tu úvahy, jestli dávat robotům nějaká práva nebo po nich chtít třeba sociální pojištění.“

To zní jako sci-fi, ale nějaká ulítlá.