Poznámky k tezi “Další vývoj umělé inteligence není žádoucí”

Filip Vrťo z ředitelství soutěží a Šimon Podhajský nabízí rady, jak se připravit na první tezi z okruhu věda a technologie.


Dnes se vám budu snažit přiblížit základní fungování umělé inteligence v souvislosti se zveřejněnou tezí pro druhý turnaj Debatní ligy, který nás čeká už 27.–29. ledna v Opavě. Tento článek zaměřím více debatně nežli technicky, proto jej berte spíše jako dobrý základ než komplexní popis fungování a všech možných dopadů umělé inteligence. Zároveň Vám vřele doporučuji si v případě hlubšího zájmu projít zdroje a zajímavé odkazy, které jsou uvedeny na konci článku. Odpovíme si na tři základní otázky.

Co to vůbec je umělá inteligence?

Ač se může zdát, že odpověď je zřejmá, je těžké ji formulovat objektivně. Pohledy na to, kde se nachází hranice umělé inteligence, se totiž liší a dá se říci, že leží na jistém spektru. I přesto máme základní charakteristiky, které vymezují vlastnosti umělé inteligence. Velmi zjednodušeně se dá umělá inteligence shrnout takto:  Jde o algoritmus či počítačový program schopný intelektuálních procesů často srovnatelných s lidmi.

Jednou z hlavních oblastí umělé inteligence je strojové učení. To znamená, že se umělá inteligence umí sama učit a zlepšovat. Zásadně se tak liší od klasických počítačů, které mají většinou pevně zadaný formát vstupu a algoritmus, kterým generují chtěný výstup. Strojové učení funguje na principu, kdy operátor zadá vstup a požadovaný výstup. Umělá inteligence se co nejlépe snaží nalézt algoritmus nutný pro získání požadovaného výstupu. Mimo pouhé replikace však umělá inteligence dokáže tento postup optimalizovat, čímž se alespoň z části eliminuje problém jakési „jazykové bariéry“ mezi počítačem a člověkem. Na druhou stranu je však důležité si uvědomit, že samotné strojové učení není „inteligentní“ tak, jak bychom si to představovali. Pouze se učí hledat vzory ve vstupních datech. To mimo jiné znamená, že kvalita vstupních dat se přímo podepisuje na výsledné umělé inteligenci. Ve výsledku tedy může i výborné strojové učení vyprodukovat zaujaté či nekvalitní výsledky kvůli špatným vstupním datům.

Oblastí umělé inteligence je však mnohem více, a to od evolučních algoritmů až po neuronové sítě. Další oblasti však nechám na čtenářově vlastní rešerši.

Hlavní rozdělení umělé inteligence je v současnosti dvojí. „Úzká“ umělá inteligence a „obecná“ umělá inteligence. Toto rozdělení je tak základní, že je hned na začátku článku o umělé inteligenci na Wikipedii.

Takzvaná úzká umělá inteligence (anglicky narrow artificial intelligence) je něco, co už je běžnou realitou dnešní doby. Zjednodušeně jde o systém, který se zaměřuje na řešení převážně jedné nebo pár omezených a jednoduchých úloh. Takovéto systémy jsou vyvíjeny pro specifické účely a spíše než pro komplexní pomoc slouží k efektivnímu plnění zdlouhavých či namáhavých procesů.

Mezi příklady úzké umělé inteligence patří třeba osobní asistenti (např. Siri, Cortana či Alexa), systémy pro rozpoznávání či generování obrazů (často označené jako Convolutional Neural Network nebo ConvNet – například Craiyon, DALL-E 2), autonomní vozidla (Tesla autopilot, Nissan ProPilot Assist, Mercedes-Benz Distronic Plus) nebo takzvaní chatboti (Chat GPT, WP-Chatbot).

Co však nejspíše většinou bude jádrem debaty, je druhý typ umělé inteligence, kterému se říká obecná umělá inteligence (anglicky artificial general intelligence). Žádná pravá obecná umělá inteligence v současné době sice neexistuje, ale vzhledem k současnému vývoji je dosti pravděpodobné, že v horizontu pár let či dekád bude takováto technologie dostupná. Obecná umělá inteligence je definována jako systém, který by byl schopen řešit dosti komplexní úlohy, navíc bez zásadní nutnosti předchozí zkušenosti. Zároveň se očekává, že by takový systém byl v řešení jednotlivých úloh stejně dobrý nebo lepší než samotní lidé. Právě v případě obecné umělé inteligence lze vidět, jak dobře může fungovat spojení velké výpočetní kapacity počítačů a flexibility lidského kreativního uvažování.

Jak by měla vypadat debata, jaké jsou její základy a břemena?

Debaty týkající se v podstatě jakéhokoliv vědeckého či jinak technického tématu se zásadně liší od klasických témat, která jsou na soutěžních debatách probírána.

Jako první je nutno podotknout, že budoucí vývoj umělé inteligence je nejistý a nikdo si zde nemůže nárokovat plnou pravdu. Spousta vědců se ani není schopna shodnout na tom, kam umělá inteligence směřuje v současnosti, natož pak v budoucnosti. Proto je vždy nutné myslet na to, že další vývoj umělé inteligence je v debatě velmi široký pojem. Pro debatéry to znamená, že by nejen měli ukazovat potenciální dopady dalšího vývoje, ale také alespoň zhruba charakterizovat, jak bude vývoj vypadat a proč bude právě takový. Na druhou stranu je zde důležité upozornit, že tímto bodem nechceme motivovat debatéry k vyvolávání definičních sporů. Věříme, že většina rozumných interpretací umělé inteligence je férová a debatovatelná.

Druhým zásadním bodem je, že spousta debat o umělé inteligenci skončí pouze u argumentů o robotizaci a automatizaci obecně. Ačkoliv obě tyto věci mohou být s vývojem umělé inteligence spojené a umělá inteligence je může urychlit, samotná umělá inteligence je o něčem jiném. Nejde pouze o „hloupého robota“, který přesouvá zabalené výrobky na přepravní pás. Jde o systém schopný určitého stupně autonomního uvažování a logické dedukce. Každý správně připravený tým by tedy měl být rozhodčímu schopen vysvětlit, proč jejich dopady jsou exkluzivní pro umělou inteligenci, nebo alespoň proč umělá inteligence samotná má na tyto dopady výrazný vliv. Vymýšlení tohoto logického kroku může sice zabrat nějaký čas, ale váš tým díky němu bude v debatě mnohem přesvědčivější.

Debata, kdy se oba týmy zaměří hlavně na specifické dopady umělé inteligence a zároveň si zachovají celkový nadhled nad problematikou, je něco, co by měl každý rozhodčí ocenit. Takováto debata totiž nejenže půjde mnohem více do hloubky a bude mít nejspíše více propracovanou analýzu, ale bude se také mnohem více vázat na tezi.

Když už jsme si ujasnili základy, tak jsou asi břemena obou stran debaty poměrně jasná. Ani jedné straně této debaty nestačí pouze poukázat na to, že výhody/nevýhody, které přináší druhá strana, jsou menší, než jak je soupeř prezentuje. Každá strana debaty by měla jasně vysvětlit, proč jejich dopady převažují (nebo při případném dalším vývoji převažovat budou) nad dopady strany druhé. Tento princip je sice dobré dodržovat v každé debatě, ale v debatách na tuto tezi je ještě zásadnější a může oběma týmům výrazně pomoci. Zároveň také každý rozhodčí by měl do debaty vstupovat s čistou myslí a při vážení jednotlivých dopadů hlavně vycházet z toho, co týmy v debatě samy analyzovaly a prezentovaly (neměl by si tedy analýzy týmů domýšlet na základě svých specifických znalostí o daném tématu).

Jak tedy vypadá budoucnost umělé inteligence?

Jak již bylo naznačeno, vývoj umělé inteligence je značně nejistý a s jistotou jej není schopen předpovědět nikdo. Pro představu zde však uvedu alespoň základní obrysy možného vývoje. Z většiny jde pouze o ideje přebrané od různých odborníků, kteří spolu často ne úplně souhlasí. Proto by níže vypsané body neměly sloužit jako absolutní pravdy, ale spíše jako motivace pro další čtení o tématu.

Jedním z hlavních rysů umělé inteligence je to, že s postupem času rapidně stoupá její schopnost efektivního vykonávání úkolů. Pokudy bychom tedy ve vývoji umělé inteligence pokračovali, dá se rozumně předpokládat, že by vývoj vedl k  zásadnímu zlepšení současné nízké umělé inteligence a potenciálnímu vytvoření spousty nových, které by mohly sloužit v oblastech, kde se dosud umělá inteligence nevyužívá. Zároveň se dá očekávat, že tento rychlý vývoj by vedl ke značnému přiblížení se systému, který by se dal alespoň částečně nazvat obecnou umělou inteligencí.

Dá se počítat s tím, že více vyvinuté systémy by byly schopné nahradit mnoho dnešních profesí, jelikož by je byly schopny vykonávat efektivněji a levněji než lidé. S postupem času je navíc větší pravděpodobnost, že se na trhu začne objevovat více umělé inteligence, což povede ke snížení její ceny, a tím pádem zvýšení dostupnosti.

Je tedy jasné, že ačkoliv potenciální přínosy umělé inteligence jsou velké, tak to nutně negarantuje její budoucí prospěšnost. Případné nedostatky umělé inteligence nejsou totiž jen apokalypsy a vyhlazení lidstva (jak si hodně lidí myslí), ale jsou z většiny mnohem více realistické.

Je tedy dobré riskovat tyto potenciální problémy? Jak moc dobra dokáže umělá inteligence udělat? Vyplatí se do takového nástroje investovat? Toto všechno jsou otázky, které by se měly v každé debatě alespoň do jisté míry probrat a řešit.

Zdroje v češtině

Zdroje v angličtině


Šimon Podhajský si připravil rozsáhlý webinář o umělé inteligenci:

Prezentace se zdroji