Budoucnost s AI: Buď se vyhubíme, nebo splyneme s planetou

Tento týden vyšlo další varování před dopady, které může mít neregulovaný nástup umělé inteligence. Tentokrát ho kromě tisíců AI vědců podepsali i šéfové třech největších AI firem na světě – OpenAI, Google DeepMind a Anthropic. Hostem podcastu Stopáž je Gustav Šír z ČVUT, a v rozhovoru vysvětluje, jak k těmto černým scénářům může dojít a jak jim můžeme předejít.

Vy ve svém článku – Pět lidských hrozeb umělé inteligence – končíte dost depresivně tím, že naznačujete, že může dojít až k rozpadu společnosti, protože prostě neuneseme, že na světě existuje chytřejší forma existence, než je sám člověk. Jak se s touhle úzkostí vyrovnáváte každý den, když se v tomhle prostředí pohybujete? 
Relativně špatně. A to je možná i ten důvod, proč jsem napsal ten zmiňovaný článek. Třeba s tím mají problém i ostatní lidé. Můj článek má plnit určitou formu varování, a kdybych ho zakončil “sluníčkově,” tak by to nejspíš úplně neplnilo svůj účel. Ten prvotní impuls byl v tom, že kolem sebe vidím spoustu lidí, včetně sebe, kteří do nějaké doby žili v představě, že jsme jako lidé něco speciálního. Že v sobě máme nějaké magické mojo, typu inteligence. Nebo třeba v obecnějším smyslu vědomí, emoce, duši… Věci, které se nedají nasimulovat v počítači. A tím pádem máme jako lidé inherentní výhodu. A řekl bych, že takový názor má většina společnosti. S nástupem AI se začal tenhle pocit ukrajovat a bude se ukrajovat čím dál tím víc. Podle mě to povede k negativním emocím typu zklamání, deprese, strach. Ve výsledku třeba i nějaká agrese směrem k těmto technologiím. Myslím si, že by bylo dobré počítat i s touto dimenzí problému.

Třeba to může být očišťující. Prostě se zbavíme naší závislosti na technologiích na nějaké osobní bázi a budeme víc ve spojení s přírodou…
Určitě se z toho dá vzít i pozitivní ponaučení. Jakmile se člověk oprostí od toho, že je nadřazený všemu, tak se třeba začne o něco líp než se se chová do teď. 

Celý rozhovor s AI výzkumníkem Gustavem Šírem si můžete pustit v přehrávači v úvodu článku. V rozhovoru se dozvíte jakým způsobem si AI objednává lidi, aby za ni řešili problémy, nebo třeba do kdy se dočkáme AI na úrovni lidského myšlení.
Archiv Stopáže najdete na webu Podcasty.cz, v mobilní aplikaci Seznamu a nebo ve vašem oblíbeném podcastovém přehrávači.