Co vlastně znamená důvěra v době AI?

Nebyli jste na naší konferenci The Future is Personal? Tady jsou nejlepší momenty prvního panelu. Co vlastně znamená důvěra v době AI? Samozřejmě, že přepsané to nevyzní tak jako na obrovském pódiu Fóra Karlín, ale bylo by nám líto to nesdílet.

Panel vedla Kateřina Havrlant, hosty byli Maty Bohacek, student a dnes i výzkumník ze Stanfordu, a Jan Romportl, expert na umělou inteligenci.

Kateřina otevřela tezí Yuvala Noaha Harariho, že Homo Sapiens ovládl svět, když ovládl jazyk, a že AI dnes dělá to samé. Jsme jako v době knihtisku?

Maty Boháček připomněl, že zlomových období bylo víc, ale tohle je „zvratovější“. Jsme podle něj „v deltě“, v mezeře, kde se teprve rozhoduje, co bude. V San Francisku se už debatuje o post‑AI světě, ale v Česku se vedou žabomyší války.” A jeho skvělá citace, Koupili jsme Pendolino, ale koleje na něj nemáme. Stručně a jasně, infrastruktura našich institucí, našeho práva a obecně, nás lidí, za modely zaostává.

Honza Romportl se přiznal, že býval optimista, ale změnil názor. Důvěra je podle něj základní stavební blok lidské spolupráce. “Jsme hypersociální druh a nejlepší kooperátoři, protože si umíme důvěřovat. Během posledních pěti let ale vstoupil do hry ‚démon jazyka‘, model, který umí přesvědčovat a vyjednávat, ale nemá tělo, z něhož jsme důvěru vždy čerpali. Největší hack důvěry, jaký mohl nastat.”

Maty Boháček varoval, že vztahy s AI nejsou jen téma mladých lidí, nejvíc ohroženi jsou podle něj osamělí lidé všech věků, včetně seniorů. “Když nevíme, zda s námi mluví člověk nebo stroj, podrývá to schopnost navazovat vztahy, a následně společenskou důvěru. A bez ní nefunguje demokracie.”

O budoucnosti AI podle Matyho rozhoduje úzká skupina lidí v Silicon Valley bez odpovědnosti a transparentnosti. Firmy píší svým modelům „Ústavy“, ale občan nerozumí tomu, jak se aplikují. Chybí kontrola plnění. A navíc chybí u toho ženy! Právní rámce na dnešní svět opravdu nestačí.

Co s tím? Honza Romportl navrhl, podobně jako později profesor Harari, pauzu ve výzkumu dalších schopností AI a soustředění na horizontální aplikaci toho, co už máme. Nestavět rychlejší motor bez brzd a volantu. Firmám a státní správě radí odstup a péči o člověka. Právníci nezmizí, budou potřeba jako průvodci lidí. Honza má trochu obavu, že zbabělí úředníci a kafkovská mašinérie zlikvidují pokrok dřív než rizika. Budoucnost vidí ve zkratce: budoucí svět bez rakoviny a Alzheimera, nebo může klidně přijít i Black Mirror.

Na závěr Maty odmítl fatalismus typu „AI přijde a všechno nám vezme“. Je to podle něj falešná volba. My rozhodujeme, co jí dovolíme a kam ji pustíme. Jeho rada, Nebojte se a buďte blízko lidem kolem sebe. Kateřina uzavřela panel větou „The future is personal“, která dala konferenci název.

Komentáře

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *