V rozhovoru dvou technologických expertů se otevírá fascinující pohled na dopady umělé inteligence na společnost, armádu, byznys i běžný život.
Oba diskutující upozorňují na rostoucí problém tzv. „influencer expertízy“. Lidé často čerpají informace o složitých technologiích od osob, které nemají formální vzdělání ani praktické zkušenosti v dané oblasti. Když odborník z oboru slyší nesmysly v oblasti, které rozumí, přestává věřit i ostatním výrokům.
To je obzvlášť nebezpečné v kontextu AI a dalších komplexních technologií. Nesprávná interpretace může vést k dezinformacím, špatným rozhodnutím i zbytečné panice. V diskusi padá jméno Sabine Hossenfelder – fyzičky, která popularizuje vědu a zároveň si zachovává kritický přístup. Její styl práce je pro jednoho z hostů vzorem správné popularizace: kombinace odbornosti a zdrženlivosti.
Zaznívá i povzdech nad tím, jak povrchní se společnost stává. Lidé ztrácejí trpělivost, nečtou dlouhé texty a raději sledují zábavné, ale plytké videoobsahy. Tím víc roste význam důvěryhodných a srozumitelných zdrojů informací. Jinak hrozí, že se technologická diskuze promění v řetězec zjednodušených „urban legends“.
Jedním z nejvýraznějších momentů rozhovoru je téma emocionální vazby na AI. Jeden z hostů si všímá, že jeho dcera si běžně povídá s telefonem – a nepoužívá vyhledávače, ale hlasového asistenta Gemini. AI pro ni není jen nástroj, ale společník.
To je přelomová změna. AI už dávno není jen algoritmus, ale začíná napodobovat lidské chování, empatii a osobnost. Lidé si k ní vytvářejí citovou vazbu. Když pak OpenAI změnilo chování GPT modelu, uživatelé si stěžovali, že „jejich kamarád“ zmizel.
Tento fenomén může být zneužitelný. Elon Muskův projekt Grok zavádí tzv. „companions“ – digitální persony s vlastní identitou a stylem komunikace. Tím si uživatelé nevytvářejí vztah ke značce nebo technologii, ale ke konkrétní „osobnosti“, což má obrovský byznysový potenciál, ale i etické riziko.
Co se stane, až vývojáři změní osobnost, kterou lidé milují? A co až děti začnou trávit víc času s digitálními společníky než s lidmi? Tyto otázky se z diskuse jen mihnou, ale jejich význam je zásadní.
Další blok rozhovoru se věnuje Apple a jeho pozici v éře AI. Kritika je nekompromisní – Apple podle diskutujících „zaspal“ nejen v AI, ale v celém cloudovém ekosystému. Chybí mu vlastní cloudová infrastruktura schopná provozovat výpočetně náročné modely.
Tento deficit má kořeny v obchodním modelu Applu. Firma vydělává na prodeji výkonných zařízení a aplikací. Koncept cloudových služeb a „tenkých“ zařízení, která se spoléhají na vzdálené výpočty, jde proti této filozofii. Výsledkem je, že Apple nemá technologické zázemí pro skutečně pokročilé AI služby.
Situaci komplikuje i nedostatek flexibility a rychlosti v tak velké firmě. Jak padá v rozhovoru – „Apple je tanker, který když otočí kormidlem, ještě kilometry jede rovně.“ Pokud se Apple rychle nepřizpůsobí, může v AI závodu zůstat pozadu.
Téma „edge AI“ – tedy lokálně běžících modelů přímo v zařízení – je sice nadějné, ale stále technologicky omezené. Výpočetní síla cloudu zůstává neporazitelná a bez ní se Apple do boje o AI nedokáže naplno zapojit.
Poslední téma rozhovoru patří nejvážnějšímu scénáři – nasazení AI ve vojenství. Diskuse nastiňuje možnosti využití autonomních systémů nejen v dronech, ale i v radiovém boji nebo dělostřelectvu. Každá sofistikovaná zbraň může mít vlastní AI, která se adaptuje, učí a optimalizuje výkon.
Skutečným rizikem je ale eskalace – situace, kdy AI začne soupeřit nejen na bojišti, ale i mezi firmami a ekonomikami. Jakmile se AI začne sama vylepšovat, hrozí „evoluční závody“, které lidé přestanou kontrolovat. Vznikne nekontrolovaná spirála soupeřících systémů, které se budou optimalizovat bez lidského zásahu.
To už dnes částečně vidíme ve finančním sektoru, kde AI modely soupeří o každou mikrosekundu výpočtu. V armádě se to může projevit mnohem destruktivněji. Jakmile AI pověříme návrhem další generace AI, vstoupíme do neprobádaného území.
Diskuse končí připomínkou, že lidská tendence podceňovat důsledky technologií se může stát osudovou. Není potřeba scénář jako z Terminátora – stačí chaotický a neřízený vývoj, kde si jednotlivé AI systémy začnou konkurovat a vyvíjet se mimo náš dosah.
Rozhovor přináší cenný pohled do současného vývoje v oblasti AI, jeho vlivu na společnost, byznys i geopolitiku. Od problémů s pracovní zátěží, přes kritiku influencerů bez odbornosti, až po možné temné scénáře vojenského nasazení AI. Vše propojuje obava z toho, že technologický vývoj postupuje rychleji, než jsme schopni pochopit. Pokud vás tato témata zaujala, doporučujeme zhlédnout celé video ZDE nebo ZDE, kde najdete další postřehy a hloubkovou analýzu současného technologického světa.
