Gary Fred Marcus se věnuje výzkumu kognitivní psychologie, neurovědy a umělé inteligence. Působí na New York University a po čase byl hostem známého investora Steva Eismana. Na začátku rozhovoru hovořil o tom, že společnosti věnující se umělé inteligenci vkládají naděje zejména do AI agentů, protože ti představují kanál, jak nabízet více služeb umělé inteligence konečným uživatelům. Na druhou stranu se ale tématem stává hackování prováděné těmito agenty. Média toto téma uchopila ve stylu „AI nás všechny zničí“, což ale podle experta není ten nejlepší způsob, jak se na věc dívat.
Marcus připomněl, že „panika“ ohledně negativních dopadů a hrozeb ze strany umělé inteligence se už v posledních letech objevila několikrát. V USA se do ní dají započítat i obavy z toho, že Čína bude schopná rychlejšího rozvoje této technologie. K tomu dodal, že podle řady indicií se nemalá část lidí pracujících v AI laboratořích na jejím rozvoji domnívá, že existuje asi 10% pravděpodobnost, že tato technologie se může otočit proti lidstvu. Pak je ale podle profesora otázkou, proč na ní tedy tito lidé dál pracují. „Jak tedy vlastně přemýšlíte?“ položil směrem k nim dotaz.
Eisman k tomu dodal, že podobní lidé „četli příliš mnoho sci-fi literatury“, s čímž Marcus souhlasil. Poukázal na to, že někteří autoři hovořili v minulosti o věcech, ke kterým skutečně došlo. Třeba Orwell o totalitě, Clark o satelitech. Jestliže někdo tvrdí, že AI zaútočí na lidstvo, je podle profesora nutné se ptát, jak by k tomu mělo konkrétně dojít. Odpovědi podle jeho slov jdou většinou v duchu nějakých velmi obecných přirovnání. Hovoří se i o „válce s umělou inteligencí“, ale opět jde o obecné a povrchní úvahy a představy.
Podle Marcuse velké jazykové modely budí dojem, že jsou schopny řešit a dělat vše, ale není tomu tak. Inteligence má mnoho forem a současné modely například nejsou moc dobré v tom, když je nutné něco fyzicky zkoušet a hledat řešení. Jde například o situace, kdy se robot nachází v nějaké místnosti a musí najít cestu ven. Musí tedy řešit fyzikální problémy, zkoušet, přehodnocovat. Modely jsou zejména špatné v oblasti „vizuální kognice“. Pokud přitom někdo hovoří o tom, že AI způsobí zánik lidstva do roku 2030, je hodně relevantní to, jaké má schopnosti už nyní a jaké bude mít příští rok. Podle experta přitom ona sama není schopná se soustavně řídit instrukcemi. „Někdy to udělá, ale ne spolehlivě.“
Marcus tedy nesouhlasí s těmi, kteří vnímají AI jako významnou hrozbu. Jedním z hlavních důvodů je právě to, že její schopnosti jsou „nepredikovatelné“. Někdy přijde s „brilantním výsledkem, jindy není schopná spočítat, kolikrát se vyskytuje písmeno e ve slově sedmnáct.“ Podle profesora lze říct umělé inteligenci, aby přestala halucinovat, tedy vymýšlet si věci, které nemá podložené fakty a daty. Jenže současné modely na to nereagují a „stále si vymýšlí“. To je mimo jiné další ukázka toho, že nedovedou sledovat instrukce.
Profesor uvedl i příklad, kdy si umělá inteligence přes výslovný zákaz přisvojila výsledky práce vědců. „Pak se jimi ještě chlubila, takže je otázka, jak chytrá vlastně je.“ Na druhou stranu to ale ukazuje, že umělou inteligenci je třeba rozvinout tak, aby skutečně dovedla poslouchat a dodržovat instrukce. V této souvislosti oba zmínili tři zákony robotiky, které představil spisovatel Isaac Asimov v roce 1942. První zákon hovoří o tom, že robot nesmí ublížit člověku, ani svou nečinností dopustit, aby člověk utrpěl újmu.
Pokračování ve druhé části rozhovoru.