Gary Fred Marcus jako profesor kognitivní psychologie, neurovědy a umělé inteligence v rozhovoru se známým investorem Stevem Eismanem zmínil, že varování před hrozbou umělé inteligence jsou obvykle velmi vágní. K tomu poukázal na její současné limity včetně občasné neschopnosti držet se instrukcí (viz první část rozhovoru). Co ale tedy může motivovat některé lidi včetně šéfů jistých technologických společností k podobným varováním?
Marcus s Eismanem poukázali na to, že „jeden z těchto lidí hovořil o nebezpečí umělé inteligence a deset sekund poté se věnoval IPO své firmy“. Sam Altman jako šéf OpenAI zase podle profesora propaguje řadu věcí a byly doby, kdy se vyplatilo dávat najevo obavy z umělé inteligence. Pomáhalo to totiž pozitivnímu obrazu jeho firmy jako té, která si je vědoma rizik a bere na ně ohledy. Zkázopravci hovořící o velkém nebezpečí ze strany umělé inteligence pak podle experta fungovali jako marketingoví agenti pro tuto technologii. Poukazovali totiž na to, jaké schopnosti technologie může mít, což budilo zájem v investorech. Ti totiž slyšeli hlavně na tyto schopnosti.
„Pokud by tu nebyli AI zkázopravci, podle mě by Dario a Sam neměli přitup k takovému objemu financí,“ dodal Marcus s odkazem na Anthropic a OpenAI. On sám je podle svých slov „AI cynikem“, protože je skeptický k tomu, jaké schopnosti má a bude mít. Pak tu jsou podle něj naopak ti, kteří vše kolem AI nafukují, a právě mezi ně patří i zmínění zkázopravci. Tedy ti, kteří neustále varují před koncem světa způsobeným umělou inteligencí. I to ukazuje, že právě tito lidé vlastně podporují názory o obrovských možnostech a schopnostech umělé inteligence, které se pak zase projevují tím, kolik peněz a zdrojů směrem k ní proudí.
Poslední týdny ale v celém příběhu podle profesora přinesly určitý obrat. Mění se totiž postoje širší společnosti a politiků. „Říkají si, jestli by nakonec přece jen neměli něco udělat.“ Množí se totiž témata, jako jsou místními komunitami odmítaná datová centra a další, a politici si toho všímají. Extrémem jsou pak lidé jako Bernie Sanders, „který chce superinteligenci úplně zakázat.“ To jsou podle profesora přílišné extrémy. Nutné ale například je, aby společnosti, jejichž modely způsobí nějaké škody, nesly náklady s tím spojené. Proti tomu stojí názory, že rozvoj nelze podobnými způsoby brzdit, „protože pak by se Čína dostala před nás.“
Právě finanční zodpovědnost firem za to, co dělají jejich modely, by podle některých názorů měla být základem nového modelu fungování umělé inteligence. V něm by společnosti měly větší motivaci k tomu, aby se věnovaly rizikům. K rozvoji AI agentů pak profesor řekl, že jsou používány postupy, které významným způsobem narušují bezpečnost dat. Teoreticky by šlo tento rozvoj zastavit a počkat, až budou k dispozici nástroje, které je učiní spolehlivými i z hlediska bezpečnosti. „Trump by mohl podepsat výnos, podle kterého nikdo nemůže používat agenty, kteří vyžadují přístup do jiných systémů… Pokud by v OpenAI věděli, že mohou jít do vězení, problém by byl vyřešen.“
AI agenti tedy podle profesora v tuhle chvíli „nejsou bezpečným produktem“. K tomu dodal, že Meta se snaží „postavit Muse na lepší architektuře, doposud s ním nebyly problémy.“ To ale nic nemění na tom, že obecně tento nástroj není bezpečný a řešením by mohla být popsaná změna v zákoně. Eisman pak k obavám a předpovědím útoků umělé inteligence na lidstvo přidal svou „konspirační teorii“. Podle něj je možné, že šéfové firem, jako je OpenAI, mají obavy z konkurence. Jejich cílem tak může být vzbudit obavy z bezpečnosti a pak se podílet na vytvoření regulace, která bude efektivně brzdou pro jiné společnosti. Výsledkem tak bude duopol OpenAI plus Anthropic.