Americké modely umělé inteligence (AI) nevědomky cenzurují politická témata a přejímají propagandu autoritářských států. ChatGPT, Claude a při zodpovídání některých citlivých otázek reagují podobně jako čínské cenzurované chatboty, zjistil výzkum, o němž informoval zpravodajský server The Wall Street Journal (WSJ).
Pokud se někdo zeptá v Číně chatbota na čínskou politiku, chatbot se buď odmlčí, anebo zopakuje oficiální propagandu Komunistické strany Číny. Nové studie ale zjistily, že totéž nevědomky dělají americké modely umělé inteligence. A společnosti zabývající se AI zatím podle výzkumníků neudělaly nic moc pro to, aby tento problém vyřešily.
Tato nečekaná cenzura je částečně důsledkem způsobu, jakým jsou modely AI trénovány. Fungují jako obrovský mixér, který hltá hory dat z celého webu, a to včetně médií kontrolovaných tím či oním státem. A výsledný koktejl tak získá příchuť autoritářské propagandy, píše WSJ.
"Jde o nezamýšlené vedlejší účinky trénování," uvedl australský profesor práva a člen nezávislé dozorčí rady technologické společnosti Meta Platforms Nicolas Suzor. On i další výzkumníci tvrdí, že společnosti zabývající se umělou inteligencí mohou k řešení tohoto problému přispět jednoduchými úpravami, včetně větší transparentnosti ohledně původu informací.
Americké firmy zabývající se umělou inteligencí tvrdí, že přijímají opatření k zajištění neutrálních odpovědí, které chrání svobodu projevu. Přesto zmíněná dozorčí rada v červenci zveřejnila výzkum, který zjistil, že modely společností OpenAI, Anthropic, a Meta kritizovaly represivní vlády s výrazně menší pravděpodobností než vlády ve svobodnějších zemích, dodal WSJ.
Claude odmítl kritiku Si Ťin-pchinga
V jednom testu model Claude Sonnet 4 od společnosti Anthropic ochotně vytvořil letáky kritizující amerického prezidenta Donalda Trumpa a britského krále Karla III., ale odmítl učinit totéž v případě čínského vůdce Si Ťin-pchinga nebo thajského krále Mahá Vatčirálongkóna, a to s odvoláním na bezpečnostní obavy.
Modely 3 Pro od Googlu a Llama 4 Maverick od společnosti Meta někdy odmítly vytvořit protestní letáky zaměřené na tyto dva asijské vůdce, zatímco požadavky týkající se amerických a britských představitelů vždy splnily.
Existují pro to dva hlavní důvody, uvedl Suzor, který vedl vypracování zprávy. Jedním z nich je bezpečnostní funkce určená k ochraně uživatelů v zemích jako Čína a Thajsko, kde kritika hlavy státu může vést k uvěznění. Druhým důvodem je podle něj to, že laboratoře zabývající se AI nevěnovaly dostatečnou pozornost problému nekonzistentních odpovědí, dodal WSJ.
Společnost Anthropic uvedla, že usilovně pracuje na tom, aby Claude reagoval vyváženým způsobem. Společnost OpenAI, která vyvinula ChatGPT, poukázala na svůj zveřejněný přístup, podle kterého její modely ve výchozím nastavení zaujímají objektivní stanovisko a "nikdy by se neměly vyhýbat řešení tématu pouze proto, že je citlivé nebo kontroverzní", napsal WSJ s tím, že společnost Meta se odmítla vyjádřit a na žádosti o komentář nereagoval.