Nástroje umělé inteligence nyní dokáží vytvářet realistický text, obrázky a videa, a to s minimálními náklady. Na Stránkách VoxEu na to poukazuje Filipe Campante a jeho kolegové s tím, že takový vývoj vyvolává obavy ze šíření vykonstruovaného obsahu. Jaké by to mohlo mít důsledky?
Campante a jeho tým poukazují na to, že falešné nebo zavádějící zprávy mohou zkreslovat politickou debatu, polarizovat společnost a oslabovat demokratické instituce. Problém není přitom pouze v tom, že lidé jsou vystaveni nepřesným tvrzením, ale „je narušena samotná myšlenka sdílené pravdy, což vede k nedůvěře jednotlivců ke všem informačním zdrojům.“ Nástroje jako ChatGPT, Midjourney a Sora přitom nyní dokáží vytvářet vysoce realistický text, obrázky a videa, a to s minimálními náklady.
Podle některých úvah by se v extrémním případě šíření nepravdivých informací „mohli lidé vzdát snahy rozlišovat fakta od fikce. Hlavní zpravodajské servery, které jsou již tak pod tlakem klesajících příjmů, proto čelí riziku ztrátu důvěry i poptávky svého publika.“ Podle Campante ale může nastat i jiný scénář, kdy si lidé budou naopak více cenit média s pověstí důvěryhodnosti. „Abychom tuto otázku objasnili, spojili jsme se se Süddeutsche Zeitung (SZ), jedním z nejuznávanějších německých zpravodajských serverů, a provedli experiment se skutečnými čtenáři.“
Zmíněného pokusu se zúčastnily tisíce čtenářů SZ, kteří byli náhodně rozděleni do dvou skupin. Členové první experimentální skupiny byli pozváni k vyplnění krátkého kvízu, v němž měli rozlišovat mezi skutečnými obrázky a obrázky generovanými umělou inteligencí. Kontrolní skupině byly ukázány podobné, ale autentické obrázky a byly jí položeny jiné otázky týkající se nabízeného obsahu. Následně byly zkoumány „postoje jako například obavy z dezinformací a důvěra v předkládané zprávy. K tomu byly sledovány i behaviorální rysy, jako například to, kolikrát účastníci experimentu navštívili digitální platformy SZ v týdnech před kvízem a po něm.“
Autoři experimentu pak uvádějí následující: „Kvíz o umělé inteligenci jasně ukázal obtížnost rozlišování mezi skutečnými obrázky a obrázky generovanými umělou inteligencí. Čtenáři, kteří se kvízu zúčastnili, pak uváděli vyšší míru obav ohledně spolehlivosti online informací a také sníženou důvěru v obsah různých médií a platforem.“ K tomu pak na základě chování účastníků experimentu jeho autoři dodávají:
„Zjištění, která jsou v souladu s jednoduchým teoretickým modelem, naznačují, že když se hrozba dezinformací stane závažnou, hodnota důvěryhodných zpráv se zvyšuje. Možnost existence lží generovaných umělou inteligencí neodradila čtenáře od zpravodajského obsahu. Místo toho posílila jejich závislost na důvěryhodném zdroji, který by mohl pomoci zmírnit dopady rozsáhlého poklesu kvality informačního prostředí.“
Závěr je tedy takový, že „pokud si zpravodajské servery dokážou vybudovat a udržet důvěru svých čtenářů, nárůst obsahu generovaného umělou inteligencí se nestává hrozbou, ale příležitostí. Lidé mohou být ochotnější platit za spolehlivou a důvěryhodnou žurnalistiku. Otevřenou otázkou, která je předmětem budoucího výzkumu, je, jak mohou zpravodajské organizace tuto důvěru nejlépe vybudovat a udržet v prostředí, kde jsou dezinformace stále sofistikovanější a všudypřítomnější.“
Jinak řečeno, „šíření dezinformací generovaných umělou inteligencí nemusí nutně vést k celkovému kolapsu důvěry v informace. Když se šíří dezinformace, může růst hodnota důvěryhodnosti. Její udržení ale není ani zdaleka snadné. Média nemohou stát na místě, ale musí neustále investovat do toho, aby čtenářům pomohla rozlišovat fakta od výmyslů a držet krok s rychlým vývojem umělé inteligence.“
Zdroj: VoxEU