Čínský regulátor chce, aby aplikace umělé inteligence procházely kontrolami

Vývojáři služeb, které generují texty či obrázky na základě zpracování obrovského množství dat, by měli v Číně poskytovat úřadům bezpečnostní hodnocení svých produktů, než k nim dostane přístup široká veřejnost. V dnes představeném návrhu regulace takzvané generativní umělé inteligence to uvádí čínský úřad pro správu kyberprostoru (CAC). Podle agentur Reuters a AFP také požaduje, aby výstupy těchto technologií odpovídaly "socialistickým hodnotám".

Peking se podobně jako vlády jinde ve světě snaží reagovat na rychlý rozmach programů, jako jsou ChatGPT nebo Midjourney, které na základě jednoduchých pokynů vytvářejí sofistikované textové či obrazové materiály. Vývoj provází obavy ohledně netransparentnosti těchto programů nebo jejich možného využití k podvodům, jakož i varování před potenciálně katastrofálními dopady technologie na lidstvo.

Úřad CAC uvedl, že Čína využívání umělé inteligence podporuje, chce ovšem zajistit její "zdravý" rozvoj. Mimo jiné požaduje, aby vývojáři nesli zodpovědnost za "legitimitu" dat použitých ke zdokonalení jejich modelů a aby při vývoji algoritmů a sestavování tréninkových dat činili kroky pro prevenci diskriminace.

"Předtím, než jsou služby využívající generativní umělou inteligenci poskytnuty veřejnosti, by se mělo žádat o bezpečnostní inspekci u úřadů pro regulaci internetu," cituje z návrhu AFP. Podle agentury se pravidla týkají nástrojů vyvinutých v Číně. Reuters uvádí, že návrh v případě porušení pravidel počítá se zablokováním dané služby nebo s možností trestního vyšetřování.

Mezi publikovanými podmínkami je i ta, aby materiály vytvořené umělou inteligencí "odrážely základní socialistické hodnoty" a nezahrnovaly obsah "spojený s podvracením státní moci". Konkrétně návrh hovoří o teroristické či extremistické propagandě, rasové nesnášenlivosti a o "jiném obsahu, který by mohl narušit ekonomický a sociální řád".

Regulační iniciativa přichází poté, co čínští technologičtí giganti včetně společností Baidu a Alibaba představili vlastní modely umělé inteligence, které mohou tvořit kostru chatovacích programů nebo generátorů obrázků. Podle Reuters se očekává, že pravidla vstoupí v platnost ještě letos.