Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Project Syndicate: Lži, hnusné lži a umělá inteligence

Project Syndicate: Lži, hnusné lži a umělá inteligence

15.12.2018 15:23

Algoritmy jsou ovlivněné stejně tak jako data, na nichž stojí. A ovlivněná jsou veškerá data. Ani u „oficiálních“ statistik nelze předpokládat, že přestavují objektivní, věčná „fakta“. Čísla, jež vlády publikují, zachycují společnost, jaká je teď, optikou toho, co považují za podstatné a důležité ti, kdo tyto údaje sestavují. Kategorie a klasifikace používané k orientaci v datech nejsou neutrální. Stejně tak jako měříme, co vidíme, máme také sklon vidět jen to, co měříme.

Jak se algoritmické rozhodování rozšiřuje do širší škály tvorby politik, vrhá nelítostné světlo na společenské předsudky, které bývaly skryté ve stínu shromažďovaných údajů. Napínáním stávajících struktur a procesů do logických extrémů nás umělá inteligence (UI) nutí postavit se čelem tomu, jakou společnost jsme vytvořili.

Problém není jen v tom, že počítače jsou uzpůsobené tak, aby uvažovaly jako korporace, jak tvrdí můj kolega z Cambridgeské univerzity Jonnie Penn. Ale i v tom, že počítače přemýšlejí jako ekonomové. Vždyť UI je nepochybnou verzí homo economicus, jakou si lze jen představit. Jedná se o racionálně kalkulujícího, logicky konzistentního a na výsledek orientovaného činitele, schopného s omezenými výpočetními zdroji dosahovat požadovaných výsledků. Co se týče „maximalizace užitku“, je mnohem efektivnější než kdokoli z lidí.

„Užitek“ je pro ekonomii tím, čím pro chemii kdysi býval „flogiston“. První chemici měli hypotézu, že hořlavé látky obsahují skrytý prvek – flogiston – vysvětlující, proč látky při hoření mění podobu. Jenže ať se vědci snažili sebevíc, potvrdit tuto hypotézu se jim nikdy nepodařilo. Vystopovat flogiston nedokázali z téhož důvodu, z jakého dnes ekonomové neodkážou přijít s mírou skutečného užitku.

Ekonomové koncepci užitku využívají, aby vysvětlili, co lidi vede k jejich rozhodnutím – co koupit, kam investovat, jak moc pracovat: každý se snaží maximalizovat užitek v souladu se svými preferencemi a přesvědčeními a v mantinelech tvořených omezenými příjmy či zdroji. Užitek, ač neexistuje, je vlivná koncepce. Zdá se naprosto přirozené předpokládat, že se každý snaží dělat to nejlepší pro sebe.

Pojem užitku užívaný ekonomy se navíc zrodil z klasického utilitarismu, jehož cílem je zajistit co nejvíc blaha pro co nejvíc lidí. Většina z těch, kdo koncipují algoritmy, jsou, stejně jako moderní ekonomové kráčející ve stopách Johna Stuarta Milla, utilitaristé, přesvědčení, že pokud je „dobro“ známé, lze jej maximalizovat.

Tento předpoklad ale může přinášet znepokojující důsledky. Vezměme si kupříkladu, jak se algoritmy využívají k rozhodování, jestli si vězni zaslouží podmínečné propuštění. Důležitá studie z roku 2017 zjistila, že algoritmy dokážou daleko lépe než člověk předpovědět recidivu a lze je využít ke snížení „míry uvěznění“ o víc než 40 % „bez nárůstu kriminality“. Ve Spojených státech by pak bylo možné snížit počet vězněných, mezi nimiž jsou neúměrně zastoupeni černoši. Co se ale stane, pokud podmínečné propouštění vězňů převezme UI a Afroameričané budou dál vězněni častěji než běloši?

Vysoce efektivní algoritmické rozhodování přináší takové otázky do popředí a nutí nás rozhodnout se přesně, jaké výsledky se mají maximalizovat. Chceme pouze snížit celkový počet vězňů, nebo se máme zabývat i spravedlností? Zatímco politika umožňuje mlžení a kompromisy, jimiž se toto balancování maskuje, počítačový kód vyžaduje jasnost.

Vzhledem k tomuto požadavku jasnosti je těžší ignorovat strukturální prameny společenských nerovností. Ve věku UI nás algoritmy přinutí uvědomit si, jak se prostřednictvím způsobu využívání dat do současnosti přenášejí důsledky minulých společenských a politických střetů.

Díky skupinám jako AI Ethics Initiative a Partnership on AI se začala objevovat širší diskuse o etice UI. Algoritmy UI ale samozřejmě dělají jen to, k čemu jsou naprogramovány. Jádro otázky přesahuje využívání algoritmického rozhodování ve firemní a politické správě a otřásá samotnými etickými základy naší společnosti.

Rozhodně sice musíme vést debatu o praktických a filozofických kompromisech maximalizace „užitku“ pomocí UI, ale musíme se také věnovat sebereflexi. Algoritmy nadnášejí zásadní otázky ohledně toho, jak jsme do současnosti organizovali společenské, politické a hospodářské vztahy. Teď se musíme rozhodnout, jestli opravdu chceme současná společenská uspořádání vetknout do rozhodovacích struktur budoucnosti. Vzhledem k politickému štěpení, k němuž nyní dochází po celém světě, se zdá, že nadešel vhodný okamžik napsat nový scénář.

Autorka: Diane Coyle je profesorka veřejné politiky na Cambridgeské univerzitě.

Copyright: Project Syndicate, 2018.
www.project-syndicate.org


 

Čtěte více:

V hlavní roli sociální média. Jak rozhodují o tom, co je správné a co už ne
10.09.2018 13:46
V centrále Facebooku každé druhé úterý a v YouTube každý pátek se schá...
Obraz byl vydražen za čtyřicetinásobek vyvolávací ceny. Namalovala ho umělá inteligence
26.10.2018 15:08
Edmond de Belamy není žádné obyčejné umělecké dílo. Nejenže byl tento ...
Jak vychovat své obyvatelstvo: Level Čína
08.12.2018 16:02
Čína má radikální plán jak ovlivnit chování svých 1,3 miliard obyvatel...

Váš názor
  •  
    16.12.2018 23:28

    Ekonomika je taková mašinérie sama pro sebe. Spousta právě teď aktuálních dat, ale celkový komplexní obraz do budoucnosti chybí. Ten si musí člověk udělat sám. Když na to má, může z toho získat výhodu. Takový HDP třeba nic nevypovídá o té které zemi, jde pouze o průtok peněz z daní do státního rozpočtu. Ale je to No 1. Kdyby tady nebylo tolik automobilek (vč. všech dílčích dodavatelů), které nám za pár let ještě zhorší krizi, která bude i tak dost hluboká a vleklá, dalo by se říct, že na tom nejsme tak špatně. Pomohl by ostřejší kurs EU proti daňovým rájům (ono to v té krizi tak jako tak přijde). Vlastní vodu bychom měli také vykoupit, ta privatizace byla kardinální tupost. Musíme prostě dělat kroky k tomu, abychom nebyli v těžké krizi tolik vysáváni. Čím více nových realizovaných nápadů načich lidí a našich firem, tím lépe. Stát by měl žádoucí rychlý životaschopný rozvoj podporovat. Ne zůstat na malovýrobě a nechat se předskočit, nebo nechat si know-how ukrást Číňany či jinými vykuky. Naši lidé dokáží být schopní, ale musí se jim nechat prostor, ne aby z toho našeho Kocourkova odcházeli ven a tam se jako úspěšní usazovali trvale. Vše nemusí být černé, ale to temné lidské ego na všech úrovních (asi dědictví totality) nám neustále kalí pohled na tuto zemi.
    James Bond
Aktuální komentáře
27.05.2025
18:00Proč internetové nadšení zvedalo evropské akcie a AI tak nečiní?
17:29Tvrdá bitva technologických gigantů o každý zlomek pozornosti
17:20Spotřebitelská důvěra v USA se v květnu poprvé za šest měsíců zvýšila
17:19Akcie pokračují v rally  
15:32ČNBlog: Jak dopadne vlna refixací a refinancování hypoték na české domácnosti?
15:04e15: Pilulka chystá prodej většiny svých kamenných lékáren řetězci Dr. Max
13:49EDU II podala soudu návrh na zrušení předběžného opatření k Dukovanům
13:42Nvidia ve středu reportuje čísla za první kvartál. Co od výsledků očekávat?
13:41Tchaj-wanský výrobce čipů TSMC letos otevře pobočku v německém Mnichově
13:15Footshop a.s.: Pozvánka na řádnou valnou hromadu
12:12Evropská unie schválila změny emisních norem, automobilky získají více času
11:45WOOD & Company: Zpráva pro investory za 1Q 2025 - Realitní podfondy
11:44Analytický radar: Colt CZ podle Jakuba Blahy spojuje růstový potenciál i dividendový výnos
11:14Japonské dluhopisy se zvedají a pomáhají zlepšit náladu i na západních trzích  
11:10Důvěra spotřebitelů v německou ekonomiku se mírně zlepšila, uvedly instituty
11:01RMS Mezzanine, a.s.: Oznámení o rozhodovaní VH společnosti písemnou formou mimo zasedání
10:54Za růstem prodejů aut v EU stojí hybridy a elektromobily, Tesla se však propadá
9:13Rozbřesk: Maďarská MNB podrží úrokové sazby na vysokých 6,50 %
8:37EU a USA pokračují v obchodních jednáních, Thyssenkrupp se restrukturalizuje a futures jsou v zeleném  
6:41FX Strategie: ECB sníží sazby a svojí rétorikou bude zisky eurodolaru raději brzdit  

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
ČasUdálost
14:00HU - Jednání MNB, základní sazba
14:30USA - Objednávky zboží dlouh. spotřeby, m/m
16:00USA - Index spotř. důvěry Conference Board