Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Project Syndicate: Lži, hnusné lži a umělá inteligence

Project Syndicate: Lži, hnusné lži a umělá inteligence

15.12.2018 15:23

Algoritmy jsou ovlivněné stejně tak jako data, na nichž stojí. A ovlivněná jsou veškerá data. Ani u „oficiálních“ statistik nelze předpokládat, že přestavují objektivní, věčná „fakta“. Čísla, jež vlády publikují, zachycují společnost, jaká je teď, optikou toho, co považují za podstatné a důležité ti, kdo tyto údaje sestavují. Kategorie a klasifikace používané k orientaci v datech nejsou neutrální. Stejně tak jako měříme, co vidíme, máme také sklon vidět jen to, co měříme.

Jak se algoritmické rozhodování rozšiřuje do širší škály tvorby politik, vrhá nelítostné světlo na společenské předsudky, které bývaly skryté ve stínu shromažďovaných údajů. Napínáním stávajících struktur a procesů do logických extrémů nás umělá inteligence (UI) nutí postavit se čelem tomu, jakou společnost jsme vytvořili.

Problém není jen v tom, že počítače jsou uzpůsobené tak, aby uvažovaly jako korporace, jak tvrdí můj kolega z Cambridgeské univerzity Jonnie Penn. Ale i v tom, že počítače přemýšlejí jako ekonomové. Vždyť UI je nepochybnou verzí homo economicus, jakou si lze jen představit. Jedná se o racionálně kalkulujícího, logicky konzistentního a na výsledek orientovaného činitele, schopného s omezenými výpočetními zdroji dosahovat požadovaných výsledků. Co se týče „maximalizace užitku“, je mnohem efektivnější než kdokoli z lidí.

„Užitek“ je pro ekonomii tím, čím pro chemii kdysi býval „flogiston“. První chemici měli hypotézu, že hořlavé látky obsahují skrytý prvek – flogiston – vysvětlující, proč látky při hoření mění podobu. Jenže ať se vědci snažili sebevíc, potvrdit tuto hypotézu se jim nikdy nepodařilo. Vystopovat flogiston nedokázali z téhož důvodu, z jakého dnes ekonomové neodkážou přijít s mírou skutečného užitku.

Ekonomové koncepci užitku využívají, aby vysvětlili, co lidi vede k jejich rozhodnutím – co koupit, kam investovat, jak moc pracovat: každý se snaží maximalizovat užitek v souladu se svými preferencemi a přesvědčeními a v mantinelech tvořených omezenými příjmy či zdroji. Užitek, ač neexistuje, je vlivná koncepce. Zdá se naprosto přirozené předpokládat, že se každý snaží dělat to nejlepší pro sebe.

Pojem užitku užívaný ekonomy se navíc zrodil z klasického utilitarismu, jehož cílem je zajistit co nejvíc blaha pro co nejvíc lidí. Většina z těch, kdo koncipují algoritmy, jsou, stejně jako moderní ekonomové kráčející ve stopách Johna Stuarta Milla, utilitaristé, přesvědčení, že pokud je „dobro“ známé, lze jej maximalizovat.

Tento předpoklad ale může přinášet znepokojující důsledky. Vezměme si kupříkladu, jak se algoritmy využívají k rozhodování, jestli si vězni zaslouží podmínečné propuštění. Důležitá studie z roku 2017 zjistila, že algoritmy dokážou daleko lépe než člověk předpovědět recidivu a lze je využít ke snížení „míry uvěznění“ o víc než 40 % „bez nárůstu kriminality“. Ve Spojených státech by pak bylo možné snížit počet vězněných, mezi nimiž jsou neúměrně zastoupeni černoši. Co se ale stane, pokud podmínečné propouštění vězňů převezme UI a Afroameričané budou dál vězněni častěji než běloši?

Vysoce efektivní algoritmické rozhodování přináší takové otázky do popředí a nutí nás rozhodnout se přesně, jaké výsledky se mají maximalizovat. Chceme pouze snížit celkový počet vězňů, nebo se máme zabývat i spravedlností? Zatímco politika umožňuje mlžení a kompromisy, jimiž se toto balancování maskuje, počítačový kód vyžaduje jasnost.

Vzhledem k tomuto požadavku jasnosti je těžší ignorovat strukturální prameny společenských nerovností. Ve věku UI nás algoritmy přinutí uvědomit si, jak se prostřednictvím způsobu využívání dat do současnosti přenášejí důsledky minulých společenských a politických střetů.

Díky skupinám jako AI Ethics Initiative a Partnership on AI se začala objevovat širší diskuse o etice UI. Algoritmy UI ale samozřejmě dělají jen to, k čemu jsou naprogramovány. Jádro otázky přesahuje využívání algoritmického rozhodování ve firemní a politické správě a otřásá samotnými etickými základy naší společnosti.

Rozhodně sice musíme vést debatu o praktických a filozofických kompromisech maximalizace „užitku“ pomocí UI, ale musíme se také věnovat sebereflexi. Algoritmy nadnášejí zásadní otázky ohledně toho, jak jsme do současnosti organizovali společenské, politické a hospodářské vztahy. Teď se musíme rozhodnout, jestli opravdu chceme současná společenská uspořádání vetknout do rozhodovacích struktur budoucnosti. Vzhledem k politickému štěpení, k němuž nyní dochází po celém světě, se zdá, že nadešel vhodný okamžik napsat nový scénář.

Autorka: Diane Coyle je profesorka veřejné politiky na Cambridgeské univerzitě.

Copyright: Project Syndicate, 2018.
www.project-syndicate.org


 

Čtěte více:

V hlavní roli sociální média. Jak rozhodují o tom, co je správné a co už ne
10.09.2018 13:46
V centrále Facebooku každé druhé úterý a v YouTube každý pátek se schá...
Obraz byl vydražen za čtyřicetinásobek vyvolávací ceny. Namalovala ho umělá inteligence
26.10.2018 15:08
Edmond de Belamy není žádné obyčejné umělecké dílo. Nejenže byl tento ...
Jak vychovat své obyvatelstvo: Level Čína
08.12.2018 16:02
Čína má radikální plán jak ovlivnit chování svých 1,3 miliard obyvatel...

Váš názor
  •  
    16.12.2018 23:28

    Ekonomika je taková mašinérie sama pro sebe. Spousta právě teď aktuálních dat, ale celkový komplexní obraz do budoucnosti chybí. Ten si musí člověk udělat sám. Když na to má, může z toho získat výhodu. Takový HDP třeba nic nevypovídá o té které zemi, jde pouze o průtok peněz z daní do státního rozpočtu. Ale je to No 1. Kdyby tady nebylo tolik automobilek (vč. všech dílčích dodavatelů), které nám za pár let ještě zhorší krizi, která bude i tak dost hluboká a vleklá, dalo by se říct, že na tom nejsme tak špatně. Pomohl by ostřejší kurs EU proti daňovým rájům (ono to v té krizi tak jako tak přijde). Vlastní vodu bychom měli také vykoupit, ta privatizace byla kardinální tupost. Musíme prostě dělat kroky k tomu, abychom nebyli v těžké krizi tolik vysáváni. Čím více nových realizovaných nápadů načich lidí a našich firem, tím lépe. Stát by měl žádoucí rychlý životaschopný rozvoj podporovat. Ne zůstat na malovýrobě a nechat se předskočit, nebo nechat si know-how ukrást Číňany či jinými vykuky. Naši lidé dokáží být schopní, ale musí se jim nechat prostor, ne aby z toho našeho Kocourkova odcházeli ven a tam se jako úspěšní usazovali trvale. Vše nemusí být černé, ale to temné lidské ego na všech úrovních (asi dědictví totality) nám neustále kalí pohled na tuto zemi.
    James Bond
Aktuální komentáře
19.03.2024
11:23Japonský jen slábne i s vyššími sazbami. Akcie v Evropě beze směru  
11:06Jan Bureš: Březnové rozhodnutí ČNB - zvítězí snížení sazeb o 50bps?
10:05Unilever oddělí podnikání se zmrzlinou do samostatného podniku a zruší 7500 míst
9:10Rozbřesk: Tuzemská inflace hluboko pod průměrem EU, nervózní koruna vyhlíží zasedání ČNB
8:43Japonsko opustilo režim záporných sazeb, Nvidia představila nové čipy a futures jsou v červeném  
8:05Japonská centrální banka po 17 letech zvedla základní sazbu
18.03.2024
17:24Jaký by „měl být“ poměr cen akcií k objemu peněz?
17:03Spolupráce Applu a Alphabetu dnes nastartovala zájem o technologie  
16:02Gerber: Situace v Tesle by se mohla změnit k lepšímu…
14:50Ceny starších bytů v Praze, Brně a Ostravě vzrostly, dorovnávají loňsky pokles
13:50Týdenní výhled: Jak moc změní Fed projekci sazeb na letošek?  
12:37Než otevře Wall Street: Alphabet, Nvidia, PepsiCo  
12:15Týden začíná opatrně pro akcie i dluhopisy. O slovo si řekla AI, ale pozornost míří k sazbám  
12:09Eurostat: Míra inflace v EU v únoru zvolnila na 2,8 procenta, česká klesla pod unijní průměr
11:32Komerční banka, a. s.: Znovuzvolení členky Představenstva KB
10:56Růst maloobchodu a průmyslu v Číně na začátku roku překonaly odhady analytiků
10:26Zájem o akcie Redditu před vstupem na burzu pětkrát převyšuje nabídku
10:08ČEZ, a.s.: Doplnění výroční finanční zprávy 2022
10:06ČEZ, a.s.: Oznámení o výplatě úrokového výnosu
9:58ČSÚ: Ceny průmyslových a zemědělských výrobců v únoru meziročně opět klesly

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
ČasUdálost
JP - Jednání BoJ, základní sazba
11:00DE - Index očekávání ZEW
13:30USA - Počet stavebních povolení