Hledat v komentářích
Investiční doporučení
Výsledky společností - ČR
Výsledky společností - Svět
IPO, M&A
Týdenní přehledy
 

Detail - články
Matematička z Harvardu varuje: Hrozí totalita algoritmů?

Matematička z Harvardu varuje: Hrozí totalita algoritmů?

24.06.2017 17:20
Autor: Petr Zelenka, Patria Online

Algoritmy do velké míry řídí náš život. Rozhodují třeba o tom, kdo dostane půjčku, koho ze stovek kandidátů pozvat na pohovor anebo jakou metodou léčit pacienta. Na rozdíl od lidí netrpí předsudky, jsou nestranné a spravedlivé. Skutečně tomu tak ale je? Co když jsou jedničky a nuly také opresivní a také předurčují náš osud na základě mylných předpokladů?

Této problematice se v nové knize „Weapons of Math Destruction“ věnuje matematička Cathy O’Neilová, která má doktorát z Harvardovy univerzity, zkušenosti z hedgeového fondu a po většinu své kariéry se zabývala analýzou „velkých dat“ (big data).

Současný pohled na věc O’Neilová ilustruje následujícím příkladem: „V 50. letech přijde muž do banky a chce si půjčit 10 000 dolarů na rozjetí nového byznysu. Bankéř udělal ‚svůj domácí úkol‘ a ví o tomto muži vše. Zná jeho etnicitu. Jeho rodinný stav. Ví, jestli ho má rád jeho šéf, jestli ho má ráda jeho žena a zda chodí do kostela. Ví, co si o něm myslí soused.“

Tento systém, založený na osobních vazbách a subjektivních dojmech bankéře, který může podle svého uvážení distribuovat kapitál žadatelům, byl nahrazen něčím, co dnešní společnost považuje za spravedlivější, píše ve své knize O’Neilová. „V roce 2017 tento bankéř neexistuje, byl dávno nahrazen počítačovými modely a algoritmy, které se ujistí, že se nikdo nestane obětí předsudků mocného jednotlivce. Je to systém, který umožňuje rovnost pro všechny, bez ohledu na rasu, pohlaví nebo víru.“

Půjčka pro chudého studenta nebo propuštěného vězně

„Až na to, že tohle je také fantazie,“ dodává O’Neilová. Algoritmy, které řídí ve 21. století alokaci kapitálu namísto opravdového bankéře z masa a kostí, totiž mohou utiskovat určité skupiny stejně krutě, jako onen bankéř sedící v kanceláři místní pobočky spořitelny. 

O’Neilová poukazuje na tři základní problémy. Tím prvním je, že algoritmy v sobě také mohou mít svým způsobem zabudované předsudky – každý člověk je unikátní a ne vždy se o něm dá všechno odhadnout pomocí statistických metod. Za druhé, algoritmy nedostávají „feedback“ podobným způsobem jako živí bankéři a neodkážou se tak zatím učit z chyb. Za třetí, algoritmy svými rozhodnutími samy ovlivňují realitu, na základě které pak definují svůj „úspěch“.

Pokud algoritmus rozhodne nepůjčit peníze člověku právě propuštěnému z vězení, zabrání mu v podnikatelské kariéře a možná ho tím nasměruje zpět na zločineckou dráhu. Takovýto člověk pak může opět skončit před soudem. Zdá se tak, že algoritmus fungoval dobře – odmítl půjčit peníze pochybnému recidivistovi, který znovu míří za mříže a půjčku by tak nejspíše nesplatil. Že mu algoritmus svým způsobem tento úděl předurčil svým negativním verdiktem, je však věc druhá. Podobně však mohou na Západě, kde je vysoké školství placené, dopadnout i studenti, kteří kvůli algoritmu nedosáhnou na půjčku na školné. I oni se snadno dostanou do začarovaného kruhu.

Klíčová slova v CV prozradí, jakou mzdu si zaslouží uchazeč

U půjček to však nekončí. Velké korporace čím dál více používají algoritmy k tomu, aby vyhodnocovaly životopisy uchazečů o zaměstnání – není divu, když i na ty méně prestižní pozice a stáže ve velkých účetnických firmách nebo bankách se na Západě každý rok hlásí stovky studentů z těch nejlepších škol. Podobnou „analýzu“ CV nabízí zdarma například portál Adzuna, který na základě klíčových slov v životopise dokonce i spočítá, o jakou mzdu si může uchazeč o zaměstnání říct. I o tom totiž v korporacích často rozhodují algoritmy!

„Velká data“ ale mohou ovlivňovat i dění mimo soukromý sektor. „Nesbíráme data o zločinu. Sbíráme data, která sbírá policie,“ píše O’Neilová. Počet zadržených a zatčených slouží jako nejlepší odhad intenzity zločinu v dané čtvrti. I zde však algoritmy mohou vést do začarovaného kruhu – muži zákona se na základě statistiky vracejí do čtvrtí, kde dochází k nejvíce zadržením, a tím pádem nemohou zadržovat podezřelé v jiných oblastech, čímž opět zhoršují statistiku oblasti, do které míří nejčastěji. Podobné vzorce podle O’Neilové používají i americké soudy, když vyhodnocují pravděpodobnost recidivy.

Tento netransparentní, neregulovaný, neviditelný a nenapadnutelný (ale mocný) systém je podle autorky vysoce nebezpečný. Frustrace lidí, které algoritmy předem odsoudí k chudobě, delšímu pobytu ve vězení nebo jimž odepřou vzdělání, se pak může obrátit proti západní liberální demokracii nebo tržnímu kapitalismu.

Jaké je řešení? Za prvé by autoři algoritmů měli vystoupit z anonymity a přijmout více osobní zodpovědnosti za to, jak jejich výtvory nakládají s osudy lidí. O'Neilová také doporučuje striktnější vládní dohled nad algoritmy. Celkově však jde především o to nezavrhovat úplně lidské analytické a vyhodnocovací schopnosti – co nám algoritmy doporučují, bychom podle O'Neilové měli vždy brát s rezervou a kritickým odstupem.

 

Čtěte více:

Ukradneme nebo vrátíme? Bohatí a chudí se příliš neliší
16.03.2017 15:58
„Skrblíky“ zajímají jen jejich peníze, blaho druhých je jim ukradené, ...
Jak průzkumy lákají voliče k urnám... a jak mohly Trumpovi pomoct vyhrát volby
13.06.2017 14:30
Klíčové hlasování se blíží. Televize i noviny opakují, že podle průzku...
Jsou k něčemu limity výdajů na politické kampaně? Ano, ukazuje výzkum
16.06.2017 18:04
Česká republika se na podzim minulého roku zařadila mezi země, které s...
Mohou odbory pomoci snížit příjmovou nerovnost?
21.06.2017 15:45
Po celém světě narůstá příjmová i majetková nerovnost. Největší pesimi...

Váš názor
  • Totalita politicky korektních feministek
    25.06.2017 8:46

    Aha, tak každý má nárok na půjčku a to i kriminálník nebo každý student, kterému se nelíbí studovat na státní univerzitě. Algoritmus jim prý zníčí život, zatímco bankéř z masa a kostí by půjčku jistě udělil bez ohledu na realitu. Banky jsou přece dobročinné ústavy odpovědné za sociální problémy společnosti. Nebezpečím nejsou algoiritmy, ale matematičky, které vystudovaly Harvard pouze na základě kvót a afirmativní akce bez ohledu na talent a schopnosti a které nyní hlásají politické rádoby rozumy, protože skutečnou matematiku neovládají. Kritizovat jejich bludy znamená ovšem být okamžitě oznažen za sexistu.
    Dan
    • Re: Totalita politicky korektních feministek
      26.06.2017 10:19

      Četl jste to proboha celé a v originále? A rozlišujete konkrétní tvrzení od principu/myšlenky? Z Vaší reakce spíše plyne, že ne a ne a ne. Na mně to spíše působí jako varování pro lidi, aby se měli více na pozoru před každým a vším, kdo/co nekriticky propaguje liduprospěšnost algoritmizace/digitalizace/automatizace/"schytření" každého kousku (zatím ještě) lidského světa.
      stan013
Aktuální komentáře
19.03.2024
10:05Unilever oddělí podnikání se zmrzlinou do samostatného podniku a zruší 7500 míst
9:10Rozbřesk: Tuzemská inflace hluboko pod průměrem EU, nervózní koruna vyhlíží zasedání ČNB
8:43Japonsko opustilo režim záporných sazeb, Nvidia představila nové čipy a futures jsou v červeném  
8:05Japonská centrální banka po 17 letech zvedla základní sazbu
18.03.2024
17:24Jaký by „měl být“ poměr cen akcií k objemu peněz?
17:03Spolupráce Applu a Alphabetu dnes nastartovala zájem o technologie  
16:02Gerber: Situace v Tesle by se mohla změnit k lepšímu…
14:50Ceny starších bytů v Praze, Brně a Ostravě vzrostly, dorovnávají loňsky pokles
13:50Týdenní výhled: Jak moc změní Fed projekci sazeb na letošek?  
12:37Než otevře Wall Street: Alphabet, Nvidia, PepsiCo  
12:15Týden začíná opatrně pro akcie i dluhopisy. O slovo si řekla AI, ale pozornost míří k sazbám  
12:09Eurostat: Míra inflace v EU v únoru zvolnila na 2,8 procenta, česká klesla pod unijní průměr
11:32Komerční banka, a. s.: Znovuzvolení členky Představenstva KB
10:56Růst maloobchodu a průmyslu v Číně na začátku roku překonaly odhady analytiků
10:26Zájem o akcie Redditu před vstupem na burzu pětkrát převyšuje nabídku
10:08ČEZ, a.s.: Doplnění výroční finanční zprávy 2022
10:06ČEZ, a.s.: Oznámení o výplatě úrokového výnosu
9:58ČSÚ: Ceny průmyslových a zemědělských výrobců v únoru meziročně opět klesly
9:31Zdroje Bloomberg: Apple vyjednává o zabudování umělé inteligence od Gemini do iPhonu
9:13Rozbřesk: Březnové rozhodnutí ČNB - zvítězí snížení sazeb o 50bps?

Související komentáře
Nejčtenější zprávy dne
Nejčtenější zprávy týdne
Nejdiskutovanější zprávy týdne
Kalendář událostí
ČasUdálost
JP - Jednání BoJ, základní sazba
11:00DE - Index očekávání ZEW
13:30USA - Počet stavebních povolení