Jako jsou výhody a nevýhody či dokonce rizika spojená s rozhodováním založeném na nějakém algoritmu? Na stránkách The Conversable Economist se tímto tématem zabývá ekonom Tim Taylor. Výchozí bod je přitom zřejmý: Rozhodování na základě algoritmu může být nedokonalé, ale to samé platí u rozhodování lidí. U každého jde ale o rozdílný typ nedokonalosti a ekonom následně poukazuje na studii, kterou zpracoval Cass R. Sunstein a která poskytuje zajímavé pohledy na tyto dvě oblasti.
Sunstein poukazuje na to, že rozhodování pomocí algoritmu se může vyhnout různým zkreslujícím vlivům a také informačnímu šumu. Výsledkem může být nekonzistentní rozhodování, které je dané tím, že jsou používána různá pravidla a mění se i jejich aplikace. K tomu ale Sunstain poukazuje i na slabé stránky algoritmů a čerpá také z analýzy toho, jak soudci rozhodují o kaucích:
„Některé studie naznačují, že zatímco algoritmy překonávají 90 % soudců, nejlepších 10 % soudců překonává algoritmy. Zdá se, že ti berou v úvahu faktory, které algoritmy neřeší a nepracují s nimi. Vypadá to, že mají něco jako specifickou znalost místního prostředí – rozumí obžalovanému nebo okolnostem, které algoritmy ignorují. Podobný jev bychom si klidně dokázali představit i u lékařů. Je možné, že ti nejlepší lékaři vědí, koho testovat na srdeční onemocnění, protože vidí nebo tuší něco, s čím algoritmy nepracují.“
Sunstein k tomu dodává, že algoritmy fungují lépe než lidé, ale v každém jednom případě si nevedou nějak výrazně lépe. Pokud data ukazují na výrazně vyšší přínosy, je to spíše kvůli tomu, že malé jednotkové přínosy jsou počítány na velkých agregátních číslech. Jestliže algoritmus může například dosáhnout mírného zvýšení přesnosti screeningu srdečních chorob, můžeme ve výsledku vidět významné snížení celkového počtu úmrtí. Algoritmy tak například mohou mít úspěšnost v 73 % případů, zatímco kliničtí lékaři v 68 % případů. A v celkových číslech to bude výrazný rozdíl.
K tomu se podle studií zdá, že „lidé jsou méně vstřícní k chybám algoritmů než k lidským chybám“. Sunstein k tomu píše, že takový postoj sám o sobě není racionální. Pokud jde například o léčbu, mělo by prostě rozhodovat to, co je efektivnější. Jestliže však hraje roli třeba to, že se lidé sami rádi rozhodují, upřednostňování vlastních rozhodnutí už může být naprosto racionální. Možná lidé považují relevantní rozhodnutí za zábavné. „Možná se lidé rádi učí. Možná je rozhodování druhem hry. Možná mají rádi pocit zodpovědnosti. Pokud ano, averze k algoritmu není vůbec žádná chyba.“
Sustein poukazuje i na studii založenou na datech z tisíců rodin s nesezdanými rodiči, kde matka porodila dítě kolem roku 2000. Studie se pak zaměřovala na to, zda lze velké množství získaných dat použít pro předpovědi vývoje v těchto rodinách. „Který ze 160 týmů udělal dobré predikce? Odpověď zní: žádný. A algoritmy nebyly o mnoho lepší než náhodné predikce.“ Sustein dodává, že 160 týmů vytvořilo předpovědi, které si byly velmi blízké (a ne moc dobré). Vlastně tak byly týmy úspěšné v odhadu toho, co předpovědí ostatní, ale ne v odhadu toho, co se skutečně stane.
Zdroj: The Conversable Economist, The use of algorithms in society - Review of Austrian Economics