Co od umělé inteligence očekávat a co ne
Meteorologové dokáží předpovědět počasí na zítřek s přesností 95 procent. Na deset dní dopředu přesnost klesne na úroveň hodu mincí. Pokud vám někdo prodává AI jako nástroj, který transformuje vaše strategické rozhodování a předpoví budoucnost vašeho byznysu, měl by si nejdřív promluvit s meteorologem.
Hype který přeskočil realitu
V posledních třech letech jsme svědky bezprecedentního množství předpovědí o tom, co AI dokáže. Nahradí tuto profesi. Odhalí vzorce, které lidem unikají. Předpoví, kdo odejde, co si koupí, jak se rozhodne. Část z toho platí. Velká část ne.
Problém není v technologii. Problém je v tom, co od ní čekáme. A tady se většina diskusí o AI mýlí, protože zaměňuje dvě velmi rozdílné věci: efektivitu a predikci.
AI je skutečně vynikající v efektivitě. V opakujících se kognitivních úkonech, třídění, sumarizaci, generování prvního draftu. Ale jakmile ambice přeskočí z efektivity na predikci složitých lidských systémů, logika se rozpadá.
Problém počasí
Edward Lorenz, americký meteorolog a matematik, si v šedesátých letech při simulaci počasí všiml zvláštního jevu: malá změna v počátečních podmínkách vedla po čase k dramaticky odlišnému výsledku. Zaokrouhlení jednoho čísla o tisícinu způsobilo zcela jinou předpověď. Tento jev popsal jako citlivost na počáteční podmínky, dnes ho známe pod názvem motýlí efekt.
To je důvod, proč meteorologové s excelentními modely, satelity a superpočítači selhávají na desetidenním horizontu. Ne proto, že by byli špatní. Ale proto, že atmosféra je chaotický systém a v chaotickém systému se malé chyby exponenciálně zesilují.
Počasí má jednu výhodu: řídí se fyzikálními zákony, které se nemění. Atmosféra neuniká svým zákonům jen proto, že ji pozorujeme. Lidské systémy tuto výhodu nemají.
Tři důvody, proč AI lidské systémy nezvládne
1. Korelace nejsou příčiny
AI se učí korelace z historických dat. Vidí, že zákazníci, kteří udělali X, následně udělali Y. Ale nerozumí proč. Výzkumníci pracující na kauzálním usuzování, jako je Susan Athey ze Stanfordu, to říkají otevřeně: strojové učení zlepšuje predikci tehdy, když je prostředí stabilní. Nevysvětluje, proč se chování mění.
Výzkum z Microsoft Research analyzoval rozsáhlé datové sady sociální difuze a kulturní adopce. Modely předpovídající budoucí lidské chování dosahují korelace nejvýše r = 0,2. AI model, který říká "tento zákazník odejde", se trefí v méně než 55 procentech případů. Sotva lepší než hod mincí.
2. Tacitní znalost nelze naučit
Desítky let po nástupu IT automatizace přináší technologie nerovnoměrné zisky produktivity. Technologie nahrazuje opakující se úkony efektivně. Ale skutečná produktivita stoupá teprve tehdy, když se lidé přizpůsobí a změní způsob práce.
Chybějící složka má jméno: tacitní znalost. Úsudek. Vkus. Načasování. Politický cit. Schopnost číst situaci, kde platí jiná pravidla, než jaká jsou napsaná. AI se nemůže naučit to, co není výslovně vyjádřeno. A nejcennější lidská znalost zřídkakdy je.
3. Systémy se mění rychleji než modely
I kdybychom kauzalitu plně chápali a tacitní znalost dokázali zachytit, predikce by stejně selhávala. Ekonomové to dobře znají jako Goodhartův zákon: jakmile se ukazatel stane cílem, přestává být dobrým ukazatelem. Lidé reagují na pobídky. Přizpůsobují se pravidlům. Mění chování jen proto, že vědí, že jsou měřeni.
Předpověď počasí na jeden den je přesná z 95 procent, na pět dní ze 75 procent, na deset dní z 50 procent. U lidských systémů je degradace mnohem rychlejší a méně předvídatelná, protože systém sám reaguje na predikci.
Proč to přesto zní tak přesvědčivě
AI má jeden mimořádný talent: zní sebevědomě. Odpovídá plynně, strukturovaně, ve formátu, který vypadá jako analýza. Tento formát je ale zcela nezávislý na přesnosti.
Marshall McLuhan varoval ještě před érou AI: každé nové médium přetváří způsob, jakým přemýšlíme. Televize nenaučila lidi přijímat informace kriticky, naučila je přijímat obrazy. Sociální média zhoršila tento trend vytvářením ozvěnových komor. AI ho urychluje tím, že generuje sebejisté odpovědi na každou otázku, formulované tak, aby zněly samozřejmě.
Největší riziko AI tedy není, že nás nahradí. Je to, že nás svede k tomu, abychom přestali přemýšlet.
Kde AI skutečně přináší hodnotu
Teprve teď, po všech omezeních, se dostáváme k tomu nejdůležitějšímu: kde AI reálnou hodnotu přináší. Platí to tam, kde jsou splněny tři podmínky:
Prostředí je stabilní a pravidla se nemění.
Existuje dostatek kvalitních historických dat.
Úloha je ohraničená a konkrétní, ne otevřená a strategická.
V praxi to znamená například: automatizaci rutinní dokumentace, třídění a směrování zákaznických dotazů, extrakci informací z nestrukturovaných podkladů, asistenci při analýze dat a psaní prvních verzí textů nebo sumarizaci zápisů a reportů.
Toto nejsou malé věci. Průměrný manažer tráví podle dat McKinsey přes 60 procent času na úkolech, které by šly plně nebo částečně automatizovat. Uvolnit tuto kapacitu a přesměrovat ji na skutečně strategické uvažování je hodnotná transformace. Jen ne ta, o které se nejčastěji mluví.
Co z toho plyne pro vaši organizaci
Meteorologové nepřestali dělat předpovědi jen proto, že desetidenní horizont selhává. Přizpůsobili svou práci realitě: krátkodobé předpovědi jsou přesné a akční. Dlouhodobé scénáře jsou explicitně označeny jako orientační.
Stejný přístup funguje s AI. Buďte přesní v tom, co od ní požadujete. Nasaďte ji na ohraničené problémy s dostupnými daty a stabilním prostředím. A strategické rozhodování nechte tam, kde má být: v rukou lidí, kteří chápou kontext, rozumí tomu, co data neukazují, a dokáží číst situaci, která je jiná než jakákoli historická.
AI není věštecká koule. Je to výkonný nástroj s jasnými hranicemi. Firmy, které to pochopí dřív, nezískají náskok proto, že by AI více důvěřovaly, ale proto, že ji budou nasazovat chytřeji.