Může AI snížit produktivitu práce a zhoršit zákaznickou zkušenost? Ano může, velmi snadno.

AI se někdy považuje za všelék, který odstraní repetitivní dřinu a takřka zázračně zlepší produktivitu práce. Ve skutečnosti to může dopadnout přesně naopak. Nevhodně nasazená AI může firmě víc uškodit než prospět.

V každé velké firmě existuje mnoho mechanických činností, které lidé nevykonávají příliš nadšeně. Od zavádění smluv do systému, přes kontrolu faktur, monitoring konkurence, katalogizaci produktů, sledování výkonových ukazatelů, odpovídání na tuny zákaznických mailů se stále stejnými dotazy, až po analýzu všelijakých datových exportů, účetnictví a mnohé další. Tyto činnosti jako by přímo volaly po automatizaci s využitím AI, a tak se mnoho firem se pouští do projektů, které k takové automatizaci směřují. Tento trend ještě posílil s nedávným pokrokem v oblasti generativní AI (ChatGPT, Midjourney, Bard, aj.), neboť nejnovější AI nástroje slibují jak univerzální použitelnost, tak snadnou integraci do existujících IT systémů (viz Google platforma Gemini).

Na tom by nebylo nic špatného, kdyby ovšem místy nešlo o vytloukání klínu klínem. Někdy je totiž samotná existence takových činností důsledek neoptimálně nastavených procesů, do kterých by bylo záhodno „hrábnout“ hlouběji. Jinými slovy, místy je potřeba reorganizovat systém na vyšší úrovni tak, aby některé činnosti úplně vymizely, spíše než je slepě automatizovat. Když např. deset lidí pracuje na ručním párování PDF faktur od stovek různých dodavatelů oproti interním objednávkám, není řešením AI plug-in v účetním systému, který to udělá na 90% automaticky, ale digitalizace celého účetnictví. Když firmě chodí stovky emailových dotazů od zákazníků, v jakém stavu je jejich pojistná událost, nemusí být nejlepší nápad zavést AI mailbota, který jim bude odpovídat sám; lepší řešení může být redesign celého systému zákaznické podpory. A když se SEO oddělení musí každý měsíc probírat datovou sjetinou o sto tisíci řádcích, aby detekovalo nová klíčová slova vyhledávaná na Google, není řešením demokratizace analytiky — tj. není třeba sahat po ChatGPT, aby tuhle sjetinu srovnal se sjetinou z minulého měsíce. Lepší je popřemýšlet, jestli se celý problém nedá vyřešit tak, aby byly nové trendy v klíčových slovech detekovány přímo na úrovni reportingu. A nikdo nemusel ty nelidsky dlouhé sjetiny studovat.

Problémem je, že reorganizace firemních procesů na vyšší úrovni je o dost náročnější, než rychlé nasazení nějakého vymazleného AI nástroje. Takže management bude, logicky, preferovat to druhé, spíše než to první. Rychlá a zdánlivě úlevná, spíše než koncepční řešení jsou navíc podporována IT dodavateli, kteří se na automatizaci s využitím AI rádi přiživí. Stejně jako nadšením interních ajťáků, jejichž apetit po „nových hračkách“ je neukojitelný.

Ve výsledku se tak firma může stát přehlídkou mnoha různých AI nástrojů, které, poměrně naivně, řeší detailní problémy jednotlivců či oddělení, ale přitom významně komplikují celý IT ekosystém a tím i provozní podporu. Něco jako kdyby si dopravní podnik objednal autobusy a vlaky od několika různých výrobců, namísto toho, aby optimalizoval dopravní harmonogram a zjistil, že rozšiřovat vozový park vlastně nepotřebuje. A že dokonce může některá vozidla vyřadit.

To nás přivádí k dalšímu, ještě palčivějšímu problému. Už teď se velké korporace i státní správa dostávají do bodu, kdy komplexita problémů, které si (spolu)vytvořily, přesahuje jejich schopnosti tyto problémy řešit. Sám jsem zažil ve velké firmě IT projekt s vazbou na státní legislativu, který se táhl několik let, a který byl natolik složitý, že vlastně nebylo zřejmé, kam ho směrovat. Každé řešení, které jsme byli schopni vymyslet (a které jsme vymýšleli v nekonečných diskusích celé měsíce), bylo snad ještě horší, než stávající stav. A přinášelo další problémy. Že to není nijak ojedinělý případ, ukazuje digitalizace zákaznické péče ze strany telefonních operátorů, bank a dodavatelů energií. Za uplynulého půl roku ke mně doputovalo několik případů, kdy lidé nebyli schopni vyřešit ani triviální úkony—jako je třeba přepsání energií z majitele na podnájemníka, nebo převod internetu ze zesnulé osoby na dědice—bez opakujících se a nekonečně frustrujících návštěv poboček, a to poté, co dlouho neúspěšně zkoušeli celý problém vyřešit online. Digitalizace, která měla zrychlit a zjednodušit zákaznickou zkušenost, zjevně celou situaci jen zhoršila. Podobně jako „smart“ elektronické prvky zkomplikovaly opravy praček, trub na pečení a další spotřebičů, aniž by je lidé příliš využívali a vlastně o ně stáli.

AI může tuhle situaci dále vyhrotit, protože k už tak nepřehledné dělbě práce a složité IT infrastruktuře přidá další vrstvu, které bude málokdo rozumět a která celý systém učiní ještě méně transparentním. Některé chyby, které AI vyvolá, prostě nebude jak řešit. Paradoxně se tak navýší jak bezmoc zaměstnanců, tak nespokojenost zákazníků. Nebylo by to poprvé, co se něco podobného stane. Známý antropolog David Graeber v knize Utopia of rules (Utopie pravidel) píše, že historicky všechna opatření zaměřená na redukci byrokracie skončila tak, že úředníků přibylo a procesy se ještě více zašmodrchaly.

A to ještě není vše. Tentýž antropolog David Graeber dokumentuje v knize Bullshit jobs (Práce na hovno, viz např. zde) fenomén zcela zbytečných pracovních pozic. Je to k nevíře, ale asi 30-40% zaměstnanců po celém světě má pocit, že jejich práce nic užitečného nepřináší a že by nikomu a ničemu nevadilo, kdyby se jejich pozice zrušila nebo do práce vůbec nechodili. Je to zdánlivě paradox, neboť to odporuje zažité představě, že tržní kapitalismus takovou neefektivitu nepřipustí. Jenže ve skutečnosti jde o zákonité selhání složitých systémů, související s komplexitou řízení: v prostředí složité dělby práce, v síti vzájemných závislostí a náročné spolupráce mezi odděleními prostě vznikají „slepá ramena“, kde lidé řeší nesmysly, ale nikdo nemá sílu se podívat pravdě do očí, problém pojmenovat a jejich pozice zrušit. Tím spíš, že by se tak mnohdy musela zrušit celá oddělení, jejichž šéfové by tím přišli o status a moc. David Graeber dále vymezuje speciální kategorii bullshit jobů, které říká „záplatovači“ (duck-tapers). Práce záplatovačů existuje pouze a jen proto, že nějaký původní proces, který nikdo nemá sílu změnit, nefunguje, a tuto skutečnost je třeba obejít nebo zastřít. Dokumentuje to na neuvěřitelném příkladu jedné americké univerzity, která najmula mimořádně liknavého truhláře na opravu kancelářského nábytku, ale nedokázala ho propustit, i když skoro nic nedělal. Vyřešila to tak že najmula ještě úředníka, jehož hlavní pracovní náplní bylo omlouvat truhlářovy časté absence.

Ale proč o tom píšu. Protože nevhodné nasazení AI může být přesně takovou záplatou, která sice zdánlivě zakryje nejhorší nedostatky ve firmě, ale sama o sobě nic nevyřeší; jen přenese břemeno zbytečné práce z živých lidí na AI nástroje. Její efekt může být o to horší, že na papíře bude vypadat vše dobře, projekt se zdárně dokončí a přetíženým zaměstnancům se uleví, takže přestanou tolik brblat. Z dlouhodobého hlediska se ovšem nic nevyřeší.

Jak se těmto pastím vyhnout? Jak to udělat, aby namísto zjednodušení a zefektivnění práce AI nepřidalo celému systému na komplexitě a nebylo jen povrchní záplatou? Vidím jen jediné řešení. Řešením je mít management, který se nenechá okouzlit bludičkou populární a zdánlivě všespásné AI, a který napřed postaví pevné základy. Organizační, procesní i technické. Management, který je pragmatický, který si troufne na velké změny a který se nebojí řešit systémové problémy, jakkoliv to může být běh na dlouhou trať. Management, který si uvědomuje, že AI je jen „lepší krumpáč“ a skutečné bohatství firmy není v technologiích, ale v kreativních a zapálených lidech. V lidech, kteří o své práci přemýšlí a kteří ji chtějí zlepšovat. Držme si palce, aby šel vývoj ve firmách spíše tímto směrem. Jinak může být AI pro firmy spíše prokletím než vítaným pomocníkem.