Co stroje nechápou: Neviditelná rovina, která rozhoduje o úspěchu AI
Umělá inteligence vám sebevědomě odpoví na cokoliv. Ale co když právě v té jistotě se skrývá její největší slabina?
Když se mluví o umělé inteligenci, většina debat se točí kolem dat, algoritmů a výkonnosti. Někdy zazní i otázky týkající se etiky nebo dopadu na pracovní trh. Jinak se diskuse drží převážně technické roviny. Sleduje se, co všechno AI dokáže, kde ji nasadit a jak optimalizovat její výstupy.
Jenže právě v tom je problém. Tím, že umělou inteligenci vnímáme jako čistě technologický nástroj, přehlížíme něco zásadního. AI nikdy nefunguje ve vzduchoprázdnu. Vždy se pohybuje v určitém společenském kontextu. V prostředí lidí, vztahů, jazyků, zvyklostí, nepsaných pravidel a sdílených významů.
A právě tahle neviditelná, ale rozhodující rovina často určuje, jestli bude zavedení umělé inteligence ve firmě nebo instituci úspěšné, nebo jestli skončí jako drahý a nepochopený nástroj. Neformální znalosti, zkratky a neverbální souhra mezi lidmi, které si žádný stroj neumí přeložit, mají často větší vliv než jakýkoliv technický parametr.
Zkušenosti firem to potvrzují. Zavádění špičkových systémů někdy nevede k očekávaným výsledkům. Naopak, jednodušší nástroje, které ale lépe zapadnou do prostředí a zohlední fungování týmu, bývají úspěšnější. Tento paradox nelze vysvětlit z pohledu technologického inženýrství. Ale dává smysl, pokud do hry vstoupí jiný typ přemýšlení.
Právě tady se otevírá prostor pro pohled, který se nezastavuje u kódu, ale jde hlouběji. Zajímá se o to, jak lidé pracují, jak spolu mluví, jak sdílejí zkušenosti a jak vnímají jeden druhého. Sociologie nabízí nástroje, jak tyto vrstvy odhalit. A jak díky nim lépe pochopit limity i možnosti umělé inteligence.
Ohromující sebe-jistota strojů může být zrádná
„Dobrý den, jak vám mohu pomoci?“ Následně se na displeji objeví téměř okamžitě text s odpovědí. ChatGPT vám bez zaváhání odpověděl. Vy jste mu možná položili otázku o kvantové fyzice, možná o nejlepší trase na dovolenou, nebo třeba o výchově dospívajících dětí. Na tématu nezáleží. Vždy vám odpoví se stejnou sebejistotou.
Je to fascinující. Umělá inteligence generuje jednu odpověď za druhou. Její vědění se zdá neomezené. Odpovědi přitom působí jako expertní rady, hluboká analýza nebo promyšlený názor.
Přemýšleli jste ale někdy nad tím, proč odpovědi vygenerované AI tak snadno přijímáme?
Odpověď je nejspíš to, že umělá inteligence nabízí iluzi, které lidští experti nemohou konkurovat. Jde o absolutní jistotu AI, se kterou odpovídá. Zatímco skutečný odborník by váhal, zvažoval nuance, připouštěl nejistotu ve složitých otázkách, AI generuje odpovědi sebevědomě a bez zaváhání.
V tomto momentu se přitom skrývá něco zásadního. Něco, co nám uniká. Totiž, co vlastně znamená, že stroj něco „ví“? Sociolog by se ptal, jaká je povaha vědění stroje, které vzniká bez osobní zkušenosti, prožitku, interakce s druhými, bez těla, bez účasti v sociálním světě? A s tím souvisí ještě druhá, možná neméně důležitá otázka, a to, co všechno AI nikdy nedokáže pochopit? A jak to, že AI působí tak přesvědčivě, když postrádá vlastní zkušenost a sociální kontext?
Co (dnešní) AI nedokáže zachytit a kde je ukrytá zrada
Představte si zkušeného lékaře nebo řemeslníka. Jejich expertiza nespočívá jen v tom, co se dá najít v učebnicích. Zahrnuje intuici, zkušenosti a „cit pro věc“, které se získávají léty praxe.
Filozof vědy Michael Polanyi nazývá tento typ vědění „tacitním“. Znamená, že ve skutečnosti víme více, než dokážeme říct. Jinými slovy své poznání světa budujeme ve společných interakcích. Sociolog Harry Collins tvrdí, že lidská inteligence je ze své podstaty kolektivní. Vědění nevzniká v izolovaných mozcích, ale v sítích vztahů, v kulturních kontextech, ve sdílených zkušenostech.
Naproti tomu umělá inteligence se učí výhradně z dat, které dokážeme my lidé zpracovat – zapsat a digitalizovat. Alespoň zatím tomu tak je. Významná část lidského vědění tak zůstává mimo tuto sféru. Výzkumy přitom ukazují, že mnoho implementací AI selhává právě proto, že ignoruje tacitní znalosti, které jsou v organizacích kritické pro úspěch.
Když zkušený lékař řekne: „Na tomto rentgenu něco nesedí,“ často nedokáže přesně vysvětlit, co vidí. Přesto může být jeho intuice život zachraňující. Toto je aspekt vědění, který je pro AI fundamentálně nedostupný. Je to poznání, které existuje pouze v praxi a nelze ho plně artikulovat.
Cit pro hru, který stroje nemohou napodobit
Součástí lidského vědění je také něco, co bychom mohli nazvat „cit pro hru“. V praxi jde například o to, že zkušený diplomatický vyjednavač dokáže vycítit správný moment pro změnu tématu, zesílení tlaku nebo naopak nabídnutí ústupku. Prostě pozná, kdy je ten správný čas. Vnímá jemné signály v řeči těla, tónu hlasu nebo dynamice skupiny, které by žádná kamera nezachytila a žádný algoritmus nerozpoznal.
Tuto schopnost označuje sociolog Pierre Bourdieu jako „habitus“. Podle něj jde o systém dispozic, který získáváme dlouhodobou zkušeností v určitém sociálním prostředí. Jde o intuitivní porozumění explicitním pravidlům, ale i nevysloveným očekáváním, mocenské dynamice a příležitostem, které se náhle otevírají a zavírají. Tento habitus je hluboce vtělen do našeho fyzického bytí. Když zkušený profesionál „čte místnost“, nevyužívá jen intelektuální analýzu. Jeho tělo reaguje na téměř nepostřehnutelné signály, které vědomě ani neregistruje.
„Umělá inteligence může analyzovat libovolné množství textu, ale nemá a nemůže mít lidský habitus. Nemá vtělenou schopnost vycítit napětí v rozhovoru, rozpoznat subtilní signály nebo intuitivně porozumět kulturním tabu.“
— Harry Collins
Takže AI může sice analyzovat miliony diplomatických jednání, ale nikdy nebude mít ten instinktivní pocit, který říká: „Teď je čas zatlačit“ nebo „Tady musíme ustoupit“. Může se naučit pravidla, ale nikdy nebude mít cit pro hru, protože nikdy nebyla součástí hry.
Když se lidé přizpůsobují technologii. Riziko inverzní socializace
Přenesme se teď do jedné firmy. Je celkem jedno, jak se jmenuje. Firem, které řeší podobné situace, jsou stovky a tisíce.
„Podívejte, musíme přehodnotit celý způsob, jakým zapisujeme zprávy z jednání,“ oznámil vedoucí oddělení na poradě. „Náš nový systém AI nedokáže správně zpracovat naše poznámky. Budeme muset být stručnější, používat jednodušší věty a vyhýbat se metaforám.“
V místnosti to zašumělo nesouhlasem. „Nemůžeme přece měnit způsob, jak mluvíme. Navíc ty metafory jsou přece důležité,“ namítla jedna manažerka. „Když říkáme projekt je na tenkém ledě, každý okamžitě chápe situaci lépe, než kdybychom vyjmenovávali dlouhé seznamy rizik.“
Vedoucí pokrčil rameny. „Bohužel, systém s metaforami neumí pracovat. Musíme se přizpůsobit.“
Popsaná scénka ilustruje fenomén, který Harry Collins pojmenoval „inverzní socializace“. Jde o situace, kdy očekáváme, že technologie se přizpůsobí našim potřebám. Jenže s umělou inteligencí se děje něco jiného. Namísto, aby se technologie přizpůsobovala našim potřebám, začínáme měnit náš způsob práce, komunikace a dokonce i myšlení, abychom naopak my vyhověli omezením technologie.
Tohle ale není jen teoretický koncept. Čím dál častěji si všímám, jak firmy mění své pracovní procesy, protože „jejich data nejsou dostatečně strukturovaná pro optimální využití umělou inteligencí“. V důsledku toho lidé opouštějí bohatý, různorodý jazyk ve prospěch zjednodušených formulací, které AI lépe „chápe“.
V tomto procesu se pak něco zásadního ztrácí a, to schopnost improvizace, intuice a citu pro kontext. Firmy tak postupně ztrácejí přesně ty aspekty, které je dělaly unikátními.
Jak překonat omezení AI ve firmách. Praktická implementace umělé inteligence opřená o moderní sociologii
Při zavádění AI technologií do firem často dochází k paradoxnímu jevu. Technicky dokonalé systémy někdy vedou k horším výsledkům, zatímco méně sofistikovaná řešení, ale citlivější k lidem, přinášejí výrazně lepší výstupy.
To je v krátkodobém horizontu přirozený jev, kterému jde jen těžko zabránit, protože zavádění nových technologií provází krátkodobě zvýšené nároky na čas a zdroje, a to je součástí procesu zvyšování ekonomické produktivity prostřednictvím nových technologií. Problém však nastává, když k propadu ekonomické výkonnosti a produktivity dochází dlouhodobě. To pak ukazuje spíše na špatně provedenou implementaci nové technologie do firmy.
Sociologická perspektiva nabízí, pro někoho možná nečekaně, nejen vysvětlení tohoto paradoxu, ale poskytuje i praktické nástroje pro efektivnější implementaci.
1. Poznejte, co znamená vědění pro různé lidi ve firmě
Každá organizace má svůj vlastní svět. Ale ve skutečnosti je to spíš mozaika několika různých světů, které spolu jen částečně komunikují. Jinak přemýšlí technické oddělení, jinak obchodní tým a úplně jinak zákaznická podpora. Každá z těchto skupin má vlastní jazyk, vlastní představu o tom, co je důležité, co je důkaz a co je jen domněnka.
Pro vývojáře může být důkazem výsledek testu nebo přesné číslo z logu systému. Pro obchodníka to může být reakce klienta na schůzce, tón hlasu nebo opakující se výhrady zákazníků. Oba mluví o důkazu, ale každý tím myslí něco jiného. Stejně tak se liší v tom, co považují za užitečné informace nebo co jim dává smysl.
V sociologii se těmto odlišným způsobům uvažování říká znalostní ekosystémy. Pokud se tyto rozdíly přehlédnou a firma nasadí jednotný AI systém bez ohledu na to, jak lidé různě vnímají užitečné vědění, může to vést ke zmatku, odporu nebo nefunkčním výstupům. Proto je potřeba tato prostředí předem zmapovat a pochopit. Nestačí se ptát „jaká data máte“, důležitější je zjistit, co pro koho znamenají.
2. Sledujte, jak se práce dělá doopravdy, ne jak se o ní mluví
Firemní procesy mají dvě podoby. Jednu najdete ve směrnicích, organizačním diagramu nebo projektových tabulkách. Druhá je méně viditelná, ale mnohem důležitější. Jde to každodenní zkušenost lidí, která se nikde nearchivuje, ale bez níž by firma nefungovala.
Zkušený pracovník často dělá věci jinak, než jak mu to říká manuál. Věci zjednoduší, něco přeskočí, něco nahradí vlastním úsudkem. Ale ne proto, že by ignoroval pravidla, ale proto, že ví, že pravidla a stanovené postupy občas nestačí. Jako zkušený profesionál si umí poradit. AI ale žádné takové zkratky nezná. Učí se z oficiálních vstupů. A právě tady může narazit.
Tady přichází na scénu etnografická analýza. To je nástroj, který takové nuance dokáže zachytit. Nejde však o mapování a zapisování všeho, co lidé dělají. Jde o pozorování toho, co je běžné, ale nikdo to nahlas nepojmenoval. V čem se reálná práce liší od oficiálních popisů? AI, která nezná tuto každodennost, nebude nikdy v souladu s tím, jak firma skutečně funguje.
3. Spojte strojovou logiku s lidským úsudkem
Častou chybou je snaha udělat z AI autonomní jednotku, která má samostatně rozhodovat. Nahrát data, zmáčknout tlačítko a počkat na výsledek, který bereme za nezpochybnitelný. Jenže realita je složitější. I ta nejpřesnější predikce potřebuje interpreta. Člověka, který rozumí okolnostem, vnímá souvislosti a cítí, kdy je správný čas jednat (nebo raději počkat).
V praxi nejlépe fungují systémy, kde AI neřeší všechno, ale funguje jako podpůrný nástroj člověka. Pomáhá odhalovat vzory v datech, upozorňuje na rizika, zrychluje rutinní práci. Poslední slovo má ale ten, kdo rozumí důsledkům. Kdo ví, že číslo je jen začátek příběhu.
Tento přístup se označuje jako hybridní systémy rozhodování. Nejde o soupeření mezi člověkem a strojem. Jde o rozumné spojení obou. AI přináší rychlost, člověk přináší kontext. Spolu vytvářejí výsledek, který by ani jeden sám nedokázal. A právě v tom je síla, která dává smysl i ekonomicky.
4. Najděte lidi, kteří rozumí technologiím i lidem
Když se do firmy zavádí nová technologie, často se předpokládá, že ji vysvětlí IT oddělení. Ale samotné technické vysvětlení nestačí. AI nefunguje ve vakuu. Musí zapadnout do prostředí, kde lidé mluví jiným jazykem, mají jinou historii, jiné obavy i jiná očekávání. Překlenout tento rozdíl nedokáže žádný návod.
V organizacích proto hrají klíčovou roli lidé, kteří umějí spojovat světy. Rozumějí technologii, ale zároveň vědí, jak ji představit ostatním. Cítí, kdy lidé tápou, co je třeba přeložit, vysvětlit, nebo někdy i nechat nevyřčené. Umějí najít slova, která dávají smysl technikům i těm, kdo rozhodují na základě odžité zkušenosti.
Tito lidé se označují jako kulturní mediátoři. Není to jejich firemní funkce, ale určitá schopnost. Často nejsou na výplatní pásce jako experti, a přesto mají nepostradatelnou roli. Jsou mostem mezi světem dat a světem lidí. Bez nich se z implementace AI stává technický projekt bez duše. S nimi může technologie opravdu zapustit kořeny a přinést mnohem lepší výsledky.
Propojení lidského a strojového vědění. Konkurenční výhoda budoucnosti
Nejúspěšnější organizace budoucnosti nebudou ty, které nasadí nejvíce AI. Budou to ty, které dokážou vytvořit symbiotický vztah mezi technologickou efektivitou a hlubokou lidskou zkušeností.
Rozdíl mezi úspěchem a neúspěchem implementace AI nebude primárně v technologii. Bude v pochopení fundamentální povahy lidského vědění. A jak jsme si ukázali, toto vědění není jen databáze, kterou lze formalizovat a digitalizovat. Je to živý proces zakořeněný v tělesné zkušenosti, v intuici zformované tisíci hodinami praxe, v jemném předivu sociálních vztahů.
Skutečná konkurenční výhoda v éře umělé inteligence tak paradoxně spočívá v něčem hluboce lidském. Ve schopnosti kombinovat sílu algoritmů s hloubkou lidského porozumění. Je to jako v šachu, nejsilnější není ani počítač, ani člověk, ale jejich spolupráce.
Tato schopnost vytvořit symbiotický vztah mezi lidským a strojovým věděním je něco, co žádná konkurence nemůže jednoduše okopírovat nákupem stejné technologie. Umělá inteligence není jen technologickou, ale také sociální inovací. Její úspěšná implementace vyžaduje na jedné straně porozumění algoritmům a datům, ale na druhé straně i sociálnímu kontextu, ve kterém má fungovat.
V době, kdy organizace investují miliardy do AI, může být právě sociologické porozumění procesu implementace AI do firmy tím, co odliší úspěšnou implementaci od nákladného selhání.
Možná nás umělá inteligence naučí znovu si vážit toho, co jsme dlouho brali jako samozřejmost. Lidského porozumění, které se nedá naprogramovat.
