Na rozdiel od ľudských kolegov sa neustále mení, často spôsobmi, ktoré používatelia nedokážu plne sledovať ani vysvetliť. Jej výstupy môžu pôsobiť autoritatívne aj vtedy, keď sa zmenili predpoklady, na ktorých stoja. Otázka spoľahlivosti je však len jednou stranou problému. Ešte zásadnejšie je, čo sa stane, keď sa AI stane osobnejšou, presvedčivejšou a hlbšie zakorenenou v tom, ako interpretujeme informácie, vytvárame si názory a prijímame rozhodnutia.
Personalizácia: zdvorilý názov pre fragmentovanú realitu
Autor článku
Alexander Zagnetko
KPMG Global AI Initiative Coordinator
Druhá výzva je ešte menej komfortná: personalizácia.
Väčšina generatívnych AI systémov smeruje k čoraz vyššej miere prispôsobenia používateľovi. Adaptujú sa jeho preferenciám, štýlu písania, predchádzajúcim interakciám, organizačnému kontextu, záujmom a niekedy dokonca aj ideologickým či emocionálnym tendenciám. Na prvý pohľad to znie ako výhoda. Kto by nechcel asistenta, ktorý mu rozumie?
Personalizácia však má aj svoju odvrátenú stranu. Môže totiž zmeniť spoločné hľadanie odpovedí na súkromnú verziu reality.
Dvaja ľudia môžu položiť tú istú otázku a dostať dve odlišné odpovede. Obe budú presvedčivé, dobre štruktúrované a logicky obhájiteľné. Každá však bude prispôsobená predpokladom, slovníku, preferenciám a očakávaniam konkrétneho používateľa.
Jeden dostane opatrné odporúčanie. Druhý optimistické. Jeden uvidí problém cez optiku regulácie. Druhý cez optiku rastových príležitostí. Jeden dostane definície podporujúce jeho pohľad na svet. Druhý definície, ktoré podporujú opačný názor. Obaja môžu odchádzať s pocitom, že získali objektívne informácie.
Nejde pritom len o technický problém. Ide o takzvanú epistemickú fragmentáciu, teda rozpad spoločného rámca poznania.
Už dnes žijeme vo svete informačných bublín, algoritmických odporúčaní a oslabenej dôvery v spoločné zdroje informácií. Generatívna AI môže tento trend ešte urýchliť. Nielen tým, aký obsah konzumujeme, ale aj tým, ako nám samotnú realitu vysvetľuje. Tie isté fakty môžu byť vyberané odlišne. Tie isté témy môžu byť prezentované z odlišného uhla pohľadu. Rovnaká neistota môže byť zdôraznená, zmiernená alebo úplne potlačená v závislosti od konkrétneho používateľa.
Výsledkom nemusí byť otvorená dezinformácia. Môže ním byť niečo oveľa subtílnejšie: nekonečný prúd zdvorilo podaných subjektívnych interpretácií.
- bez jedného spoločného zdroja pravdy,
- bez spoločného referenčného rámca,
- bez zdieľaných definícií,
- iba s interpretáciami navrhnutými tak, aby boli prijateľné a presvedčivé.
V takom prostredí je čoraz ťažšie viesť konštruktívnu debatu. Ľudia sa už totiž nesporia len o názory. Môžu vychádzať z odlišných realít vytvorených AI, ktoré navonok pôsobia rovnako dôveryhodne, no stoja na odlišných predpokladoch. Nebezpečenstvo pritom nespočíva v tom, že AI bude vždy klamať, ale v jej schopnosti presviedčať prostredníctvom nekonečnej kombinácie poloprávd.
Koniec konštruktívnych pochybností
Ako sa generatívna a agentická AI stáva súčasťou každodennej práce, používatelia môžu postupne delegovať nielen úlohy, ale aj vlastný úsudok.
Keď sú odpovede okamžité, prehľadné a presvedčivé, motivácia zápasiť s neistotou prirodzene klesá. Prečo informácie vyhľadávať, porovnávať, overovať a spochybňovať, keď asistent už pripravil stručné manažérske zhrnutie? Prečo sa zaoberať protichodnými argumentmi, keď ich model dokáže preformulovať do jedného uhladeného odstavca? Prečo si vytvárať vlastný názor, keď ho možno vygenerovať, upraviť a naformátovať za pár sekúnd?
Práve tu sa komfort mení na tzv. „outsourcing myslenia“. Generatívna AI nám ponúka odpoveď skôr, než si stihneme položiť správnu otázku. Dodáva hotový návrh skôr, než si vytvoríme vlastné stanovisko. Zjednodušuje komplexnosť skôr, než sa s ňou vôbec stretneme.
Ak sa budeme čoraz viac spoliehať na hotový obsah pripravený na okamžité použitie, môžeme postupne strácať návyky, ktoré z nás robia dobrých profesionálov: kritické myslenie, konštruktívny skepticizmus, zdravú mieru pochybností, overovanie zdrojov, uvažovanie od prvých princípov a schopnosť spochybniť zdanlivo presvedčivú odpoveď.
Rizikom nie je, že ľudia prestanú pracovať, ale že prestanú premýšľať do hĺbky, pričom navonok budú pôsobiť produktívnejšie než kedykoľvek predtým.
V organizáciách je to obzvlášť nebezpečné. Priemerný ľudský výstup zvyčajne prezradí svoje slabiny. Priemerný AI výstup ich dokáže veľmi elegantne zakryť. Prichádza naformátovaný, vyvážený a sebavedomý. Poskytuje manažérom materiál na schválenie, konzultantom podklad na prezentáciu, analytikom dokument na preposlanie a vedúcim pracovníkom citáciu do ďalšej komunikácie.
Stroju pritom stačí jediné – nemusí mať pravdu, stačí, ak je dostatočne presvedčivý na to, aby bez odporu prešiel pracovným procesom.
Dôveru treba budovať vždy nanovo
Praktický záver je jednoduchý: výstupy generatívnej AI by nemali automaticky dediť dôveru z minulých úspechov. Väčšina diskusií o riadení AI sa sústreďuje na ochranu súkromia, bezpečnosť, regulatorný súlad, predsudky či duševné vlastníctvo. To všetko sú dôležité témy, avšak skutočná otázka znie: akú mieru kognitívnej závislosti je organizácia ochotná akceptovať?
Ak zamestnanci nedokážu overiť to, čo AI vytvorí, organizácia nerozšírila ľudskú inteligenciu, iba „automatizovala sebavedomie“. Ak tímy nedokážu vysvetliť, ako vznikol konkrétny záver, bez odkazu na vygenerovanú odpoveď, nezlepšili rozhodovanie. Len preniesli neistotu cez stroj. Ak sa knižnice promptov stanú súčasťou firemného know-how, zatiaľ čo samotný model sa nepredvídateľne mení, organizácia buduje proces na nestabilnej pôde.
Niekedy nie je najlepším asistentom ten, ktorý nám v našom obľúbenom tóne povie to, čo chceme počuť – ale ten, ktorý pred každého položí tie isté nepríjemné fakty.
Generatívna AI výrazne zlacnila tvorbu profesionálne pôsobiaceho obsahu. Znamená to však aj to, že samotná uhladenosť už prestáva byť spoľahlivým indikátorom kvality.
Víťazmi ďalšej fázy adopcie AI nebudú organizácie, ktoré zautomatizujú najviac premýšľania. Budú to tie, ktoré presne vedia, ktoré časti premýšľania nikdy nesmú automatizovať. Nebudú sa pýtať: „Ako dosiahnuť, aby AI znela viac ako človek?“, ale: „Ako zachovať intelektuálnu vitalitu ľudí aj v prostredí, kde AI používame každý deň?“
Najlepší profesionáli budú AI využívať naplno. Nenechajú sa ňou však uniesť. Budú klásť presnejšie otázky, vyžadovať zdroje, porovnávať výsledky, testovať hraničné situácie, zachovávať si nezávislý úsudok a pestovať dnes možno trochu staromódny zvyk pochybovať.
Pretože v ére generatívnej AI sa jednou z najnebezpečnejších viet v biznise môže stať: "Vyzerá to dobre." a jednou z najcennejších odpovedí: "Výborne. Teraz si to poďme overiť."
Generatívna AI je mimoriadne silný nástroj. Nástroje si však nezaslúžia dôveru len preto, že sú užitočné. Práve ich sila si vyžaduje dôkladné preverovanie. Organizácie, ktoré budú v ére AI najúspešnejšie, presne vedia, kde sa využitie AI končí a kde sa musí začať ľudský úsudok.
Kontaktujte našich odborníkov
Ak si želáte viac informácií o tom, ako môžeme pomôcť vášmu podniku, prípadne ak si chcete dohodnúť stretnutie, kontaktujte nás.
