Výstupov je veľa, otázna je ich dôveryhodnosť
V tradičnom trojuholníku je dnes práve kvalita tým prvkom, ktorý sa najčastejšie dostáva pod tlak. Zabezpečenie kvality a overovanie výstupov generatívnej AI si dnes vyžaduje viac času, než si mnohé organizácie pripúšťajú. Medzi najčastejšie riziká, ktoré ovplyvňujú kvalitu výstupov patria:
Autor článku
Alexander Zagnetko
Manager
Process Organization and Improvement
- postupná degradácia modelov v čase (model drift),
- “halucinované” alebo úplne vymyslené odpovede,
- skryté alebo zosilnené predsudky,
- nedostatočná transparentnosť tréningových dát a rozhodovacej logiky.
Presnosť generovaného obsahu je v mnohých prípadoch kolísavá alebo nízka. Dezinformácie pritom nevznikajú len ako vedľajší produkt technických obmedzení, ale čoraz častejšie aj ako výsledok cielenej manipulácie.
Keď sa AI učí od AI
Problémy s kvalitou výstupov sa navyše navzájom znásobujú. Masové využívanie AI pri tvorbe obsahu postupne podkopáva dôveryhodnosť tradičných informačných zdrojov a médií. Nové modely sú tak trénované na čoraz menej spoľahlivých dátach. Vzniká tak bludný kruh, v ktorom sa chyby šíria exponenciálne. Často sú podporené odkazmi na zdroje, ktoré sú síce nesprávne, no pôsobia dôveryhodne.
„Keď sa systémy AI učia prevažne z obsahu vytvoreného inými systémami AI, chyby sa nielen zachovávajú – automaticky sa škálujú.“
Paradox expertízy v AI svete
Odborníci so širokým interdisciplinárnym rozhľadom budú čoraz hodnotnejší, keďže sú lepšie pripravení odhaľovať chyby a overovať fakty naprieč rôznymi oblasťami - od histórie a ekonómie až po vedu a technológie.
Zároveň však rastie aj riziko, že samotné ľudské kognitívne schopnosti začnú slabnúť. Podobne ako masové používanie kalkulačiek znížilo potrebu mentálneho počítania, prílišná závislosť od generatívnej a agentovej AI môže oslabiť našu schopnosť samostatne analyzovať informácie, overovať fakty, rozpoznávať dôveryhodné zdroje, uplatňovať konštruktívny skepticizmus a kriticky myslieť.
Keď ľudský dohľad prestáva byť udržateľný
AI agenti čoraz viac komunikujú medzi sebou priamo prostredníctvom strojových protokolov. Zmysluplné ľudské overovanie sa tak stáva prakticky nemožným.
Ako pribúda obsah čitateľný najmä pre stroje, dohľad so zapojením ľudí (tzv. human-in-the-loop) sa stáva čoraz ťažšie udržateľný. Gartner napríklad odhaduje, že do roku 2028 bude až 90 % B2B nákupných interakcií sprostredkovaných AI agentmi.
V takomto prostredí už ľudia jednoducho nebudú schopní posudzovať, overovať ani zmysluplne dohliadať na informačné toky a rozhodnutia vytvárané miliardami vzájomne komunikujúcich agentov.
Mýtus kvality bez úsilia
S rastúcim nasadením AI často nezostáva dostatok času ani priestoru na dôslednú kontrolu kvality.
Medzi rozšírené manažérske predpoklady dnes patria:
- AI automaticky zvyšuje kvalitu,
- rýchlosť si nevyžaduje kompromisy,
- nižšie náklady znamenajú nižšie riziko.
Mnohí lídri predpokladajú, že AI súčasne znižuje náklady, zrýchľuje dodanie a zvyšuje kvalitu. Toto presvedčenie vytvára tlak na tímy, aby dodávali výstupy čo najrýchlejšie, často na úkor kvality a dlhodobej dôvery.
Čo bude ďalej?
Otázkou už nie je, či AI dokáže prinášať rýchlejšie a lacnejšie výsledky. Oveľa dôležitejšie je, či organizácie a spoločnosť dokážu rozvíjať zručnosti, modely riadenia a disciplínu potrebnú na zachovanie kvality, dôvery a nezávislého myslenia.
To je skutočný trojuholník éry umelej inteligencie.
Nie rýchlo, lacno a kvalitne.
Ale rýchlosť, rozsah a dôvera.
Pragmatická cesta vpred
Firmy sa dostávajú pod tlak konať rýchlejšie a zároveň si udržať vysoké štandardy. V takomto prostredí nemusia byť najcennejšími profesionálmi tí, ktorí AI využívajú najviac, ale tí, ktorí ju dokážu efektívne spochybňovať.
Firmy môžu podniknúť niekoľko praktických krokov k zodpovednejšiemu využívaniu AI:
Viac sa dozviete v štúdiách:
Kontaktujte našich odborníkov
Ak si želáte viac informácií o tom, ako môžeme pomôcť vášmu podniku, prípadne ak si chcete dohodnúť stretnutie, kontaktujte nás.
