Počas posledných dvoch rokov okolo umelej inteligencie vzniklo mnoho mýtov.
Jedni tvrdia, že AI čoskoro nahradí väčšinu pracovníkov. Iní si myslia, že stačí nasadiť jazykový model a firma bude fungovať rýchlejšie, lacnejšie a efektívnejšie.
Realita je omnoho zložitejšia.
Moderné modely AI skutočne dokážu vykonávať úlohy, ktoré ešte pred pár rokmi vyzerali ako výhradná doména ľudí.
Píšu texty. Analyzujú dokumenty. Programujú. Vytvárajú obrázky. Zhrňujú stretnutia. Odpovedajú zákazníkom.
Čoraz častejšie tiež plánujú ďalšie kroky, používajú nástroje, komunikujú s inými systémami a vykonávajú celé sekvencie úloh bez neustálej ľudskej intervencie.
Práve preto sa častejšie hovorí o AI agentoch a autonómnych systémoch.
Vzniká tak prirodzená otázka: Keď AI dokáže prijímať rozhodnutia, je človek stále potrebný?
Odpoveď znie: Áno. A to viac než kedykoľvek predtým. Nie preto, že by AI bola zbytočná. Práve naopak. Preto, že ani ten najlepší model nerozumie zodpovednosti, obchodným dôsledkom ani sociálnemu kontextu tak, ako to dokáže človek.
Práve z tohto dôvodu vznikla koncepcia Human-in-the-Loop, teda jeden z najdôležitejších pilierov zodpovedného navrhovania systémov založených na umelej inteligencii.
O čom bude táto séria?
V priebehu nasledujúcich štyroch článkov ukážeme, prečo úspešné nasadenie AI nezávisí len na výbere správneho modelu.
Preberieme medzi iným:
- čo je Human-in-the-Loop a čím sa líši od Human-on-the-Loop a Human-out-of-the-Loop,
- kedy môže AI fungovať samostatne a kedy by rozhodnutie mal urobiť človek,
- čo je AI Governance a prečo to bude jedna z kľúčových oblastí rozvoja organizácií,
- ako navrhovať AI systémy, ktorým budú používatelia naozaj dôverovať.
Nebude to séria o možnostiach jazykových modelov.
Bude to séria o zodpovednom využívaní umelej inteligencie v reálnom biznise.
Čo vlastne znamená Human-in-the-Loop?
Najjednoduchšie povedané, Human-in-the-Loop (HITL) znamená navrhovať systémy, v ktorých človek zostáva aktívnym účastníkom rozhodovacieho procesu.
To neznamená, že AI vykonáva len jednoduché úlohy. Práve naopak.
Model môže analyzovať tisíce záznamov, pripraviť odporúčanie, navrhnúť najlepší postup a dokonca naplánovať nasledujúce kroky.
Avšak pred vykonaním rozhodnutia, ktoré nesie zodpovednosť, systém postúpi otázku človeku.
Práve človek urobí konečné rozhodnutie alebo potvrdí akciu.
V praxi to vyzerá takto: AI analyzuje požiadavku zákazníka. Určí jej prioritu. Pripraví odpoveď. Navrhne riešenie. Ale správa je odoslaná až po schválení konzultantom.
V inom prípade AI analyzuje žiadosť o úver. Vypočíta riziko. Pripraví odporúčanie.
Rozhodnutie o schválení úveru však urobí analytik. Model pomáha. Nerobí zodpovednosť za rozhodnutie.
Human-in-the-Loop, Human-on-the-Loop a Human-out-of-the-Loop - tri úrovne dozorovania
Hoci tieto pojmy znejú podobne, označujú úplne odlišné modely spolupráce človeka s AI.
Human-in-the-Loop (HITL)
Človek sa priamo podieľa na prijímaní rozhodnutí.
Systém pripraví analýzu alebo odporúčanie, ale nevykoná akciu bez potvrdenia.
Tento model je dnes najbežnejší v podnikových systémoch so stredným alebo vysokým rizikom.
Human-on-the-Loop (HOTL)
AI funguje samostatne, ale človek dohliada na celý proces.
Môže systém zastaviť, upraviť jeho rozhodnutie alebo zasiahnuť, ak zaznamená nepravidelnosti.
Takto fungujú napríklad niektoré systémy monitorujúce počítačové siete, operačné centrá alebo moderné priemyselné riešenia.
Human-out-of-the-Loop (HOOTL)
Systém funguje úplne autonómne.
Nevyžaduje schválenie rozhodnutí človekom.
Takéto riešenia sa používajú výhradne tam, kde je riziko chyby malé alebo kde sú rozhodnutia striktne definované vopred stanovenými pravidlami.
V praxi je plná autonómia stále skôr výnimkou než štandardom.
Autonómia AI neznamená úplnú nezávislosť
To je jeden z najčastejších mýtov.
Keď počujeme o AI agentoch, ľahko nadobudneme dojem, že ide o systémy konajúce úplne samostatne. V skutočnosti väčšina moderných riešení funguje v jasne definovaných hraniciach.
Agent môže:
- používať nástroje,
- vyhľadávať informácie,
- vykonávať úlohy,
- komunikovať s inými systémami,
- plánovať ďalšie kroky.
To však neznamená, že by mal prijímať každé rozhodnutie sám. Čím väčší vplyv má rozhodnutie na človeka, financie alebo bezpečnosť organizácie, tým dôležitejšia je účasť človeka.
Prečo je človek stále potrebný?
Modely AI excelujú v rozpoznávaní vzorov. Analyzujú dáta. Predikujú pravdepodobnosť určitých udalostí. Napriek tomu existujú oblasti, kde majú obmedzenia.
Neberú zodpovednosť za následky svojich rozhodnutí. Nerozumejú etickým hodnotám. Neovládajú plný obchodný kontext. Nedokážu samostatne posúdiť, či bude rozhodnutie spoločensky akceptovateľné. Nevedia, kedy je výnimka z pravidla lepšia než striktne dodržiavaná procedúra.
Práve preto zostáva človek posledným článkom zodpovednosti.
Kde Human-in-the-Loop funguje už dnes?
Hoci sa terminológia môže zdať nová, prvky HITL stretávame už roky.
Bankovníctvo
AI analyzuje transakcie a odhaľuje podozrivé operácie.
Bankový pracovník rozhodne o ich zablokovaní alebo o zamietnutí alertu.
Medicína
Model podporuje analýzu diagnostických snímok.
Lekár interpretuje výsledok a stanoví diagnózu.
Kyberbezpečnosť
Systém zistí potenciálny útok.
Správca rozhodne o zablokovaní prevádzky alebo izolovaní infraštruktúry.
Zákaznícka podpora
AI navrhne odpoveď na požiadavku.
Konzultant ju schváli alebo upraví pred odoslaním.
Výroba
Model predpovedá riziko poruchy stroja.
Inžinier naplánuje servisné zásahy.
Vo všetkých týchto prípadoch AI urýchľuje prácu.
Ale zodpovednosť zostáva na strane človeka.
Najčastejšia chyba pri zavádzaní AI
Firmy sa často pýtajú: "Ako čo najviac automatizovať?"
Podstatne lepšia otázka znie: "Ktoré rozhodnutia je bezpečné automatizovať?"
To je zásadný rozdiel.
Cieľom nie je odstrániť človeka z procesu. Cieľom je využiť jeho čas tam, kde je naozaj potrebný.
AI by mala preberať opakované analýzy. Človek by mal robiť rozhodnutia vyžadujúce skúsenosť, zodpovednosť a posúdenie rizika.
Slovník pojmov
Human-in-the-Loop (HITL)
Model spolupráce človeka a umelej inteligencie, v ktorom AI pripraví analýzu alebo odporúčanie, zatiaľ čo konečné rozhodnutie robí človek.
Human-on-the-Loop (HOTL)
Model, v ktorom AI funguje samostatne, ale človek dohliada na proces a môže kedykoľvek zasiahnuť.
Human-out-of-the-Loop (HOOTL)
Model plnej autonómie, v ktorom systém vykonáva akcie bez účasti človeka. Používa sa predovšetkým v procesoch s nízkym rizikom a vysokou opakovateľnosťou.
AI agent
Systém využívajúci modely umelej inteligencie na plánovanie, vykonávanie a koordináciu úloh pomocou dostupných nástrojov a dát.
Autonómia AI
Rozsah samostatnosti systému AI pri vykonávaní určitých akcií alebo prijímaní rozhodnutí.
Zhrnutie
Najväčšou chybou by bolo vnímať Human-in-the-Loop ako obmedzenie pre umelú inteligenciu. V skutočnosti je to práve naopak.
Práve účasť človeka umožňuje, aby AI bola využívaná zodpovedne, bezpečne a v súlade s cieľmi organizácie.
Čím viac sa rozvíjajú modely AI a agentné systémy, tým dôležitejšie je otázka nie to, či AI dokáže urobiť rozhodnutie, ale či by to mala robiť sama.
V ďalšej časti odpovieme na ešte náročnejšiu otázku.
Ktoré rozhodnutia je možné bezpečne zveriť AI a ktoré by vždy mali zostať v rukách človeka?
Ukážeme praktické príklady z e-commerce, bankovníctva, logistiky, výroby a zákazníckej podpory a predstavíme jednoduchý kontrolný zoznam, ktorý pomôže vyhodnotiť úroveň rizika pri automatizácii.
