Během posledních dvou let kolem umělé inteligence nabylo mnoho mýtů.
Někteří tvrdí, že AI brzy nahradí většinu pracovníků. Jiní si myslí, že stačí nasadit jazykový model a firma bude fungovat rychleji, levněji a efektivněji.
Realita je mnohem složitější.
Moderní modely AI skutečně zvládají úkoly, které ještě před několika lety vypadaly jako výlučná doména lidí.
Píšou texty. Analyzují dokumenty. Programují. Vytvářejí obrazy. Shrnutíjí schůzky. Odpovídají zákazníkům.
Čím dál častěji rovněž plánují další kroky, využívají nástroje, komunikují s jinými systémy a provádějí celé sekvence úkolů bez průběžné lidské intervence.
Právě proto se stále častěji hovoří o AI agentech a autonomních systémech.
Objevuje se tedy přirozená otázka: Jestliže AI dokáže přijímat rozhodnutí, je člověk stále potřeba?
Odpověď zní: Ano. A více než kdy dříve. Ne proto, že by AI byla zbytečná. Naopak. Proto, že ani ten nejlepší model nerozumí odpovědnosti, obchodním důsledkům ani sociálnímu kontextu tak, jak to dělá člověk.
Právě z tohoto důvodu vznikla koncepce Human-in-the-Loop, tedy jeden z nejdůležitějších pilířů odpovědného navrhování systémů založených na umělé inteligenci.
O čem bude tato série?
V průběhu následujících čtyř článků ukážeme, proč úspěšné nasazení AI nespočívá pouze ve výběru správného modelu.
Probereme mimo jiné:
- co je Human-in-the-Loop a čím se liší od Human-on-the-Loop a Human-out-of-the-Loop,
- kdy může AI fungovat samostatně a kdy by rozhodnutí měl učinit člověk,
- co je AI Governance a proč to bude jeden z klíčových oblastí rozvoje organizací,
- jak navrhovat AI systémy, kterým budou uživatelé skutečně důvěřovat.
Nebude to série o možnostech jazykových modelů.
Bude to série o odpovědném využívání umělé inteligence v reálném byznysu.
Co vlastně znamená Human-in-the-Loop?
Jednoduše řečeno, Human-in-the-Loop (HITL) znamená navrhování systémů, ve kterých člověk zůstává aktivním účastníkem rozhodovacího procesu.
Neznamená to, že AI vykonává jen jednoduché úkoly. Naopak.
Model může analyzovat tisíce záznamů, připravit doporučení, navrhnout nejlepší scénář a dokonce naplánovat další kroky.
Před vykonáním rozhodnutí, které nese odpovědnost, však systém předá rozhodnutí člověku.
Právě člověk učiní konečné rozhodnutí nebo schválí akci.
V praxi to vypadá takto: AI analyzuje zákaznické hlášení. Určí jeho prioritu. Připraví odpověď. Navrhne řešení. Ale zpráva je odeslána až po schválení konzultantem.
Jindy AI analyzuje žádost o úvěr. Vypočítá riziko. Připraví doporučení.
Rozhodnutí o přiznání úvěru ale přijímá analytik. Model pomáhá. Nezastupuje odpovědnost.
Human-in-the-Loop, Human-on-the-Loop a Human-out-of-the-Loop - tři úrovně dohledu
Ačkoli to zní podobně, tato pojmenování označují zcela odlišné modely spolupráce člověka s AI.
Human-in-the-Loop (HITL)
Člověk se přímo účastní rozhodování.
Systém připraví analýzu nebo doporučení, ale nevykoná akci bez schválení.
Tento model se dnes nejčastěji používá v obchodních systémech se střední nebo vysokou mírou rizika.
Human-on-the-Loop (HOTL)
AI jedná samostatně, ale člověk dohlíží na celý proces.
Může systém zastavit, změnit jeho rozhodnutí nebo zasáhnout, když zaznamená nesrovnalosti.
Tak fungují například některé systémy monitoringu sítí, operační centra nebo moderní průmyslová řešení.
Human-out-of-the-Loop (HOOTL)
Systém pracuje zcela autonomně.
Nevyžaduje schválení rozhodnutí člověkem.
Taková řešení se používají výhradně tam, kde je riziko chyby malé nebo kde jsou rozhodnutí přísně definována předem stanovenými pravidly.
V praxi je plná autonomie stále spíše výjimkou než standardem.
Autonomie AI neznamená úplnou nezávislost
To je jeden z nejčastějších mýtů.
Když slyšíme o AI agentech, může se zdát, že jde o systémy jednat zcela samostatně. Ve skutečnosti většina moderních řešení funguje v jasně daných hranicích.
Agent může:
- využívat nástroje,
- vyhledávat informace,
- vykonávat úkoly,
- komunikovat s jinými systémy,
- plánovat další kroky.
Neznamená to však, že by měl samostatně rozhodovat o každé záležitosti. Čím větší dopad má rozhodnutí na člověka, finance nebo bezpečnost organizace, tím důležitější je zapojení člověka.
Proč je člověk stále potřeba?
Modely AI výborně rozpoznávají vzory. Analyzují data. Predikují pravděpodobnost událostí. Přesto existují oblasti, kde mají omezení.
Ne nesou odpovědnost za následky svých rozhodnutí. Nerozumějí etickým hodnotám. Neznají plný obchodní kontext. Nedokážou samostatně posoudit, zda bude rozhodnutí společensky akceptovatelné. Nevědí, kdy je výjimka lepší než dodržení procedury.
Právě proto zůstává člověk posledním článkem odpovědnosti.
Kde Human-in-the-Loop funguje už dnes?
I když se termín může zdát nový, s jeho prvky se potkáváme už roky.
Bankovnictví
AI analyzuje transakce a odhaluje podezřelé operace.
Bankovní pracovník rozhodne o jejich zablokování nebo o odmítnutí alertu.
Medicína
Model podporuje analýzu diagnostických snímků.
Lékař interpretuje výsledek a stanoví diagnózu.
Kyberbezpečnost
Systém detekuje potenciální útok.
Správce rozhodne o zablokování provozu nebo izolaci infrastruktury.
Zákaznická podpora
AI navrhne odpověď na dotaz.
Konzultant schválí nebo upraví obsah před odesláním.
Výroba
Model predikuje riziko poruchy stroje.
Inženýr plánuje servisní zásahy.
Ve všech těchto případech AI urychluje práci.
Ale odpovědnost zůstává na straně člověka.
Nejčastější chyba při zavádění AI
Firmy často pokládají otázku: "Jak automatizovat co nejvíc?"
Lepší otázka zní: "Která rozhodnutí lze bezpečně automatizovat?"
To je zásadní rozdíl.
Cílem není odstranit člověka z procesu. Cílem je využít jeho čas tam, kde je skutečně potřeba.
AI by měla převzít opakující se analýzy. Člověk by měl činit rozhodnutí vyžadující zkušenost, odpovědnost a posouzení rizika.
Slovníček pojmů
Human-in-the-Loop (HITL)
Model spolupráce člověka a umělé inteligence, v němž AI připravuje analýzu nebo doporučení, zatímco konečné rozhodnutí činí člověk.
Human-on-the-Loop (HOTL)
Model, v němž AI pracuje samostatně, ale člověk proces dohlíží a může kdykoli zasáhnout.
Human-out-of-the-Loop (HOOTL)
Model plné autonomie, v němž systém vykonává činnosti bez účasti člověka. Používá se především v procesech s nízkým rizikem a vysokou opakovatelností.
AI agent
Systém využívající modely umělé inteligence k plánování, vykonávání a koordinaci úkolů pomocí dostupných nástrojů a dat.
Autonomie AI
Rozsah samostatnosti systému AI při provádění určitých činností nebo při rozhodování.
Shrnutí
Největší chybou by bylo vnímat Human-in-the-Loop jako omezení pro umělou inteligenci. Ve skutečnosti je tomu přesně naopak.
Právě účast člověka umožňuje, aby AI byla využívána odpovědně, bezpečně a v souladu s cíli organizace.
Čím více se vyvíjejí modely AI a agentní systémy, tím důležitější je otázka ne zda AI dokáže rozhodnout, ale zda by to měla dělat sama.
V další části odpovíme na ještě náročnější otázku.
Která rozhodnutí lze bezpečně svěřit AI a která by vždy měla zůstat v rukou člověka?
Uvedeme praktické příklady z e‑commerce, bankovnictví, logistiky, výroby a zákaznické podpory a představíme jednoduchý kontrolní seznam, který pomůže odhadnout úroveň rizika automatizace.
