I de sidste to år er der opstået mange myter omkring kunstig intelligens.
Nogle hævder, at AI snart vil erstatte størstedelen af arbejdstagerne. Andre mener, at det er nok at implementere en sprogmodel for at få virksomheden til at fungere hurtigere, billigere og mere effektivt.
Virkeligheden er langt mere kompleks.
Moderne AI-modeller kan faktisk udføre opgaver, som for få år siden syntes forbeholdt mennesker.
De skriver tekster. Analysere dokumenter. Programmerer. Skaber billeder. Opsummerer møder. Svarer kunder.
Oftere planlægger de også næste handlinger, bruger værktøjer, kommunikerer med andre systemer og udfører hele sekvenser af opgaver uden løbende menneskelig indgriben.
Derfor tales der i stigende grad om AI-agenter og autonome systemer.
Det rejser naturligt spørgsmålet: Hvis AI kan træffe beslutninger, er mennesket så stadig nødvendigt?
Svaret er: Ja. Og mere end nogensinde før. Ikke fordi AI er ubrugelig. Tværtimod. Fordi selv den bedste model ikke forstår ansvar, forretningsmæssige konsekvenser eller social kontekst på samme måde som et menneske.
Netop derfor opstod konceptet Human-in-the-Loop, en af de vigtigste søjler i ansvarligt design af systemer baseret på kunstig intelligens.
Hvad vil denne serie handle om?
I de næste fire artikler vil vi vise, hvorfor en succesfuld AI-implementering ikke kun handler om at vælge den rigtige model.
Vi vil blandt andet diskutere:
- hvad Human-in-the-Loop er, og hvordan det adskiller sig fra Human-on-the-Loop og Human-out-of-the-Loop,
- hvornår AI kan arbejde selvstændigt, og hvornår et menneske bør træffe beslutningen,
- hvad AI Governance er, og hvorfor det bliver et af de vigtigste udviklingsområder i organisationer,
- hvordan man designer AI-systemer, som brugerne virkelig kan have tillid til.
Dette bliver ikke en serie om mulighederne i sprogmodeller.
Det bliver en serie om ansvarlig anvendelse af kunstig intelligens i den virkelige forretningsverden.
Hvad er egentlig Human-in-the-Loop?
Kort sagt betyder Human-in-the-Loop (HITL) at designe systemer, hvor mennesket forbliver en aktiv deltager i beslutningsprocessen.
Det betyder ikke, at AI kun udfører simple opgaver. Tværtimod.
Modellen kan analysere tusindvis af poster, forberede anbefalinger, pege på den bedste handlingsplan og endda planlægge næste skridt.
Men før en beslutning, som kræver ansvar, udføres, overgiver systemet den til et menneske.
Det er mennesket, der træffer den endelige beslutning eller godkender handlingen.
I praksis ser det sådan ud: AI analyserer en kundehenvendelse. Fastlægger dens prioritet. Forbereder svaret. Foreslår en løsning. Men beskeden sendes først efter en konsulents godkendelse.
I et andet tilfælde analyserer AI en låneansøgning. Beregner risikoen. Forbereder en anbefaling.
Beslutningen om at bevilge lånet træffes dog af en analytiker. Modellen hjælper. Den tager ikke ansvaret.
Human-in-the-Loop, Human-on-the-Loop og Human-out-of-the-Loop - tre niveauer af overvågning
Selvom begreberne lyder ens, beskriver de helt forskellige modeller for samarbejde mellem mennesker og AI.
Human-in-the-Loop (HITL)
Mennesket deltager direkte i beslutningstagningen.
Systemet forbereder en analyse eller anbefaling, men udfører ikke handlingen uden godkendelse.
Dette er i dag den mest almindelige model i forretningssystemer med medium eller høj risikoprofil.
Human-on-the-Loop (HOTL)
AI arbejder selvstændigt, men mennesket overvåger hele processen.
Man kan stoppe systemet, ændre dets beslutning eller gribe ind, hvis man bemærker uregelmæssigheder.
Sådan fungerer blandt andet nogle netværksovervågningssystemer, operative centre og moderne industrielle løsninger.
Human-out-of-the-Loop (HOOTL)
Systemet fungerer fuldstændigt autonomt.
Det kræver ikke menneskelig godkendelse af beslutninger.
Sådanne løsninger anvendes kun, hvor fejlrisikoen er lille, eller hvor beslutninger er strengt defineret af på forhånd fastsatte regler.
I praksis er fuld autonomi stadig undtagelsen og ikke normen.
AI-autonomi betyder ikke fuldstændig uafhængighed
Det er en af de mest udbredte myter.
Når vi hører om AI-agenter, er det let at få indtryk af, at de er fuldstændigt selvkørende. I virkeligheden opererer de fleste moderne løsninger inden for klart definerede rammer.
En agent kan:
- bruge værktøjer,
- søg efter information,
- udføre opgaver,
- kommunikere med andre systemer,
- planlægge næste skridt.
Det betyder dog ikke, at den bør træffe enhver beslutning alene. Jo større indflydelse beslutningen har på mennesker, økonomi eller organisationssikkerhed, desto større betydning har menneskelig deltagelse.
Hvorfor er mennesket stadig nødvendigt?
AI-modeller er fremragende til at genkende mønstre. Analysere data. Forudse sandsynligheden for bestemte hændelser. Men der er områder, hvor de stadig har begrænsninger.
De bærer ikke ansvar for konsekvenserne af deres beslutninger. De forstår ikke etiske værdier. De kender ikke hele den forretningsmæssige kontekst. De kan ikke selv vurdere, om en beslutning vil være socialt acceptabel. De ved ikke, hvornår et undtagelsesvist valg er bedre end at følge en procedure slavisk.
Derfor forbliver mennesket det sidste led i ansvarsplaceringen.
Hvor fungerer Human-in-the-Loop allerede i dag?
Selvom termen kan virke ny, har vi mødt elementer af den i årevis.
Bankvæsen
AI analyserer transaktioner og opdager mistænkelige operationer.
En bankmedarbejder beslutter at blokere dem eller afvise alarmen.
Medicin
Modellen understøtter analysen af diagnostiske billeder.
Lægen fortolker resultatet og stiller diagnosen.
Cybersikkerhed
Systemet opdager et potentielt angreb.
Administrator beslutter at blokere trafikken eller isolere infrastrukturen.
Kundeservice
AI foreslår et svar på en henvendelse.
Konsulenten godkender eller redigerer indholdet, før det sendes.
Produktion
Modellen forudser risiko for maskinnedbrud.
Ingeniøren planlægger vedligeholdelseshandlinger.
I alle disse tilfælde fremskynder AI arbejdet.
Men ansvaret ligger stadig hos mennesket.
Den mest almindelige fejl ved implementering af AI
Virksomheder stiller ofte spørgsmålet: "Hvordan kan vi automatisere mest muligt?"
Et langt bedre spørgsmål er: "Hvilke beslutninger kan vi sikkert automatisere?"
Der er stor forskel.
Målet er ikke at fjerne mennesket fra processen. Målet er at bruge menneskets tid dér, hvor det virkelig er nødvendigt.
AI bør overtage gentagne analyser. Mennesket bør træffe beslutninger, der kræver erfaring, ansvar og risikovurdering.
Ordlist
Human-in-the-Loop (HITL)
En samarbejdsmodel mellem menneske og kunstig intelligens, hvor AI forbereder en analyse eller anbefaling, mens den endelige beslutning træffes af et menneske.
Human-on-the-Loop (HOTL)
En model hvor AI arbejder selvstændigt, men mennesket overvåger processen og kan gribe ind til enhver tid.
Human-out-of-the-Loop (HOOTL)
En model med fuld autonomi, hvor systemet udfører handlinger uden menneskelig indgriben. Anvendes primært i processer med lav risiko og høj gentagelighed.
AI-agent
Et system, der bruger AI-modeller til at planlægge, udføre og koordinere opgaver ved hjælp af tilgængelige værktøjer og data.
AI-autonomi
Omfanget af systemets selvstændighed ved udførelse af bestemte handlinger eller beslutninger.
Sammenfatning
Den største fejl ville være at opfatte Human-in-the-Loop som en begrænsning for kunstig intelligens. I virkeligheden er det lige omvendt.
Netop menneskets deltagelse gør det muligt at bruge AI på en ansvarlig, sikker og målorienteret måde i organisationen.
Jo mere AI-modeller og agentbaserede systemer udvikler sig, desto vigtigere bliver spørgsmålet ikke om om AI kan træffe en beslutning, men om den bør gøre det alene.
I næste del vil vi besvare et endnu sværere spørgsmål.
Hvilke beslutninger kan sikkert overlades til AI, og hvilke bør altid forblive i menneskers hænder?
Vi vil vise praktiske eksempler fra e-handel, bankvæsen, logistik, produktion og kundeservice samt præsentere en enkel tjekliste, der hjælper med at vurdere risikoen ved automatisering.
