In het eerste deel van onze serie legden we uit wat Human-in-the-Loop is en waarom de ontwikkeling van kunstmatige intelligentie niet betekent dat de mens uit het besluitvormingsproces moet verdwijnen.
We hebben drie basismodellen van samenwerking leren kennen:
- Human-in-the-Loop - de mens neemt actief deel aan het beslissingsproces,
- Human-on-the-Loop - AI werkt zelfstandig, maar de mens houdt toezicht op het systeem,
- Human-out-of-the-Loop - het systeem werkt autonoom, zonder voortdurende menselijke tussenkomst.
Nu het belangrijkste: Hoe weet je welk model je moet kiezen?
Want hier begint de echte uitdaging.
Het is niet genoeg om te zeggen: "Deze beslissing is eenvoudig, dus laten we AI het laten doen."
Noch: "Deze beslissing is belangrijk, dus een mens moet hem altijd goedkeuren."
De werkelijkheid is complexer.
Een goede AI-architectuur moet onder andere rekening houden met:
- risiconiveau,
- kost van een fout,
- omkeerbaarheid van de beslissing,
- impact op mensen,
- beschikbaarheid van data,
- mogelijkheid om aanbevelingen toe te lichten,
- frequentie van beslissingen,
- mogelijkheid tot effectieve supervisie van het systeem.
Pas na analyse van deze elementen kun je bepalen hoeveel autonomie je veilig aan AI kunt toevertrouwen.
Belangrijkste regel: automatiseer geen beslissingen die je niet kunt controleren
Implementatie van AI begint vaak met de vraag: "Wat kunnen we automatiseren?"
In een volwassen organisatie zou de vraag moeten zijn: "Wat kunnen we automatiseren en nog steeds effectief controleren?"
Dat is een wezenlijk verschil.
Je kunt immers een systeem bouwen dat duizenden beslissingen per dag automatisch neemt. Technisch kan dat perfect werken.
Maar als niemand weet:
- waarom het een bepaalde beslissing nam,
- op welke data het zich baseerde,
- wanneer het fouten begint te maken,
- wie het systeem kan stoppen,
- wie verantwoordelijk is voor de gevolgen,
dan hebben we geen volwassen automatisering. We hebben automatische risicogeneratie.
Vier vragen die je moet stellen voordat je een beslissing automatiseert
Voordat je een beslissing aan een AI-systeem toevertrouwt, is het verstandig een eenvoudige analyse uit te voeren.
1. Wat gebeurt er als AI een fout maakt?
Dat is de fundamentele vraag.
Niet elke fout heeft dezelfde consequenties.
Als AI een nieuwsbrief verkeerd classificeert, gebeurt er waarschijnlijk niets ernstigs. Als het een poging tot fraude verkeerd herkent, kan dat leiden tot financieel verlies. Als het de gezondheidstoestand van een patiënt fout beoordeelt, kunnen de consequenties veel ernstiger zijn.
Daarom moet het niveau van autonomie proportioneel zijn aan de potentiële gevolgen van een fout.
2. Is de beslissing gemakkelijk terug te draaien?
Dit is een van de belangrijkste maar vaak over het hoofd geziene parameters.
Stel je twee gevallen voor.
AI verandert automatisch de volgorde waarin producten in een webwinkel worden getoond. Een fout kan worden opgespoord en teruggedraaid. Het risico is relatief klein.
Nu een ander voorbeeld.
AI verwijdert automatisch een gebruikersaccount en verwijdert alle gegevens. Zo’n beslissing kan veel moeilijker terug te draaien zijn.
Een ander scenario: AI stuurt automatisch een opzeggingsbrief naar een klant. De consequenties kunnen nog ernstiger zijn.
Daarom moet omkeerbaarheid van beslissingen een van de basiscriteria zijn bij het ontwerpen van AI-systemen.
3. Heeft de beslissing directe invloed op mensen?
Als AI de route van een bestelwagen optimaliseert, kan het risiconiveau relatief laag zijn.
Als het systeem echter een kandidaat voor een baan beoordeelt, een lening toekent of toegang tot een bepaalde dienst analyseert, ziet de situatie er heel anders uit.
Beslissingen die mensen direct raken vereisen extra voorzichtigheid. Niet alleen om ethische redenen, maar ook vanwege regelgeving, verantwoordelijkheden van de organisatie en het risico van discriminatie.
In zulke domeinen kan de mens meer zijn dan alleen de "laatste klik". Hij moet echte mogelijkheden hebben om de aanbeveling van het systeem aan te vechten.
4. Kan een mens het systeem effectief toezicht houden?
Deze vraag is sluwer dan hij lijkt.
Stel je een systeem voor dat 50.000 aanbevelingen per dag genereert. Formeel kan een mens ze allemaal goedkeuren. Praktisch is dat onmogelijk. Na verloop van tijd zal een medewerker beslissingen steeds meer automatisch accepteren.
Dan ontstaat het fenomeen dat automation bias wordt genoemd - de neiging om aanbevelingen van het systeem te overschatten en als standaard correct te beschouwen.
De mens zit nog steeds "in de lus". Maar in de praktijk houdt hij niet langer de controlefunctie. Hij wordt slechts een operator van de knop "Accepteren".
Dat is geen echte Human-in-the-Loop.
Model voor risicobeoordeling van beslissingen
In de praktijk kun je een eenvoudig beoordelingsmodel toepassen.
Elke beslissing analyseren we aan de hand van vijf parameters:
1. Waarschijnlijkheid van fout
Hoe vaak kan het systeem een fout maken?
2. Omvang van de consequenties
Hoe ernstig zal een fout zijn?
3. Omkeerbaarheid
Kan de beslissing snel worden teruggedraaid?
4. Impact op de mens
Heeft de beslissing directe invloed op rechten, financiën, gezondheid of veiligheid van een persoon?
5. Mogelijkheid tot toezicht
Kan een mens het proces effectief monitoren?
Hoe hoger het risico, hoe groter de noodzaak van menselijke betrokkenheid. Dat betekent niet dat elke hoog-risico beslissing handmatig genomen moet worden. Het betekent dat het systeem passende controlemechanismen moet hebben.
Niveau 1 - directe automatisering
Dit zijn de eenvoudigste beslissingen.
Voorbeelden:
- sorteren van berichten,
- classificeren van documenten,
- genereren van samenvattingen,
- aanbevelen van producten,
- toewijzen van tickets aan categorieën.
AI kan autonoom handelen. Een mens hoeft niet elke beslissing goed te keuren. Het systeem moet echter wel gemonitord worden.
Dit model lijkt op Human-on-the-Loop.
Niveau 2 - AI adviseert, mens keurt goed
Hier analyseert AI data en doet een voorstel.
De mens neemt de beslissing.
Voorbeelden:
- aanbeveling van de hoogte van een korting,
- voorstel voor een antwoord op een klacht,
- aanbeveling van serviceacties,
- risico-inschatting van een transactie,
- voorstel voor de prioriteit van een ticket.
Dit is de klassieke Human-in-the-Loop.
Het model werkt goed waar AI de analyse sterk kan versnellen, maar de beslissing ervaring van een mens vereist.
Niveau 3 - AI werkt zelfstandig, maar met interventiemogelijkheid
Het systeem neemt automatisch een beslissing. De mens kan die echter stoppen of wijzigen.
Een voorbeeld is automatische blokkering van verdachte transacties. Het systeem detecteert een afwijkend patroon en blokkeert de transactie. Als de klant een probleem meldt, kan een medewerker de beslissing verifiëren.
In dit model zijn cruciaal:
- monitoring,
- meldingen,
- mogelijkheid tot handmatige interventie,
- loggen van beslissingen,
- noodmechanismen.
Niveau 4 - volledige autonomie
AI werkt zonder lopende menselijke betrokkenheid.
Dit model moet gereserveerd zijn voor processen die:
- herhaalbaar zijn,
- goed gedefinieerd zijn,
- laag risico hebben,
- makkelijk te monitoren zijn,
- terug te draaien zijn.
Een voorbeeld is automatische schaalvergroting van cloudinfrastructuur.
Het systeem detecteert verhoogde belasting. Het start extra resources en schakelt ze uit als het verkeer daalt. Niemand hoeft elke beslissing afzonderlijk goed te keuren.
Als het systeem echter onvoorziene kosten begint te genereren, moet er een mechanisme zijn om zijn werking te beperken.
Autonomie mag nooit controle betekenen ontbreken.
Voorbeeld 1 - e-commerce
Stel je een webwinkel voor.
AI analyseert:
- koopgeschiedenis,
- gedrag van de gebruiker,
- seizoensinvloeden,
- concurrentieprijzen,
- productbeschikbaarheid.
Het kan klanten producten aanbevelen. Dat is een relatief veilig proces.
Het systeem kan autonoom werken. Maar wat als AI zelfstandig prijzen moet bepalen? Dan wordt het ingewikkelder.
Dynamische prijsstelling kan geautomatiseerd worden, maar moet binnen vastgestelde grenzen opereren.
Het systeem kan hebben:
- een minimumprijs,
- een maximumprijs,
- maximale prijswijziging per dag,
- regels rond promoties.
Als AI bepaalde limieten wil overschrijden, kan de beslissing aan een mens worden voorgelegd.
Dit is een voorbeeld van guardrails, beveiligingsbeperkingen die het systeem sturen.
Voorbeeld 2 - werving
AI analyseert cv’s van kandidaten.
Het kan:
- ervaring identificeren,
- informatie ordenen,
- competenties matchen met vereisten.
Dat kan het werk van een recruiter aanzienlijk versnellen.
Maar de beslissing: "Deze kandidaat wijzen we af." is van een heel ander kaliber.
Als het systeem die automatisch neemt, kan het bestaande fouten in historische data bestendigen.
Daarom kan menselijke betrokkenheid in HR-processen cruciaal zijn. AI mag de recruiter ondersteunen, maar zou niet automatisch over de waarde van een mens moeten oordelen op basis van onvolledige data.
Voorbeeld 3 - logistiek
Een AI-systeem plant leveringen.
Het analyseert:
- afstanden,
- file,
- weer,
- beschikbaarheid van chauffeurs,
- werktijden,
- brandstofkosten.
Het kan routes autonoom optimaliseren.
Maar wat als het systeem een goedkopere route kiest die geen rekening houdt met lokale beperkingen? Of als het levertijden optimaliseert ten koste van overmatige belasting van chauffeurs?
Daarom moet het systeem binnen duidelijke bedrijfsregels opereren.
AI optimaliseert. De organisatie definieert grenzen. Een mens grijpt in wanneer het systeem buiten veilige grenzen treedt.
Voorbeeld 4 - bankwezen
AI kan anomalieën in transacties detecteren.
Als het systeem een verdachte operatie vindt, kan het deze automatisch markeren.
Maar wat dan?
Er zijn verschillende scenario’s mogelijk:
- alleen een alert voor een medewerker,
- tijdelijke opschorting van de transactie,
- automatische blokkade,
- blokkade waarbij aanvullende verificatie vereist is.
De keuze hangt af van het risiconiveau.
Bij een verdachte transactie van een klein bedrag is automatisering acceptabel. Bij complexere gevallen is de analyse van een expert nodig.
Daarom moeten AI-systemen mechanismen hebben voor escalatie, het doorsturen naar een mens wanneer onzekerheid of risico boven een drempel uitkomt.
Confidence score - weet AI wanneer het het niet weet?
Een interessant mechanisme is het gebruik van een betrouwbaarheidsniveau.
Het systeem kan inschatten: "Mijn aanbeveling heeft een hoge waarschijnlijkheid van juistheid."
Dan kan de actie automatisch worden uitgevoerd.
Als het systeem zijn aanbeveling echter als onzeker beoordeelt, kan het proces aan een mens worden overgedragen.
Bijvoorbeeld:
Confidence score > 95% Automatische uitvoering.
Confidence score 70-95% Aanbeveling voor een mens.
Confidence score < 70% Verplichte verificatie door een expert.
Toch voorzichtigheid geboden.
Een confidence score is geen automatische garantie voor juistheid. Een model kan erg zeker zijn en toch fout zitten. Daarom moet het betrouwbaarheidsniveau een van de factoren in de beoordeling zijn, niet het enige criterium.
Grootste risico: de mens die stopt met het controleren van AI
Je kunt een systeem ontwerpen met Human-in-the-Loop.
Je kunt een knop toevoegen: "Keer AI-beslissing goed."
Je kunt een persoon inhuren om te controleren.
En toch een gevaarlijk systeem creëren.
Waarom? Omdat een mens AI misschien meer gaat vertrouwen dan zijn eigen ervaring.
Als het systeem bij 1000 gevallen correct werkt, analyseert de mens het 1001e geval mogelijk niet meer grondig. Dat is menselijk.
Daarom moet een goed systeem niet alleen goedkeuring vereisen. Het moet de mens ook van de juiste context voorzien.
Bijvoorbeeld:
- waarom AI die beslissing nam,
- welke data het gebruikte,
- welke alternatieven het overwoog,
- wat het onzekerheidsniveau is,
- wat er kan gebeuren na uitvoering van de beslissing.
Dan is de mens niet alleen een "veiligheidsrem".
Hij wordt een echte partner van het systeem.
Human-in-the-Loop mag geen schijnvertoning zijn
Dat is een van de belangrijkste ontwerpprincipes van AI-systemen.
Als een mens AI moet controleren, moet hij beschikken over:
- voldoende kennis,
- genoeg tijd,
- toegang tot data,
- mogelijkheid om aanbevelingen aan te vechten,
- mogelijkheid om het proces te stoppen,
- duidelijke verantwoordelijkheden.
Als een medewerker alleen maar op "Accepteren" of "Weigeren" kan klikken maar niet kan nagaan waarom AI die beslissing nam, is zijn rol sterk beperkt.
Erger is het als het systeem zo snel werkt dat de mens niet kan bijhouden met de analyse. Formeel hebben we Human-in-the-Loop, praktisch hebben we automatisering met een mens als decoratief element.
Praktische checklist - kun je deze beslissing aan AI overlaten?
Voor je automatiseert, beantwoord de volgende vragen:
☐ Is de beslissing herhaalbaar?
☐ Hebben we voldoende goede data?
☐ Kunnen we bepalen wanneer AI fouten maakt?
☐ Is een fout acceptabel?
☐ Kan de beslissing worden teruggedraaid?
☐ Heeft de beslissing directe invloed op mensen?
☐ Bestaan er duidelijke bedrijfsregels?
☐ Kan het systeem gemonitord worden?
☐ Kan een mens de AI stoppen?
☐ Is duidelijk wie de verantwoordelijkheid draagt?
☐ Kan de beslissing worden uitgelegd?
☐ Heeft de mens voldoende tijd en kennis om het systeem effectief te monitoren?
Hoe vaker het antwoord "nee" is, hoe voorzichtiger je moet zijn met automatisering.
Woordenlijst
Automation Bias
De neiging van mensen om te veel te vertrouwen op aanbevelingen van automatische systemen en deze zonder voldoende verificatie als correct te beschouwen.
Guardrails
Beperkingen en beveiligingsmechanismen die definiëren wat een AI-systeem wel en niet mag doen.
Confidence Score
Een indicator van het vertrouwensniveau van het model ten opzichte van een uitkomst of aanbeveling. Het is geen garantie voor juistheid.
Escalation
Mechanisme om een zaak naar een mens door te geven wanneer het systeem een hoog niveau van risico, onzekerheid of een situatie buiten de regels detecteert.
Human Override
Mogelijkheid om handmatig een beslissing of actie van het AI-systeem te overrulen.
Decision Reversibility
Omkeerbaarheid van beslissingen, oftewel de mogelijkheid om de gevolgen terug te draaien zonder belangrijke consequenties.
High-impact decision
Een beslissing die een wezenlijke invloed kan hebben op iemands leven, rechten, kansen of economische situatie. In dergelijke gevallen zijn toezicht- en verantwoordingsvereisten bijzonder belangrijk.
Belangrijkste conclusie
Niet elke beslissing moet worden geautomatiseerd, maar niet elke beslissing vereist ook een mens die achter een computer zit en elke enkele operatie goedkeurt.
Het echte doel van het ontwerpen van AI-systemen is niet de keuze tussen: "de mens beslist" en "AI beslist".
Het doel is om een passend samenwerkingsmodel te creëren.
AI moet zelfstandig werken waar het risico laag is. Het moet aanbevelingen doen waar menselijke ervaring nodig is. Het moet stoppen en om hulp vragen waar de consequenties van een fout te ernstig zijn. En een mens moet altijd de mogelijkheid hebben de controle over te nemen wanneer de situatie buiten het voorziene scenario valt.
Een goed ontworpen AI-systeem is niet datgene dat de meeste beslissingen zelfstandig neemt. Het is het systeem dat goed kan herkennen wanneer het zelf moet beslissen, wanneer het een aanbeveling moet doen en wanneer het moet zeggen: "Deze keer heb ik een mens nodig."
In het volgende deel gaan we van het niveau van individuele beslissingen naar dat van de hele organisatie.
Want zelfs het best ontworpen AI-systeem kan een probleem worden als een bedrijf niet weet wie er verantwoordelijk voor is, wie het controleert en wat te doen als het anders gaat functioneren dan verwacht.
In het volgende deel behandelen we AI Governance - hoe je regels, verantwoordelijkheden en controlemechanismen voor kunstmatige intelligentie binnen een organisatie opzet.
