Ensimmäisessä osassa selitimme, mitä Human-in-the-Loop tarkoittaa ja miksi tekoälyn kehitys ei tarkoita sitä, että ihminen pitäisi poistaa päätöksentekoprosessista.
Tutustuimme kolmeen perusyhteistyömalliint:
- Human-in-the-Loop – ihminen osallistuu aktiivisesti päätöksentekoon,
- Human-on-the-Loop – tekoäly toimittaa itsenäisesti, mutta ihminen valvoo järjestelmää,
- Human-out-of-the-Loop – järjestelmä toimii autonomisesti ilman jatkuvaa ihmisen puuttumista asiaan.
Nyt on aika tärkeimmälle kysymykselle: Mistä tietää, minkä mallin valita?
Tässä alkaa todellinen haaste.
Ei riitä, että sanomme: "Tämä päätös on helppo, joten annetaan se tekoälylle."
Eikä: "Tämä päätös on tärkeä, joten ihminen sen aina hyväksyy."
Todellisuus on monimutkaisempi.
Hyvän tekoälyjärjestelmän arkkitehtuurin tulisi ottaa huomioon muun muassa:
- riskitaso,
- virheen kustannus,
- päätöksen kumottavuus,
- vaikutus ihmiseen,
- datavaihtoehtojen saatavuus,
- mahdollisuus selittää suosituksia,
- päätösten tiheys,
- mahdollisuus tehokkaaseen valvontaan.
Vasta näiden elementtien analyysi auttaa määrittämään, kuinka paljon autonomiaa voimme turvallisesti antaa tekoälylle.
Tärkein periaate: älä automatisoi päätöksiä, joita et pysty hallitsemaan
Tekoälyn käyttöönotto alkaa usein kysymyksellä: "Mitä voimme automatisoida?"
Kypsässä organisaatiossa kysymyksen tulisi olla: "Mitä voimme automatisoida ja silti tehokkaasti valvoa?"
Siinä on ratkaiseva ero.
Voimme esimerkiksi rakentaa järjestelmän, joka tekee automaattisesti tuhansia päätöksiä päivässä. Tekninen toteutus voi olla erinomainen.
Mutta jos kukaan ei tiedä:
- miksi tietty päätös tehtiin,
- mihin dataan se perustui,
- milloin se alkaa tehdä virheitä,
- kuka voi pysäyttää järjestelmän,
- kuka vastaa seurauksista,
ei meillä ole kypsää automatisointia. Meillä on riskin automaattista tuottamista.
Neljä kysymystä, jotka kannattaa esittää ennen päätöksen automatisointia
Ennen päätöksen antamista tekoälyn tehtäväksi kannattaa tehdä yksinkertainen analyysi.
1. Mitä tapahtuu, jos tekoäly tekee virheen?
Tämä on perustavanlaatuinen kysymys.
Kaikilla virheillä ei ole samoja seurauksia.
Jos tekoäly luokittelee uutiskirjeen väärin, tuskin tapahtuu mitään vakavaa. Jos se tunnistaa petosyrityksen väärin, voi seurauksena olla taloudellinen tappio. Jos se arvioi potilaan terveydentilan virheellisesti, seuraukset voivat olla paljon vakavampia.
Siksi autonomian tason tulisi olla suhteessa virheen mahdollisiin vaikutuksiin.
2. Voidaanko päätös helposti perua?
Tämä on yksi tärkeimmistä, usein laiminlyödystä parametreista.
Kuvitellaan kaksi tapausta.
Tekoäly muuttaa automaattisesti verkkokaupan tuotteiden järjestystä. Virheen voi havaita ja peruuttaa. Riski on suhteellisen pieni.
Toinen esimerkki.
Tekoäly poistaa automaattisesti käyttäjätilin ja poistaa kaikki sen tiedot. Tämän kaltaisen päätöksen kumoaminen voi olla paljon vaikeampaa.
Toinen tilanne: tekoäly lähettää asiakkaalle automaattisesti sopimuksen irtisanomisen. Tässä seuraukset voivat olla vielä vakavampia.
Siksi päätöksen kumottavuus tulisi olla yksi peruskriteereistä tekoälyjärjestelmiä suunniteltaessa.
3. Vaikuttaako päätös suoraan ihmiseen?
Jos tekoäly optimoi toimitusauton reittiä, riskitaso voi olla suhteellisen alhainen.
Jos järjestelmä sen sijaan arvioi työhakijaa, myönteistä lainaa tai pääsyä tiettyyn palveluun, tilanne on täysin erilainen.
Ihmisiä koskevat päätökset vaativat erityistä varovaisuutta – ei pelkästään eettisistä syistä, vaan myös lakien, organisaation vastuiden ja syrjintäriskin vuoksi.
Näillä alueilla ihminen ei saa olla vain "viimeinen hyväksyjä". Hänellä pitäisi olla todellinen mahdollisuus kyseenalaistaa järjestelmän suositus.
4. Voiko ihminen tehokkaasti valvoa järjestelmää?
Tämä kysymys on ovelampi kuin miltä vaikuttaa.
Kuvitellaan järjestelmä, joka tuottaa 50 000 suositusta päivässä. Formaalisesti ihminen voi hyväksyä ne kaikki. Käytännössä se on mahdotonta. Ajan myötä työntekijä alkaa hyväksyä päätöksiä automaattisesti.
Syntyy ilmiö, jota kutsutaan automation biasiksi
Ihminen on edelleen "silmukassa", mutta käytännössä hän lakkaa toimimasta kontrolloijana. Hänestä tulee vain "Hyväksy"-painikkeen käyttäjä.
Se ei ole todellista Human-in-the-Loopia.
Päätöksen riskinarviointimalli
Käytännössä voidaan käyttää yksinkertaista arviointimallia.
Jokainen päätös analysoidaan viiden parametrin kautta:
1. Virheen todennäköisyys
Kuinka usein järjestelmä voi tehdä virheen?
2. Seurauksien laajuus
Kuinka vakava virhe olisi?
3. Kumottavuus
Voidaanko päätös nopeasti perua?
4. Vaikutus ihmiseen
Koskeeko päätös suoraan ihmisen oikeuksia, taloutta, terveyttä tai turvallisuutta?
5. Valvonnan mahdollisuus
Voiko ihminen tehokkaasti seurata prosessia?
Mitä korkeampi riskitaso, sitä suurempi tarve ihmisen osallistumiselle. Tämä ei kuitenkaan tarkoita, että jokaisen korkean riskin päätöksen täytyisi olla manuaalinen. Se tarkoittaa, että järjestelmässä tulee olla asianmukaisesti suunnitellut kontrollimekanismit.
Taso 1 – suora automatisointi
Tämä kattaa yksinkertaisimmat päätökset.
Esimerkkejä:
- viestien lajittelu,
- dokumenttien luokittelu,
- yhteenvetojen generointi,
- tuotesuositukset,
- tukipyyntöjen kategoriaan sijoittaminen.
Tekoäly voi toimia autonomisesti. Ihmisen ei tarvitse hyväksyä jokaista päätöstä. Järjestelmää tulisi kuitenkin valvoa.
Tämä malli on lähempänä Human-on-the-Loopia.
Taso 2 – tekoäly ehdottaa, ihminen hyväksyy
Tässä tekoäly analysoi datan ja esittää ehdotuksen.
Ihminen tekee lopullisen päätöksen.
Esimerkkejä:
- alennuksen suositus,
- esitys vastaukseksi reklamaatioon,
- suositus huoltotoimenpiteistä,
- transaktion riskinarvio,
- pyynnön priorisointiehdotus.
Tämä on klassinen Human-in-the-Loop.
Malli toimii hyvin siellä, missä tekoäly voi huomattavasti nopeuttaa analyysiä, mutta päätös vaatii ihmisen kokemusta.
Taso 3 – tekoäly toimii itsenäisesti, mutta interventio on mahdollinen
Järjestelmä tekee päätöksen automaattisesti. Ihminen voi kuitenkin pysäyttää tai muuttaa sitä.
Esimerkiksi automaattinen epäilyttävien tapahtumien estäminen. Järjestelmä havaitsee poikkeavan kuviota ja estää tapahtuman. Jos asiakas valittaa, työntekijä voi tarkistaa päätöksen.
Tässä mallissa keskeisiä ovat:
- monitorointi,
- hälytykset,
- mahdollisuus manuaaliseen puuttumiseen,
- päätösten lokitus,
- hätätoimenpiteet.
Taso 4 – täysi autonomia
Tekoäly toimii ilman jatkuvaa ihmisen osallistumista.
Tämä malli tulisi varata prosesseille, jotka ovat:
- toistuvia,
- hyvin määriteltyjä,
- matalan riskin,
- helppoja valvoa,
- mahdollisia kumota.
Esimerkiksi automaattinen pilvi-infrastruktuurin skaalaus.
Järjestelmä havaitsee kuormituksen kasvun, käynnistää lisäresursseja ja sammuttaa ne liikenteen laskettua. Kenenkään ei tarvitse hyväksyä jokaista yksittäistä päätöstä.
Kuitenkin jos järjestelmä alkaa aiheuttaa ennalta arvaamattomia kustannuksia, sen toimintaa tulee rajoittaa.
Autonomia ei koskaan saa merkitä kontrollin puutetta.
Esimerkki 1 – verkkokauppa
Kuvitellaan verkkokauppa.
Tekoäly analysoi:
- ostohistoriaa,
- käyttäytymistä,
- kausiluonteisuutta,
- kilpailijoiden hintoja,
- tuotteiden saatavuutta.
Se voi suositella tuotteita asiakkaalle. Tämä on suhteellisen turvallinen prosessi.
Järjestelmä voi toimia autonomisesti. Mutta entä jos tekoälyn annetaan asettaa hintoja itsenäisesti? Tilanne monimutkaistuu.
Dynaaminen hinnoittelu voi olla automatisoitu, mutta sen on toimittava rajojen sisällä.
Järjestelmällä voi olla esimerkiksi:
- minimihinta,
- maksimihinta,
- päivittäinen maksimimuutos,
- kampanjasääntöjä.
Jos tekoäly haluaa ylittää tietyt rajat, päätös voidaan siirtää ihmisen tarkastettavaksi.
Tämä on esimerkki guardrailseista, eli järjestelmän toimintaa rajoittavista turvamekanismeista.
Esimerkki 2 – rekrytointi
Tekoäly analysoi hakijoiden CV:itä.
Se voi:
- erotella kokemuksen,
- järjestellä tiedot,
- sovittaa osaamista vaatimuksiin.
Tämä voi merkittävästi nopeuttaa rekrytoijan työtä.
Mutta päätös: "Hylkäämme tämän hakijan." on täysin toisenlainen luokka.
Jos järjestelmä tekee tuollaisen päätöksen automaattisesti, se voi vahvistaa historiadatan virheitä.
Siksi HR-prosesseissa ihmisen osallistuminen voi olla perustavanlaatuista. Tekoälyn tulisi tukea rekrytoijaa, ei tehdä lopullista arviota ihmisen arvosta epävarman datan perusteella.
Esimerkki 3 – logistiikka
Tekoäly suunnittelee toimituksia.
Se analysoi:
- etäisyydet,
- ruuhkat,
- sään,
- kuljettajien saatavuuden,
- työajat,
- polttoainekustannukset.
Se voi optimoida reitin itsenäisesti.
Mutta mitä tapahtuu, jos järjestelmä valitsee halvemman reitin, joka ei ota huomioon paikallisia rajoituksia? Tai jos se optimoi toimitusajan kuljettajien liiallisen kuormituksen kustannuksella?
Siksi järjestelmän tulee toimia määriteltyjen liiketoimintasääntöjen puitteissa.
Tekoäly optimoi. Organisaatio määrittelee rajat. Ihminen puuttuu tilanteeseen, kun järjestelmä ylittää turvallisen alueen.
Esimerkki 4 – pankkiala
Tekoäly voi havaita transaktioiden anomalioita.
Jos järjestelmä havaitsee epätyypillisen tapahtuman, se voi merkitä sen automaattisesti.
Mutta mitä sitten?
Mahdollisia skenaarioita ovat:
- vain hälytys työntekijälle,
- transaktion väliaikainen keskeytys,
- automaattinen esto,
- esto, joka vaatii lisävahvistuksen.
Valinta riippuu riskitasosta.
Pienessä epäilyttävässä tapahtumassa automaatio voi riittää. Monimutkaisemmissa tapauksissa tarvitaan asiantuntijan analyysi.
Siksi tekoälyjärjestelmien tulisi sisältää eskalointimekanismeja, jotka siirtävät tapauksen ihmiselle, kun epävarmuus tai riski ylittää määritellyn kynnyksen.
Luottamuspistemäärä – tietääkö tekoäly, milloin se ei ole varma?
Yksi hyödyllinen mekanismi on käyttää varmuusarviota.
Järjestelmä voi arvioida: "Suositukseni on todennäköisesti oikea."
Tällöin toiminto voidaan suorittaa automaattisesti.
Jos taas järjestelmä arvioi suosituksensa epävarmaksi, prosessi voidaan siirtää ihmiselle.
Esimerkiksi:
Confidence score > 95% Automaattinen suoritus.
Confidence score 70-95% Suositus ihmiselle.
Confidence score < 70% Pakollinen asiantuntijan tarkastus.
Tarvitaan kuitenkin varovaisuutta.
Confidence score ei automaattisesti tarkoita totuutta. Malli voi olla hyvin varma, mutta silti väärässä. Siksi varmuusarvojen pitäisi olla yksi arviointikriteeri muiden joukossa, ei ainut ratkaiseva tekijä.
Suurin uhka: ihminen, joka lakkaa tarkistamasta tekoälyä
Voimme suunnitella järjestelmän Human-in-the-Loop -periaatteella.
Voimme lisätä painikkeen: "Hyväksy tekoälyn päätös."
Voimme palkata henkilön valvomaan.
Ja silti luoda vaarallisen järjestelmän.
Miksi? Koska ihminen saattaa alkaa luottaa tekoälyyn enemmän kuin omaan kokemukseensa.
Jos järjestelmä toimii oikein tuhat kertaa, ihminen saattaa lakata analysoimasta tuhatensattaykköstä tapausta. Se on luonnollista.
Siksi hyvä järjestelmä ei saa vain vaatia hyväksyntää. Sen tulee myös antaa ihmiselle oikea konteksti.
Esimerkiksi:
- miksi tekoäly teki kyseisen päätöksen,
- mitä dataa se käytti,
- mitä vaihtoehtoja se harkitsi,
- mikä on epävarmuustaso,
- mitä voi tapahtua päätöksen seurauksena.
Silloin ihminen ei ole vain "turvakaasu".
Hänestä tulee järjestelmän todellinen kumppani.
Human-in-the-Loop ei voi olla fiktiota
Tämä on yksi tärkeimmistä tekoälyjärjestelmien suunnitteluperiaatteista.
Jos ihmisen on tarkoitus hallita tekoälyä, hänen on oltava:
- riittävästi tietoa,
- riittävästi aikaa,
- pääsy dataan,
- mahdollisuus kyseenalaistaa suositus,
- mahdollisuus pysäyttää prosessi,
- selkeä vastuunjako.
Jos työntekijä voi vain klikata "Hyväksy" tai "Hylkää", mutta ei voi tarkistaa, miksi tekoäly teki päätöksen, hänen roolinsa on hyvin rajoitettu.
Entistä huonompi on tilanne, jos järjestelmä toimii niin nopeasti, ettei ihminen pysty pysymään mukana analysoinnissa. Silloin muodollisesti meillä on Human-in-the-Loop, mutta käytännössä automaatio, jossa ihminen on pelkkänä koristeena.
Käytännöllinen tarkistuslista – voiko tämän päätöksen antaa tekoälylle?
Ennen automatisointia kannattaa vastata seuraaviin kysymyksiin:
☐ Onko päätös toistuva?
☐ Onko meillä riittävän hyvä data?
☐ Osaisimmeko tunnistaa, milloin tekoäly tekee virheen?
☐ Onko virhe hyväksyttävä?
☐ Voidaanko päätös perua?
☐ Vaikuttaako päätös suoraan ihmiseen?
☐ Onko olemassa selkeitä liiketoimintasääntöjä?
☐ Voidaanko järjestelmää valvoa?
☐ Voiko ihminen pysäyttää tekoälyn toiminnan?
☐ Onko vastuu selkeästi määritelty?
☐ Voidaanko päätös selittää?
☐ Onko ihmisellä riittävästi aikaa ja tietoa valvomaan järjestelmää tehokkaasti?
Mitä useampaan kysymykseen vastaus on "ei", sitä varovaisemmin kannattaa suhtautua automatisointiin.
Termistö
Automation Bias
Ihmisen taipumus luottaa liikaa automaattisen järjestelmän suosituksiin ja pitää niitä oikeina ilman asianmukaista tarkastusta.
Guardrails
Rajoitukset ja turvamekanismit, jotka määrittävät, mitä tekoälyjärjestelmä saa ja ei saa tehdä.
Confidence Score
Mittari, joka ilmaisee mallin varmuuden tietyssä tuloksessa tai suosituksessa. Sitä ei pidä sekoittaa takuutasoon.
Escalation
Mekanismi, joka siirtää asian ihmiselle, kun järjestelmä havaitsee korkean riskin, epävarmuuden tai tilanteen, joka ylittää säännöt.
Human Override
Mahdollisuus manuaalisesti korvata järjestelmän päätös tai toimenpide.
Decision Reversibility
Päätöksen kumottavuus eli mahdollisuus perua sen vaikutukset ilman merkittäviä seuraamuksia.
High-impact decision
Päätös, jolla voi olla merkittäviä vaikutuksia ihmisen elämään, oikeuksiin, mahdollisuuksiin tai taloudelliseen tilanteeseen. Näissä tapauksissa valvonta- ja vastuusäännöt ovat erityisen tärkeitä.
Tärkein johtopäätös
Kaikkea ei tule automatisoida, mutta kaikkea ei myöskään tarvitse antaa ihmisen istua koneen ääressä ja hyväksyä jokaista yksittäistä toimenpidettä.
Todellinen tavoite tekoälyjärjestelmien suunnittelussa ei ole valinta: "ihminen päättää" tai "tekoäly päättää".
Tavoitteena on luoda sopiva yhteistyömalli.
Tekoälyn tulisi toimia itsenäisesti siellä, missä riski on matala. Sen tulisi ehdottaa ratkaisuja siellä, missä tarvitaan ihmisen kokemusta. Sen tulisi pysähtyä ja pyytää apua siellä, missä virheen seuraukset ovat liian vakavia. Ja ihmisen pitäisi aina pystyä ottamaan kontrolli, kun tilanne ylittää suunnitellun skenaarion.
Hyvin suunniteltu tekoälyjärjestelmä ei ole se, joka tekee eniten päätöksiä itsenäisesti. Se on järjestelmä, joka osaa oikein tunnistaa, milloin sen tulisi tehdä päätös, milloin esittää suositus ja milloin sanoa: "Tällä kertaa tarvitsen ihmisen."
Seuraavassa osassa siirrymme yksittäisistä päätöksistä organisaation tasolle.
Sillä vaikka järjestelmä olisi miten hyvin suunniteltu, se voi aiheuttaa ongelmia, jos yritys ei tiedä, kuka siitä vastaa, kuka valvoo sitä ja mitä tehdä, kun se alkaa toimia eri tavalla kuin oli tarkoitettu.
Seuraavassa osassa käsittelemme AI Governancea – miten rakentaa säännöt, vastuut ja kontrollimekanismit tekoälyn hallintaan organisaatiossa.
