Τα τελευταία δύο χρόνια γύρω από την τεχνητή νοημοσύνη έχουν αναπτυχθεί πολλοί μύθοι.
Κάποιοι ισχυρίζονται ότι η AI σύντομα θα αντικαταστήσει το μεγαλύτερο μέρος των εργαζομένων. Άλλοι πιστεύουν ότι αρκεί η εφαρμογή ενός γλωσσικού μοντέλου για να λειτουργεί μια εταιρεία γρηγορότερα, φθηνότερα και πιο αποδοτικά.
Η πραγματικότητα είναι πολύ πιο σύνθετη.
Τα σύγχρονα μοντέλα AI όντως μπορούν να εκτελούν εργασίες που πριν λίγα χρόνια θεωρούνταν αποκλειστική αρμοδιότητα ανθρώπων.
Γράφουν κείμενα. Αναλύουν έγγραφα. Προγραμματίζουν. Δημιουργούν εικόνες. Συνοψίζουν συναντήσεις. Απαντούν σε πελάτες.
Συχνά σχεδιάζουν επίσης τις επόμενες ενέργειες, χρησιμοποιούν εργαλεία, επικοινωνούν με άλλα συστήματα και εκτελούν ολόκληρες ακολουθίες εργασιών χωρίς συνεχή ανθρώπινη παρέμβαση.
Γι' αυτό όλο και πιο συχνά μιλάμε για agents AI και αυτοματοποιημένα αυτόνομα συστήματα.
Αυτό δημιουργεί το φυσικό ερώτημα: Αν η AI μπορεί να παίρνει αποφάσεις, είναι ακόμα απαραίτητος ο άνθρωπος;
Η απάντηση είναι: Ναι. Και περισσότερο από ποτέ. Όχι επειδή η AI είναι άχρηστη. Αντίθετα. Επειδή ακόμα και το καλύτερο μοντέλο δεν κατανοεί την ευθύνη, τις επιχειρηματικές συνέπειες ή το κοινωνικό πλαίσιο με τον τρόπο που το κάνει ο άνθρωπος.
Ακριβώς γι' αυτό προέκυψε η έννοια Human-in-the-Loop, ένας από τους πιο σημαντικούς πυλώνες του υπεύθυνου σχεδιασμού συστημάτων βασισμένων στην τεχνητή νοημοσύνη.
Τι θα καλύψει αυτή η σειρά;
Τις επόμενες τέσσερις αναρτήσεις θα δείξουμε γιατί η επιτυχημένη εφαρμογή της AI δεν εξαρτάται μόνο από την επιλογή του κατάλληλου μοντέλου.
Θα συζητήσουμε μεταξύ άλλων:
- τι είναι το Human-in-the-Loop και πώς διαφέρει από το Human-on-the-Loop και το Human-out-of-the-Loop,
- πότε η AI μπορεί να λειτουργήσει αυτόνομα και πότε την απόφαση πρέπει να λάβει ο άνθρωπος,
- τι είναι το AI Governance και γιατί θα είναι ένας από τους πιο σημαντικούς τομείς ανάπτυξης για οργανισμούς,
- πώς να σχεδιάζετε συστήματα AI στα οποία οι χρήστες πραγματικά θα μπορούν να εμπιστευτούν.
Δεν θα είναι μια σειρά για τις δυνατότητες των γλωσσικών μοντέλων.
Θα είναι μια σειρά για την υπεύθυνη χρήση της τεχνητής νοημοσύνης στην πραγματική επιχειρηματική πράξη.
Τι είναι όμως το Human-in-the-Loop;
Απλά, το Human-in-the-Loop (HITL) σημαίνει τον σχεδιασμό συστημάτων όπου ο άνθρωπος παραμένει ενεργός συμμετέχων στη διαδικασία λήψης αποφάσεων.
Αυτό δεν σημαίνει ότι η AI εκτελεί μόνο απλές εργασίες. Αντίθετα.
Το μοντέλο μπορεί να αναλύσει χιλιάδες εγγραφές, να προετοιμάσει μια σύσταση, να υποδείξει το καλύτερο σενάριο δράσης και ακόμη να σχεδιάσει τα επόμενα βήματα.
Αλλά πριν από την εκτέλεση μιας απόφασης που απαιτεί ευθύνη, το σύστημα την προωθεί στον άνθρωπο.
Ο άνθρωπος είναι αυτός που τελικά λαμβάνει την απόφαση ή εγκρίνει την ενέργεια.
Στην πράξη μοιάζει έτσι: Η AI αναλύει ένα αίτημα πελάτη. Καθορίζει την προτεραιότητα. Ετοιμάζει την απάντηση. Προτείνει λύση. Αλλά το μήνυμα αποστέλλεται μόνο μετά την έγκριση του συμβούλου.
Σε άλλη περίπτωση η AI αναλύει αίτημα δανείου. Υπολογίζει τον κίνδυνο. Ετοιμάζει σύσταση.
Ωστόσο την απόφαση για την έγκριση του δανείου παίρνει ο αναλυτής. Το μοντέλο βοηθάει. Δεν αντικαθιστά την ευθύνη.
Human-in-the-Loop, Human-on-the-Loop και Human-out-of-the-Loop - τρία επίπεδα εποπτείας
Αν και οι όροι μοιάζουν, περιγράφουν τελείως διαφορετικά μοντέλα συνεργασίας ανθρώπου και AI.
Human-in-the-Loop (HITL)
Ο άνθρωπος συμμετέχει άμεσα στη λήψη της απόφασης.
Το σύστημα ετοιμάζει ανάλυση ή σύσταση, αλλά δεν εκτελεί την ενέργεια χωρίς έγκριση.
Αυτό είναι σήμερα το πιο συνηθισμένο μοντέλο σε επιχειρηματικά συστήματα με μέτριο ή υψηλό επίπεδο κινδύνου.
Human-on-the-Loop (HOTL)
Η AI λειτουργεί αυτόνομα, αλλά ο άνθρωπος επιβλέπει όλη τη διαδικασία.
Μπορεί να σταματήσει το σύστημα, να αλλάξει την απόφασή του ή να επέμβει όταν παρατηρήσει ανωμαλίες.
Έτσι λειτουργούν, μεταξύ άλλων, ορισμένα συστήματα παρακολούθησης δικτύων, κέντρα επιχειρήσεων και σύγχρονες βιομηχανικές λύσεις.
Human-out-of-the-Loop (HOOTL)
Το σύστημα λειτουργεί πλήρως αυτόνομα.
Δεν απαιτεί έγκριση από τον άνθρωπο για τις αποφάσεις του.
Τέτοιες λύσεις εφαρμόζονται μόνο όπου ο κίνδυνος σφάλματος είναι μικρός ή όπου οι αποφάσεις καθορίζονται αυστηρά από προκαθορισμένους κανόνες.
Στην πράξη, η πλήρης αυτονομία παραμένει εξαίρεση και όχι κανόνας.
Η αυτονομία της AI δεν σημαίνει πλήρη ανεξαρτησία
Αυτός είναι ένας από τους πιο διαδεδομένους μύθους.
Όταν ακούμε για agents AI, εύκολα δημιουργείται η εντύπωση ότι πρόκειται για συστήματα που λειτουργούν εντελώς αυτόνομα. Στην πραγματικότητα, οι περισσότερες σύγχρονες λύσεις λειτουργούν εντός σαφώς ορισμένων ορίων.
Ένας agent μπορεί να:
- χρησιμοποιεί εργαλεία,
- αναζητά πληροφορίες,
- εκτελεί εργασίες,
- επικοινωνεί με άλλα συστήματα,
- σχεδιάζει επόμενα βήματα.
Αυτό δεν σημαίνει όμως ότι πρέπει να λαμβάνει κάθε απόφαση μόνος του. Όσο μεγαλύτερος είναι ο αντίκτυπος μιας απόφασης στον άνθρωπο, στα οικονομικά ή στην ασφάλεια του οργανισμού, τόσο μεγαλύτερη σημασία έχει η συμμετοχή του ανθρώπου.
Γιατί ο άνθρωπος εξακολουθεί να είναι απαραίτητος;
Τα μοντέλα AI αναγνωρίζουν πρότυπα εξαιρετικά καλά. Αναλύουν δεδομένα. Προβλέπουν την πιθανότητα συγκεκριμένων συμβάντων. Ωστόσο υπάρχουν τομείς όπου εξακολουθούν να έχουν περιορισμούς.
Δεν φέρουν ευθύνη για τις συνέπειες των αποφάσεών τους. Δεν κατανοούν ηθικές αξίες. Δεν γνωρίζουν το πλήρες επιχειρηματικό πλαίσιο. Δεν μπορούν να εκτιμήσουν μόνες τους αν μια απόφαση θα γίνει κοινωνικά αποδεκτή. Δεν ξέρουν πότε μια εξαίρεση από τον κανόνα είναι καλύτερη από την τήρηση της διαδικασίας.
Γι' αυτό ο άνθρωπος παραμένει το τελικό κρίσιμο στοιχείο ευθύνης.
Πού λειτουργεί ήδη το Human-in-the-Loop;
Αν και ο όρος μπορεί να φαίνεται καινούριος, στοιχεία του υπάρχουν εδώ και χρόνια.
Τραπεζική
Η AI αναλύει συναλλαγές και εντοπίζει ύποπτες κινήσεις.
Υπάλληλος της τράπεζας αποφασίζει για το μπλοκάρισμα ή την απόρριψη του alert.
Ιατρική
Το μοντέλο υποστηρίζει την ανάλυση διαγνωστικών εικόνων.
Ο γιατρός ερμηνεύει το αποτέλεσμα και θέτει τη διάγνωση.
Κυβερνοασφάλεια
Το σύστημα εντοπίζει πιθανή επίθεση.
Ο διαχειριστής αποφασίζει για το μπλοκάρισμα της κίνησης ή την απομόνωση της υποδομής.
Εξυπηρέτηση πελατών
Η AI προτείνει απάντηση σε ένα αίτημα.
Ο σύμβουλος εγκρίνει ή τροποποιεί το περιεχόμενο πριν την αποστολή.
Παραγωγή
Το μοντέλο προβλέπει τον κίνδυνο βλάβης μηχανών.
Ο μηχανικός προγραμματίζει τις ενέργειες συντήρησης.
Σε όλες αυτές τις περιπτώσεις η AI επιταχύνει την εργασία.
Αλλά η ευθύνη παραμένει στον άνθρωπο.
Το πιο κοινό λάθος κατά την εφαρμογή της AI
Οι εταιρείες συχνά ρωτούν: "Πώς να αυτοματοποιήσουμε όσο το δυνατόν περισσότερο;"
Καλύτερη ερώτηση είναι: "Ποιες αποφάσεις μπορούν να αυτοματοποιηθούν με ασφάλεια;"
Αυτή είναι μια τεράστια διαφορά.
Ο στόχος δεν είναι η αφαίρεση του ανθρώπου από τη διαδικασία. Ο στόχος είναι η χρήση του χρόνου του εκεί που πραγματικά χρειάζεται.
Η AI πρέπει να αναλαμβάνει επαναλαμβανόμενες αναλύσεις. Ο άνθρωπος να παίρνει αποφάσεις που απαιτούν εμπειρία, ευθύνη και εκτίμηση κινδύνου.
Γλωσσάρι όρων
Human-in-the-Loop (HITL)
Μοντέλο συνεργασίας ανθρώπου και τεχνητής νοημοσύνης, όπου η AI προετοιμάζει ανάλυση ή σύσταση και η τελική απόφαση λαμβάνεται από τον άνθρωπο.
Human-on-the-Loop (HOTL)
Μοντέλο όπου η AI λειτουργεί αυτόνομα αλλά ο άνθρωπος επιβλέπει τη διαδικασία και μπορεί ανά πάσα στιγμή να επέμβει.
Human-out-of-the-Loop (HOOTL)
Μοντέλο πλήρους αυτονομίας όπου το σύστημα εκτελεί ενέργειες χωρίς τη συμμετοχή του ανθρώπου. Εφαρμόζεται κυρίως σε διαδικασίες με χαμηλό ρίσκο και υψηλή επαναληψιμότητα.
Agent AI
Σύστημα που χρησιμοποιεί μοντέλα τεχνητής νοημοσύνης για τον σχεδιασμό, την εκτέλεση και τον συντονισμό εργασιών με τη χρήση διαθέσιμων εργαλείων και δεδομένων.
Αυτονομία AI
Το εύρος της αυτονομίας ενός συστήματος AI κατά την εκτέλεση συγκεκριμένων ενεργειών ή τη λήψη αποφάσεων.
Σύνοψη
Το μεγαλύτερο λάθος θα ήταν να θεωρήσουμε το Human-in-the-Loop ως περιορισμό για την τεχνητή νοημοσύνη. Στην πραγματικότητα είναι ακριβώς το αντίθετο.
Η συμμετοχή του ανθρώπου είναι που επιτρέπει στην AI να χρησιμοποιηθεί με υπευθυνότητα, ασφάλεια και σύμφωνα με τους στόχους του οργανισμού.
Καθώς τα μοντέλα AI και τα συστήματα agent εξελίσσονται, το κρίσιμο ερώτημα δεν είναι τόσο αν η AI μπορεί να πάρει μια απόφαση, όσο αν θα πρέπει να το κάνει μόνη της.
Στο επόμενο μέρος θα απαντήσουμε σε ακόμη πιο δύσκολο ερώτημα.
Ποιες αποφάσεις μπορούν να δοθούν με ασφάλεια στην AI και ποιες πρέπει πάντα να παραμένουν στα χέρια του ανθρώπου;
Θα δείξουμε πρακτικά παραδείγματα από e-commerce, τραπεζική, logistics, παραγωγή και εξυπηρέτηση πελατών και θα παρουσιάσουμε έναν απλό κατάλογο ελέγχου που θα βοηθήσει στην αξιολόγηση του επιπέδου ρίσκου της αυτοματοποίησης.
