Στο πρώτο μέρος της σειράς εξηγήσαμε τι είναι το Human-in-the-Loop και γιατί η εξέλιξη της τεχνητής νοημοσύνης δεν σημαίνει ότι ο άνθρωπος πρέπει να εξαφανιστεί από τη διαδικασία λήψης αποφάσεων.
Γνωρίσαμε τρία βασικά μοντέλα συνεργασίας:
- Human-in-the-Loop - ο άνθρωπος συμμετέχει ενεργά στη διαδικασία λήψης αποφάσεων,
- Human-on-the-Loop - η AI λειτουργεί αυτόνομα, αλλά ο άνθρωπος εποπτεύει το σύστημα,
- Human-out-of-the-Loop - το σύστημα λειτουργεί ανεξάρτητα, χωρίς συνεχή παρέμβαση ανθρώπου.
Τώρα το πιο σημαντικό ερώτημα: Πώς ξέρουμε ποιο μοντέλο να επιλέξουμε;
Εδώ αρχίζει η πραγματική πρόκληση.
Δεν αρκεί να πούμε: "Αυτή η απόφαση είναι απλή, άρα την αναθέτουμε στην AI."
Ούτε: "Αυτή η απόφαση είναι σημαντική, άρα πάντα πρέπει να την εγκρίνει άνθρωπος."
Η πραγματικότητα είναι πιο σύνθετη.
Η καλή αρχιτεκτονική ενός συστήματος AI θα πρέπει να λαμβάνει υπόψη, μεταξύ άλλων:
- το επίπεδο κινδύνου,
- το κόστος του λάθους,
- την αναστρεψιμότητα της απόφασης,
- την επίδραση στον άνθρωπο,
- τη διαθεσιμότητα δεδομένων,
- τη δυνατότητα εξήγησης της σύστασης,
- τη συχνότητα λήψης αποφάσεων,
- τη δυνατότητα αποτελεσματικής εποπτείας του συστήματος.
Μόνο η ανάλυση αυτών των στοιχείων επιτρέπει να προσδιορίσουμε πόση αυτονομία μπορούμε με ασφάλεια να παραδώσουμε στην AI.
Ο πιο σημαντικός κανόνας: μην αυτοματοποιείτε αποφάσεις που δεν μπορείτε να ελέγξετε
Η εισαγωγή της AI συχνά ξεκινά με την ερώτηση: "Τι μπορούμε να αυτοματοποιήσουμε;"
Σε μια ώριμη οργάνωση η ερώτηση θα πρέπει να είναι: "Τι μπορούμε να αυτοματοποιήσουμε και να συνεχίσουμε να το ελέγχουμε αποτελεσματικά;"
Αυτή είναι η θεμελιώδης διαφορά.
Μπορούμε να φτιάξουμε ένα σύστημα που αυτόματα λαμβάνει χιλιάδες αποφάσεις την ημέρα. Τεχνικά μπορεί να λειτουργεί άψογα.
Αλλά αν κανένας δεν ξέρει:
- γιατί έλαβε μια συγκεκριμένη απόφαση,
- σε ποια δεδομένα βασίστηκε,
- πότε αρχίζει να κάνει λάθη,
- ποιος μπορεί να σταματήσει το σύστημα,
- ποιος ευθύνεται για τις συνέπειες,
τότε δεν έχουμε ώριμη αυτοματοποίηση. Έχουμε αυτόματη παραγωγή κινδύνου.
Τέσσερα ερωτήματα που αξίζει να θέσετε πριν την αυτοματοποίηση μιας απόφασης
Πριν αναθέσετε μια απόφαση στο σύστημα AI αξίζει να κάνετε μια απλή ανάλυση.
1. Τι συμβαίνει αν η AI κάνει λάθος;
Αυτή είναι η βασική ερώτηση.
Δεν έχουν όλες οι αστοχίες τις ίδιες συνέπειες.
Αν η AI ταξινομήσει λάθος ένα newsletter, πιθανότατα δεν θα συμβεί κάτι σοβαρό. Αν αναγνωρίσει λανθασμένα μια απόπειρα απάτης, μπορεί να προκύψει οικονομική ζημία. Αν λάθος αξιολογήσει την κατάσταση της υγείας ενός ασθενή, οι συνέπειες μπορεί να είναι πολύ πιο σοβαρές.
Γι' αυτό το επίπεδο αυτονομίας πρέπει να είναι ανάλογο με τις πιθανές συνέπειες του λάθους.
2. Μπορεί η απόφαση να αναιρεθεί εύκολα;
Αυτό είναι ένα από τα πιο σημαντικά, αλλά συχνά παραμελημένα, κριτήρια.
Φανταζόμαστε δύο περιπτώσεις.
Η AI αλλάζει αυτόματα τη σειρά εμφάνισης προϊόντων σε ένα ηλεκτρονικό κατάστημα. Το λάθος μπορεί να ανιχνευθεί και να αναιρεθεί. Ο κίνδυνος είναι σχετικά μικρός.
Τώρα ένα άλλο παράδειγμα.
Η AI διαγράφει αυτόματα έναν λογαριασμό χρήστη και σβήνει όλα τα δεδομένα του. Μια τέτοια απόφαση μπορεί να είναι πολύ πιο δύσκολη να αναιρεθεί.
Άλλη κατάσταση: η AI στέλνει αυτόματα ειδοποίηση λήξης συμβολαίου σε πελάτη. Εδώ οι συνέπειες είναι ακόμη πιο σοβαρές.
Γι' αυτό η αναστρεψιμότητα της απόφασης πρέπει να είναι ένα από τα βασικά κριτήρια στο σχεδιασμό συστημάτων AI.
3. Επηρεάζει η απόφαση άμεσα τον άνθρωπο;
Αν η AI βελτιστοποιεί τη διαδρομή ενός φορτηγού παράδοσης, το επίπεδο κινδύνου μπορεί να είναι σχετικά χαμηλό.
Αν όμως το σύστημα αξιολογεί υποψήφιο για δουλειά, εγκρίνει δάνειο ή αναλύει την πρόσβαση σε μια υπηρεσία, η κατάσταση είναι εντελώς διαφορετική.
Οι αποφάσεις που αφορούν ανθρώπους απαιτούν ιδιαίτερη προσοχή. Όχι μόνο λόγω ηθικής. Αλλά και λόγω κανονισμών, εταιρικής ευθύνης και κινδύνου διακρίσεων.
Σε τέτοιους τομείς ο άνθρωπος δεν μπορεί να είναι απλώς το "τελευταίο κλικ". Πρέπει να έχει πραγματική δυνατότητα να αμφισβητήσει τη σύσταση του συστήματος.
4. Μπορεί ο άνθρωπος να εποπτεύσει αποτελεσματικά το σύστημα;
Αυτή η ερώτηση είναι πιο ύπουλη από όσο φαίνεται.
Φανταστείτε ένα σύστημα που παράγει 50.000 συστάσεις την ημέρα. Επίσημα ο άνθρωπος μπορεί να τις εγκρίνει όλες. Πρακτικά αυτό είναι αδύνατο. Μετά από κάποιο διάστημα ο εργαζόμενος θα αρχίσει να αποδέχεται αποφάσεις αυτοματοποιημένα.
Τότε εμφανίζεται το φαινόμενο που λέγεται automation bias
Ο άνθρωπος παραμένει "στον βρόχο". Αλλά στην πραγματικότητα παύει να εκπληρώνει λειτουργία ελέγχου. Γίνεται απλώς χειριστής του κουμπιού "Έγκριση".
Αυτό δεν είναι αληθινό Human-in-the-Loop.
Μοντέλο αξιολόγησης κινδύνου της απόφασης
Στην πράξη μπορείτε να εφαρμόσετε ένα απλό μοντέλο αξιολόγησης.
Κάθε απόφαση αναλύεται ως προς πέντε παραμέτρους:
1. Πιθανότητα λάθους
Πόσο συχνά μπορεί το σύστημα να σφάλει;
2. Έκταση συνεπειών
Πόσο σοβαρό θα είναι το λάθος;
3. Αναστρεψιμότητα
Μπορεί η απόφαση να αναιρεθεί γρήγορα;
4. Επίδραση στον άνθρωπο
Αφορά η απόφαση άμεσα δικαιώματα, οικονομικά, υγεία ή ασφάλεια ανθρώπου;
5. Δυνατότητα εποπτείας
Μπορεί ο άνθρωπος να παρακολουθεί αποτελεσματικά τη διαδικασία;
Όσο υψηλότερο είναι το επίπεδο κινδύνου, τόσο μεγαλύτερη ανάγκη για ανθρώπινη εμπλοκή. Αυτό δεν σημαίνει όμως ότι κάθε επικίνδυνη απόφαση πρέπει να λαμβάνεται χειροκίνητα. Σημαίνει ότι το σύστημα πρέπει να έχει σχεδιασμένους μηχανισμούς ελέγχου.
Επίπεδο 1 - άμεση αυτοματοποίηση
Αυτές είναι οι πιο απλές αποφάσεις.
Παραδείγματα:
- φιλτράρισμα μηνυμάτων,
- ταξινόμηση εγγράφων,
- δημιουργία περιλήψεων,
- προτάσεις προϊόντων,
- ανάθεση αιτημάτων σε κατηγορίες.
Η AI μπορεί να λειτουργεί αυτόνομα. Ο άνθρωπος δεν χρειάζεται να εγκρίνει κάθε απόφαση. Το σύστημα πρέπει όμως να παρακολουθείται.
Αυτό το μοντέλο μοιάζει με το Human-on-the-Loop.
Επίπεδο 2 - η AI προτείνει, ο άνθρωπος εγκρίνει
Εδώ η AI αναλύει δεδομένα και παρουσιάζει μια πρόταση.
Ο άνθρωπος λαμβάνει την τελική απόφαση.
Παραδείγματα:
- πρόταση ύψους έκπτωσης,
- πρόταση απάντησης σε καταγγελία,
- σύσταση για ενέργειες service,
- αξιολόγηση ρίσκου συναλλαγής,
- πρόταση προτεραιότητας αιτήματος.
Αυτό είναι το κλασικό Human-in-the-Loop.
Το μοντέλο λειτουργεί καλά εκεί όπου η AI μπορεί να επιταχύνει σημαντικά την ανάλυση, αλλά η τελική κρίση απαιτεί την εμπειρία ανθρώπου.
Επίπεδο 3 - η AI λειτουργεί αυτόνομα, με δυνατότητα παρέμβασης
Το σύστημα παίρνει την απόφαση αυτόματα. Ο άνθρωπος όμως μπορεί να τη σταματήσει ή να την αλλάξει.
Παράδειγμα είναι ο αυτόματος αποκλεισμός ύποπτων συναλλαγών. Το σύστημα εντοπίζει ασυνήθιστο μοτίβο και μπλοκάρει τη συναλλαγή. Αν ο πελάτης αναφέρει πρόβλημα, ένας υπάλληλος μπορεί να επαληθεύσει την απόφαση.
Σε αυτό το μοντέλο κρίσιμα είναι:
- η παρακολούθηση,
- τα alerts,
- η δυνατότητα χειροκίνητης παρέμβασης,
- η καταγραφή αποφάσεων,
- οι μηχανισμοί έκτακτης ανάγκης.
Επίπεδο 4 - πλήρης αυτονομία
Η AI λειτουργεί χωρίς συνεχή εμπλοκή ανθρώπου.
Αυτό το μοντέλο πρέπει να προορίζεται για διεργασίες που είναι:
- επαναλαμβανόμενες,
- καλά ορισμένες,
- χαμηλού κινδύνου,
- εύκολες στην παρακολούθηση,
- δυνατές να αναιρεθούν.
Παράδειγμα είναι η αυτόματη κλιμάκωση υποδομών στο cloud.
Το σύστημα ανιχνεύει αυξημένο φόρτο. Εκκινεί επιπλέον πόρους. Μετά τη μείωση του φορτίου τους απενεργοποιεί. Κανείς δεν πρέπει να εγκρίνει κάθε μεμονωμένη απόφαση.
Αν όμως το σύστημα αρχίσει να δημιουργεί απρόβλεπτο κόστος, πρέπει να υπάρχει μηχανισμός που να περιορίζει τη λειτουργία του.
Η αυτονομία δεν πρέπει ποτέ να σημαίνει έλλειψη ελέγχου.
Παράδειγμα 1 - e-commerce
Φανταστείτε ένα ηλεκτρονικό κατάστημα.
Η AI αναλύει:
- το ιστορικό αγορών,
- τη συμπεριφορά χρήστη,
- τη σεζονικότητα,
- τιμές ανταγωνισμού,
- διαθεσιμότητα προϊόντων.
Μπορεί να προτείνει προϊόντα στον πελάτη. Αυτή είναι μια σχετικά ασφαλής διαδικασία.
Το σύστημα μπορεί να λειτουργεί αυτόνομα. Αλλά τι γίνεται αν η AI ορίζει αυτόματα τις τιμές; Εδώ η κατάσταση περιπλέκεται.
Το dynamic pricing μπορεί να αυτοματοποιηθεί, αλλά πρέπει να λειτουργεί εντός καθορισμένων ορίων.
Το σύστημα μπορεί να έχει:
- μια ελάχιστη τιμή,
- μια μέγιστη τιμή,
- μέγιστη αλλαγή τιμής ανά ημέρα,
- κανόνες για προσφορές.
Αν η AI επιχειρεί να υπερβεί ορισμένα όρια, η απόφαση μπορεί να μεταβιβαστεί σε άνθρωπο.
Αυτό είναι παράδειγμα guardrails, δηλαδή περιορισμών που ασφαλίζουν τη λειτουργία του συστήματος.
Παράδειγμα 2 - προσλήψεις
Η AI αναλύει τα βιογραφικά των υποψηφίων.
Μπορεί να:
- να εξάγει την εμπειρία,
- να οργανώσει τις πληροφορίες,
- να ταιριάξει δεξιότητες με απαιτήσεις.
Αυτό μπορεί να επιταχύνει σημαντικά το έργο του recruiter.
Αλλά η απόφαση: "Απορρίπτουμε αυτόν τον υποψήφιο." είναι εντελώς διαφορετικής φύσης.
Αν το σύστημα την πάρει αυτόματα, μπορεί να αναπαράγει λάθη που υπάρχουν στα ιστορικά δεδομένα.
Γι' αυτό σε διαδικασίες HR η ανθρώπινη εμπλοκή μπορεί να είναι θεμελιώδους σημασίας. Η AI μπορεί να βοηθά τον recruiter. Δεν πρέπει να αποφασίζει αυτόματα για την αξία του ανθρώπου βάσει ατελών στοιχείων.
Παράδειγμα 3 - logistics
Το σύστημα AI σχεδιάζει παραδόσεις.
Αναλύει:
- αποστάσεις,
- κυκλοφοριακό,
- καιρό,
- διαθεσιμότητα οδηγών,
- ώρες εργασίας,
- κόστος καυσίμων.
Μπορεί να βελτιστοποιεί διαδρομές αυτόνομα.
Αλλά τι γίνεται αν το σύστημα επιλέγει τη φθηνότερη διαδρομή που δεν λαμβάνει υπόψη τοπικούς περιορισμούς; Ή αν βελτιστοποιεί τον χρόνο παράδοσης σε βάρος υπερβολικής φόρτωσης των οδηγών;
Γι' αυτό το σύστημα πρέπει να λειτουργεί εντός καθορισμένων επιχειρησιακών κανόνων.
Η AI βελτιστοποιεί. Ο οργανισμός ορίζει τα όρια. Ο άνθρωπος παρεμβαίνει όταν το σύστημα ξεπερνά ασφαλή όρια.
Παράδειγμα 4 - τραπεζική
Η AI μπορεί να εντοπίζει ανωμαλίες σε συναλλαγές.
Αν το σύστημα εντοπίσει μια ασυνήθιστη ενέργεια, μπορεί αυτόματα να την επισημάνει.
Και μετά τι;
Υπάρχουν διάφορα σενάρια:
- μόνο ειδοποίηση για υπάλληλο,
- προσωρινή αναστολή συναλλαγής,
- αυτόματος αποκλεισμός,
- αποκλεισμός που απαιτεί επιπλέον επαλήθευση.
Η επιλογή εξαρτάται από το επίπεδο ρίσκου.
Σε μια ύποπτη συναλλαγή μικρού ποσού μπορεί να εφαρμοστεί αυτοματοποίηση. Σε πιο σύνθετες περιπτώσεις ίσως χρειαστεί ανάλυση ειδικού.
Γι' αυτό τα συστήματα AI πρέπει να έχουν μηχανισμούς escalation, δηλαδή μεταφοράς της υπόθεσης σε άνθρωπο όταν το επίπεδο αβεβαιότητας ή κινδύνου υπερβαίνει ένα προκαθορισμένο όριο.
Confidence score - ξέρει η AI πότε δεν είναι σίγουρη;
Ένας ενδιαφέρον μηχανισμός είναι η χρήση του επιπέδου βεβαιότητας.
Το σύστημα μπορεί να αξιολογεί: "Η σύστασή μου έχει υψηλή πιθανότητα ορθότητας."
Τότε η ενέργεια μπορεί να εκτελεστεί αυτόματα.
Αν όμως το σύστημα κρίνει ότι η σύστασή του είναι αβέβαιη, η διαδικασία μπορεί να μεταβιβαστεί σε άνθρωπο.
Για παράδειγμα:
Confidence score > 95% Αυτόματη εκτέλεση.
Confidence score 70-95% Σύσταση προς άνθρωπο.
Confidence score < 70% Υποχρεωτική επαλήθευση ειδικού.
Ωστόσο χρειάζεται προσοχή.
Το confidence score δεν είναι από μόνο του απόδειξη αληθείας. Το μοντέλο μπορεί να είναι πολύ «συγκεντρωμένο» αλλά λάθος. Γι' αυτό το επίπεδο βεβαιότητας πρέπει να είναι ένα στοιχείο της αξιολόγησης και όχι το μοναδικό κριτήριο.
Ο μεγαλύτερος κίνδυνος: ο άνθρωπος που σταμάτησε να ελέγχει την AI
Μπορείτε να σχεδιάσετε ένα σύστημα με Human-in-the-Loop.
Μπορείτε να προσθέσετε ένα κουμπί: "Επιβεβαιώστε την απόφαση της AI."
Μπορείτε να προσλάβετε άνθρωπο για τον έλεγχο.
Και παρ' όλα αυτά να φτιάξετε ένα επικίνδυνο σύστημα.
Γιατί; — Επειδή ο άνθρωπος μπορεί να αρχίσει να εμπιστεύεται την AI περισσότερο από την δική του εμπειρία.
Αν το σύστημα λειτουργήσει σωστά για 1000 περιπτώσεις, ο άνθρωπος παύει να αναλύει προσεκτικά την 1001η. Αυτό είναι φυσικό.
Γι' αυτό ένα καλό σύστημα δεν πρέπει μόνο να απαιτεί επιβεβαίωση. Πρέπει επίσης να παρέχει στον άνθρωπο το κατάλληλο πλαίσιο.
Για παράδειγμα:
- γιατί η AI πήρε αυτή την απόφαση,
- ποια δεδομένα έλαβε υπόψη,
- ποιες εναλλακτικές εξέτασε,
- ποιο είναι το επίπεδο αβεβαιότητας,
- τι μπορεί να συμβεί μετά την εκτέλεση της απόφασης.
Τότε ο άνθρωπος δεν είναι απλώς το "φρένο ασφαλείας".
Γίνεται πραγματικός συνεργάτης του συστήματος.
Το Human-in-the-Loop δεν μπορεί να είναι προσχηματικό
Αυτή είναι μία από τις πιο σημαντικές αρχές στο σχεδιασμό συστημάτων AI.
Αν ο άνθρωπος πρέπει να ελέγχει την AI, πρέπει να έχει:
- αρκετή γνώση,
- αρκετό χρόνο,
- πρόσβαση σε δεδομένα,
- δυνατότητα να αμφισβητήσει τη σύσταση,
- δυνατότητα να σταματήσει τη διαδικασία,
- σαφή ευθύνη.
Αν ο εργαζόμενος μπορεί μόνο να πατάει "Έγκριση" ή "Απόρριψη" αλλά δεν μπορεί να ελέγξει γιατί η AI πήρε αυτή την απόφαση, ο ρόλος του είναι πολύ περιορισμένος.
Ακόμα χειρότερα αν το σύστημα λειτουργεί τόσο γρήγορα που ο άνθρωπος δεν προλαβαίνει να αναλύσει. Τότε τυπικά έχουμε Human-in-the-Loop. Πρακτικά έχουμε αυτοματοποίηση με άνθρωπο διακοσμητικού ρόλου.
Πρακτική λίστα ελέγχου - μπορεί αυτή η απόφαση να ανατεθεί στην AI;
Πριν αυτοματοποιήσετε αξίζει να απαντήσετε στα παρακάτω ερωτήματα:
☐ Η απόφαση είναι επαναλαμβανόμενη;
☐ Έχουμε αρκετά καλά δεδομένα;
☐ Μπορούμε να προσδιορίσουμε πότε η AI σφάλει;
☐ Το λάθος είναι αποδεκτό;
☐ Μπορεί η απόφαση να αναιρεθεί;
☐ Επηρεάζει η απόφαση άμεσα τον άνθρωπο;
☐ Υπάρχουν σαφείς επιχειρησιακοί κανόνες;
☐ Μπορεί το σύστημα να παρακολουθηθεί;
☐ Μπορεί ο άνθρωπος να σταματήσει τη λειτουργία της AI;
☐ Είναι ξεκάθαρο ποιος φέρει την ευθύνη;
☐ Μπορεί η απόφαση να εξηγηθεί;
☐ Έχει ο άνθρωπος αρκετό χρόνο και γνώση για να εποπτεύει αποτελεσματικά το σύστημα;
Όσο περισσότερες απαντήσεις είναι "όχι", τόσο πιο προσεκτικά πρέπει να προσεγγίσουμε την αυτοματοποίηση.
Γλωσσάρι όρων
Automation Bias
Η τάση του ανθρώπου να εμπιστεύεται υπερβολικά τις συστάσεις του αυτόματου συστήματος και να τις θεωρεί σωστές χωρίς επαρκή επαλήθευση.
Guardrails
Περιορισμοί και μηχανισμοί ασφάλειας που ορίζουν τι μπορεί και τι δεν μπορεί να κάνει ένα σύστημα AI.
Confidence Score
Δείκτης που προσδιορίζει το επίπεδο βεβαιότητας του μοντέλου για ένα αποτέλεσμα ή μια σύσταση. Δεν πρέπει να ταυτίζεται με εγγύηση ορθότητας.
Escalation
Μηχανισμός μεταφοράς της υπόθεσης σε άνθρωπο όταν το σύστημα ανιχνεύσει υψηλό επίπεδο ρίσκου, αβεβαιότητας ή κατάσταση που υπερβαίνει τους κανόνες.
Human Override
Δυνατότητα χειροκίνητης αντικατάστασης της απόφασης ή της ενέργειας που πήρε το σύστημα AI.
Decision Reversibility
Αναστρεψιμότητα της απόφασης, δηλαδή δυνατότητα ανάκλησής της χωρίς σημαντικές συνέπειες.
High-impact decision
Απόφαση που μπορεί να έχει σημαντική επίπτωση στη ζωή, τα δικαιώματα, τις ευκαιρίες ή την οικονομική κατάσταση ενός ανθρώπου. Σε τέτοιες περιπτώσεις οι απαιτήσεις εποπτείας και ευθύνης είναι ιδιαίτερα κρίσιμες.
Το πιο σημαντικό συμπέρασμα
Δεν κάθε απόφαση πρέπει να αυτοματοποιηθεί, αλλά ούτε κάθε απόφαση απαιτεί άνθρωπο που κάθεται μπροστά σε υπολογιστή και εγκρίνει κάθε μεμονωμένη ενέργεια.
Ο πραγματικός στόχος στο σχεδιασμό συστημάτων AI δεν είναι η επιλογή ανάμεσα στο: "ο άνθρωπος αποφασίζει" και στο "η AI αποφασίζει".
Ο στόχος είναι να δημιουργήσετε ένα κατάλληλο μοντέλο συνεργασίας.
Η AI πρέπει να λειτουργεί αυτόνομα όπου ο κίνδυνος είναι χαμηλός. Να προτείνει λύσεις όπου χρειάζεται ανθρώπινη εμπειρία. Να σταματά και να ζητά βοήθεια όπου οι συνέπειες ενός λάθους είναι πολύ σοβαρές. Και ο άνθρωπος πρέπει πάντα να έχει τη δυνατότητα να αναλάβει τον έλεγχο όταν η κατάσταση υπερβαίνει τα προβλεπόμενα σενάρια.
Ένα καλά σχεδιασμένο σύστημα AI δεν είναι αυτό που παίρνει τις περισσότερες αποφάσεις μόνο του. Είναι αυτό που μπορεί σωστά να αναγνωρίσει πότε πρέπει να αποφασίσει μόνο του, πότε να προτείνει και πότε να πει: "Αυτή τη φορά χρειάζομαι άνθρωπο".
Στο επόμενο μέρος θα μεταβούμε από το επίπεδο της μεμονωμένης απόφασης στο επίπεδο ολόκληρης της οργάνωσης.
Γιατί ακόμα και το καλύτερα σχεδιασμένο σύστημα AI μπορεί να γίνει πρόβλημα αν η εταιρεία δεν ξέρει ποιος φέρει την ευθύνη, ποιος το ελέγχει και τι να κάνει όταν αρχίσει να λειτουργεί διαφορετικά από το αναμενόμενο.
Στο επόμενο μέρος θα ασχοληθούμε με το AI Governance - δηλαδή πώς να χτίσετε κανόνες, ευθύνες και μηχανισμούς ελέγχου της τεχνητής νοημοσύνης στην οργάνωση.
