Τις τελευταίες δύο χρονιές οι περισσότερες συζητήσεις για την τεχνητή νοημοσύνη επικεντρώθηκαν στις δυνατότητες.
Η AI γράφει κείμενα. Η AI αναλύει δεδομένα. Η AI δημιουργεί κώδικα. Η AI υποστηρίζει την εξυπηρέτηση πελατών. Η AI βοηθά στη λήψη αποφάσεων.
Και ακριβώς το τελευταίο σημείο είναι σήμερα μία από τις πιο σημαντικές προκλήσεις για τις επιχειρήσεις.
Επειδή όταν η τεχνητή νοημοσύνη αρχίζει να συμμετέχει στις διαδικασίες λήψης αποφάσεων, εμφανίζεται ένα πρόβλημα για το οποίο μιλάμε σαφώς πολύ λίγο.
Το πρόβλημα των επιχειρηματικών παραισθήσεων.
Αυτό το φαινόμενο είναι πολύ πιο επικίνδυνο από ένα απλό σφάλμα μοντέλου. Γιατί; Επειδή σε αντίθεση με ένα προφανές λάθος, η παραισθητική απάντηση συχνά φαίνεται επαγγελματική, λογική και αξιόπιστη. Και αυτό την κάνει πολύ εύκολο να την εμπιστευτείς.
Τι ακριβώς είναι η παραισθησία της AI;
Με την απλούστερη έννοια, παραισθησία είναι μια κατάσταση όπου το μοντέλο παράγει πληροφορία που ακούγεται αξιόπιστη αλλά δεν είναι αληθινή.
Το μοντέλο δεν λέει ψέματα εσκεμμένα. Δεν προσπαθεί να εξαπατήσει κανέναν. Απλώς προβλέπει την πιο πιθανή απάντηση βάσει των δεδομένων με τα οποία έχει εκπαιδευτεί.
Το πρόβλημα είναι ότι πιθανότητα δεν σημαίνει πάντα αλήθεια. Και εδώ αρχίζουν τα πραγματικά επιχειρηματικά προβλήματα.
Γλωσσάρι όρων
Παραισθησία AI
Η παραγωγή πληροφορίας που φαίνεται σωστή αλλά είναι ασύμβατη με την πραγματικότητα.
Confidence Bias
Η τάση των ανθρώπων να εμπιστεύονται περισσότερο τις απαντήσεις που παρουσιάζονται με σιγουριά και επαγγελματισμό.
Human-in-the-Loop
Μοντέλο συνεργασίας όπου ο άνθρωπος επικυρώνει ή επαληθεύει τις ενέργειες της AI.
AI Governance
Σύνολο κανόνων, διαδικασιών και μηχανισμών ελέγχου σχετικά με τη χρήση της τεχνητής νοημοσύνης.
Validation Layer
Επίπεδο που ελέγχει την ορθότητα των δεδομένων ή των αποφάσεων πριν εκτελεστεί μια ενέργεια.
Operational Risk
Κίνδυνος που προκύπτει από διαδικαστικά, συστημικά ή οργανωτικά σφάλματα.
Γιατί οι επιχειρηματικές παραισθήσεις είναι πιο επικίνδυνες από τα συνηθισμένα λάθη;
Ας υποθέσουμε δύο σενάρια.
Στο πρώτο η AI απαντά: "Δεν ξέρω."
Στο δεύτερο απαντά: "Βάσει της ανάλυσης προτείνω τη λύση Α."
Το πρόβλημα είναι ότι η δεύτερη απάντηση μπορεί να είναι εντελώς λανθασμένη. Αλλά ακούγεται επαγγελματική. Και γι' αυτό είναι επικίνδυνη.
Στην πράξη, τα περισσότερα προβλήματα δεν προέρχονται από το ότι η AI δεν γνωρίζει την απάντηση. Το πρόβλημα εμφανίζεται όταν η AI απαντά πολύ πειστικά.
Παράδειγμα από τη ζωή
Φανταζόμαστε μια εμπορική εταιρεία. Ένας πράκτορας AI αναλύει το ιστορικό πελατών και επισημαίνει άτομα που φερόταν να έχουν την υψηλότερη πιθανότητα αγοράς. Οι πωλητές επικεντρώνουν τις ενέργειές τους στην προτεινόμενη ομάδα.
Μετά από ένα μήνα αποδεικνύεται ότι:
- οι καλύτεροι υποψήφιοι παραλήφθηκαν,
- μερικοί πελάτες σταμάτησαν να ανταποκρίνονται,
- οι πωλήσεις μειώθηκαν.
Τι συνέβη;
Η AI εντόπισε ένα μοτίβο. Αλλά ήταν τυχαίο μοτίβο. Το μοντέλο δεν καταλάβαινε την επιχείρηση. Δεν γνώριζε τη στρατηγική της εταιρείας. Δεν ήξερε ότι κάποιοι πελάτες αγοράζουν εποχικά. Η απάντηση ήταν λογική. Η απόφαση αποδείχθηκε λανθασμένη.
Ο μεγαλύτερος μύθος για την AI
Ένας από τους πιο επικίνδυνους μύθους είναι η πεποίθηση: "Αφού η AI απαντά καλά, καταλαβαίνει καλά το πρόβλημα."
Αυτό δεν είναι αλήθεια. Ένα γλωσσικό μοντέλο δεν καταλαβαίνει την επιχείρηση όπως ο άνθρωπος.
Δεν γνωρίζει:
- την πολιτική της εταιρείας,
- τη στρατηγική πωλήσεων,
- τις σχέσεις μεταξύ τμημάτων,
- το οργανωτικό πλαίσιο,
- τους στόχους των ιδιοκτητών.
Μπορεί όμως να προβλέψει πολύ αποτελεσματικά ποια απάντηση πρέπει να εμφανιστεί μετά από μια δεδομένη ερώτηση. Αυτή είναι μια τεράστια διαφορά.
Πού είναι ο μεγαλύτερος κίνδυνος;
Δεν είναι όλες οι διαδικασίες εξίσου επικίνδυνες. Η μεγαλύτερη προσοχή πρέπει να υπάρχει όπου μια λανθασμένη απόφαση προκαλεί υψηλό κόστος.
Χρηματοοικονομικά
Λανθασμένη ανάλυση κόστους.
Λανθασμένες προβλέψεις.
Λάθος επενδυτικές συστάσεις.
Πωλήσεις
Λανθασμένη αξιολόγηση leads.
Λανθασμένος διαχωρισμός πελατών.
Ανεπαρκής κατανομή προϋπολογισμού.
Εξυπηρέτηση πελατών
Παροχή λανθασμένων πληροφοριών.
Λανθασμένη ερμηνεία διαδικασιών.
Παραγωγή
Λανθασμένη πρόβλεψη ζήτησης.
Λανθασμένες logistικές αποφάσεις.
Συμμόρφωση (Compliance)
Προτάσεις ενεργειών μη σύμφωνες με το νόμο.
Λανθασμένη ερμηνεία κανονισμών.
Κόκκινη σημαία αριθμός 1
Η AI λειτουργεί με δεδομένα που δεν μπορείτε να επαληθεύσετε.
Αν δεν είναι γνωστό:
- από πού προέρχονται τα δεδομένα,
- πότε ενημερώθηκαν,
- ποιος τα προετοίμασε,
δεν πρέπει να λαμβάνονται αποφάσεις αποκλειστικά βάσει των αποτελεσμάτων της AI.
Κόκκινη σημαία αριθμός 2
Το μοντέλο δεν εμφανίζει πηγές.
Αν το σύστημα δεν μπορεί να υποδείξει:
- ένα έγγραφο,
- μία εγγραφή,
- μία αναφορά,
- μια βάση γνώσης,
πάνω στις οποίες βασίστηκε για να παραγάγει την απάντηση, ο κίνδυνος λάθους αυξάνεται σημαντικά.
Κόκκινη σημαία αριθμός 3
Η AI αρχίζει να αντικαθιστά τη διαδικασία ελέγχου. Αυτό είναι ένα από τα πιο συνηθισμένα λάθη.
Οι εταιρείες εισάγουν την AI για να επιταχύνουν τη δουλειά. Με τον καιρό οι άνθρωποι σταματούν να επαληθεύουν τα αποτελέσματα. Τότε εμφανίζεται ο συστημικός κίνδυνος. Όχι ενός μεμονωμένου λάθους. Αλλά μιας σειράς λανθασμένων αποφάσεων.
Γιατί οι εταιρείες κάνουν αυτό το λάθος;
Επειδή η AI είναι πολύ πειστική.
Έρευνες δείχνουν ότι οι άνθρωποι συχνά αποδίδουν μεγαλύτερη αξιοπιστία σε απαντήσεις που παράγονται από συστήματα που:
- ακούγονται επαγγελματικές,
- είναι λεπτομερείς,
- περιέχουν αριθμούς,
- έχουν λογική δομή.
Ακόμη και αν κάποιο μέρος της πληροφορίας είναι λάθος. Αυτό το φαινόμενο ονομάζεται automation bias.
Πώς να εισάγετε την AI υπεύθυνα;
Οι καλύτεροι οργανισμοί δεν προσπαθούν να εξαλείψουν τον άνθρωπο. Προσπαθούν να αυξήσουν την αποτελεσματικότητά του.
Η AI πρέπει να στηρίζει τις αποφάσεις. Δεν πρέπει να είναι ο μόνος αποφασίζων.
Καλή προσέγγιση
Η AI:
- αναλύει δεδομένα,
- εντοπίζει μοτίβα,
- υποδεικνύει κινδύνους,
- προτείνει ενέργειες.
Ο άνθρωπος:
- εκτιμά το πλαίσιο,
- κατανοεί τη στρατηγική,
- λαμβάνει την απόφαση.
Κακή προσέγγιση
Η AI:
- αναλύει,
- αποφασίζει,
- εκτελεί,
- αναφέρει.
Και ο άνθρωπος απλώς παρατηρεί το αποτέλεσμα.
Αυτή είναι μια πολύ επικίνδυνη πορεία.
Πώς να περιορίσετε τον κίνδυνο παραισθήσεων;
1. Εισάγετε μια στρώση επικύρωσης
Κάθε σημαντική απόφαση πρέπει να περνάει από μια διαδικασία επαλήθευσης.
2. Χρησιμοποιείτε εταιρικά δεδομένα
Όσο περισσότερο οργανωτικό πλαίσιο έχει το σύστημα, τόσο μικρότερος ο κίνδυνος λάθους.
3. Απαιτείστε πηγές
Η AI πρέπει να υποδεικνύει τη βάση της σύστασής της.
4. Σχεδιάστε διαδικασίες ελέγχου
Μην υποθέτετε ότι η AI έχει πάντα δίκιο.
5. Μετρήστε την αποτελεσματικότητα
Παρακολουθείτε:
- την ακρίβεια των συστάσεων,
- την αποτελεσματικότητα των αποφάσεων,
- τον αριθμό σφαλμάτων,
- τον αντίκτυπο στην επιχείρηση.
Παράδειγμα υλοποίησης που λειτουργεί
Φανταζόμαστε το τμήμα πωλήσεων.
Ένας πράκτορας AI αναλύει καθημερινά:
- το CRM,
- το ιστορικό πελατών,
- τη δραστηριότητα των πωλητών,
- τα αποτελέσματα των καμπανιών.
Στη συνέχεια παράγει μια λίστα πελατών που χρειάζονται επαφή. Αλλά δεν στέλνει προσφορές αυτόνομα. Δεν αλλάζει στάτους στο CRM. Δεν παίρνει επιχειρηματικές αποφάσεις. Προετοιμάζει συστάσεις.
Ο πωλητής λαμβάνει αιτιολόγηση:
- γιατί ο πελάτης βρέθηκε στη λίστα,
- ποια δεδομένα δείχνουν κίνδυνο απώλειας,
- ποιες ενέργειες προτείνονται.
Μόνο τότε ο άνθρωπος παίρνει την απόφαση. Αυτό είναι ένα παράδειγμα υγιούς συνεργασίας μεταξύ AI και επιχειρήσεων.
Θα εξαφανιστεί το πρόβλημα των παραισθήσεων;
Πιθανότατα όχι.
Τα μοντέλα θα γίνουν καλύτερα. Τα σφάλματα θα είναι πιο σπάνια. Αλλά δεν θα εξαφανιστούν εντελώς.
Γι' αυτό το μέλλον δεν ανήκει στις εταιρείες που εμπιστεύονται τυφλά την AI. Το μέλλον ανήκει σε οργανισμούς που χτίζουν συστήματα ελέγχου, επικύρωσης και υπεύθυνης χρήσης της τεχνητής νοημοσύνης.
Το πιο σημαντικό συμπέρασμα
Η μεγαλύτερη απειλή δεν είναι η AI που κάνει λάθος. Η μεγαλύτερη απειλή είναι η AI που κάνει λάθος με πειστικό τρόπο.
Γι' αυτό οι ώριμοι οργανισμοί δεν ρωτούν: "Μπορούμε να χρησιμοποιήσουμε την AI;"
Ρωτούν: "Πώς να κάνουμε την AI να παράγει καλύτερες συστάσεις και πώς να τις επαληθεύουμε πριν λάβουμε την απόφαση;"
Διότι στον επιχειρηματικό κόσμο μια απάντηση που ακούγεται σωστή και μια σωστή απόφαση είναι συχνά δύο εντελώς διαφορετικά πράγματα.
