Όταν μια επιχείρηση επιτρέπει στους εργαζομένους της να χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης χωρίς πολιτική, χωρίς κανόνες και χωρίς έλεγχο, δεν έχει πραγματικά υιοθετήσει την τεχνητή νοημοσύνη. Έχει απλώς χάσει ένα μέρος του ελέγχου της πληροφορίας της.
Η τεχνητή νοημοσύνη έχει ήδη μπει στην καθημερινή λειτουργία πολλών επιχειρήσεων. Όχι απαραίτητα μέσα από επίσημα έργα, εγκεκριμένες πλατφόρμες ή οργανωμένες επενδύσεις. Συχνά μπαίνει πιο απλά: από τον ίδιο τον εργαζόμενο που θέλει να κάνει τη δουλειά του πιο γρήγορα.
Ένας εργαζόμενος ανεβάζει ένα αρχείο Excel σε ένα AI εργαλείο για να κάνει μια ανάλυση. Κάποιος άλλος αντιγράφει ένα κείμενο σύμβασης για να πάρει μια περίληψη. Ένας τρίτος χρησιμοποιεί στοιχεία πελατών για να συντάξει πιο γρήγορα μια προσφορά ή ένα email.
Η πρόθεση συνήθως δεν είναι κακή. Οι άνθρωποι προσπαθούν να γίνουν πιο παραγωγικοί, να εξοικονομήσουν χρόνο και να αξιοποιήσουν εργαλεία που πλέον είναι εύκολα διαθέσιμα. Αυτό είναι απολύτως λογικό.
Το πρόβλημα αρχίζει όταν η διοίκηση δεν γνωρίζει ποια εργαλεία χρησιμοποιούνται, ποια δεδομένα εισάγονται σε αυτά, πού αποθηκεύονται, ποιος έχει πρόσβαση και αν η χρήση τους είναι συμβατή με τις υποχρεώσεις της επιχείρησης.
Τι είναι το Shadow AI
Με τον όρο Shadow AI περιγράφουμε τη χρήση εργαλείων τεχνητής νοημοσύνης μέσα σε μια επιχείρηση χωρίς επίσημη έγκριση, χωρίς πολιτική χρήσης, χωρίς τεχνικό έλεγχο και χωρίς σαφή ενημέρωση των εργαζομένων.
Δεν πρόκειται απλώς για τεχνικό θέμα. Είναι θέμα διακυβέρνησης πληροφορίας.
Στην πράξη, δημιουργείται ένα παράλληλο πληροφοριακό σύστημα έξω από το ERP, το CRM, το εταιρικό email, τους ελέγχους πρόσβασης, τις πολιτικές ασφαλείας και το πλαίσιο συμμόρφωσης της επιχείρησης.
Η διοίκηση μπορεί να πιστεύει ότι τα δεδομένα της βρίσκονται μέσα στα επίσημα συστήματα. Στην πραγματικότητα, όμως, τμήμα αυτής της πληροφορίας μπορεί να έχει περάσει σε εξωτερικά εργαλεία, προσωπικούς λογαριασμούς, δωρεάν πλατφόρμες ή εφαρμογές που δεν έχουν αξιολογηθεί ποτέ.
Γιατί αυτό είναι πρόβλημα
Η ανεξέλεγκτη χρήση AI εργαλείων μπορεί να δημιουργήσει σοβαρούς κινδύνους.
Πρώτον, υπάρχει κίνδυνος αποκάλυψης εμπιστευτικών πληροφοριών. Συμβάσεις, οικονομικά στοιχεία, λίστες πελατών, προσφορές, εμπορικές στρατηγικές και εσωτερικά έγγραφα μπορεί να εισαχθούν σε πλατφόρμες που δεν έχουν εγκριθεί από την επιχείρηση.
Δεύτερον, υπάρχει κίνδυνος παραβίασης προσωπικών δεδομένων. Αν εργαζόμενοι εισάγουν ονόματα, στοιχεία επικοινωνίας, οικονομικά δεδομένα, δεδομένα υγείας ή άλλα προσωπικά δεδομένα σε AI εργαλεία, η επιχείρηση πρέπει να γνωρίζει αν υπάρχει νόμιμη βάση, ποιος είναι ο ρόλος του παρόχου, πού γίνεται η επεξεργασία και αν υπάρχουν κατάλληλες εγγυήσεις.
Τρίτον, υπάρχει κίνδυνος απώλειας ελέγχου. Όταν η πληροφορία φεύγει από τα επίσημα συστήματα της επιχείρησης, δεν είναι πάντα σαφές πού βρίσκεται, για πόσο χρόνο διατηρείται και αν μπορεί να διαγραφεί.
Τέταρτον, υπάρχει κίνδυνος λανθασμένων αποφάσεων. Τα AI εργαλεία μπορούν να βοηθήσουν, αλλά μπορούν και να παράγουν ανακριβείς, ελλιπείς ή παραπλανητικές απαντήσεις. Αν το αποτέλεσμα χρησιμοποιείται χωρίς έλεγχο, η επιχείρηση μπορεί να βασιστεί σε πληροφορία που δεν έχει επαληθευτεί.
Η απαγόρευση δεν είναι λύση
Η πρώτη αντίδραση πολλών επιχειρήσεων είναι η απαγόρευση. Αυτό όμως σπάνια λύνει το πρόβλημα.
Αν οι εργαζόμενοι θεωρούν ότι ένα εργαλείο τους βοηθά πραγματικά, είναι πιθανό να συνεχίσουν να το χρησιμοποιούν από προσωπικό λογαριασμό, από κινητό τηλέφωνο ή εκτός εταιρικού δικτύου. Έτσι η χρήση δεν σταματά. Απλώς γίνεται λιγότερο ορατή.
Η πλήρης απαγόρευση μπορεί να έχει νόημα σε συγκεκριμένες περιπτώσεις υψηλού κινδύνου, αλλά ως γενική πολιτική συνήθως οδηγεί τη χρήση στο παρασκήνιο. Και ό,τι πηγαίνει στο παρασκήνιο γίνεται δυσκολότερο να ελεγχθεί.
Η σωστή προσέγγιση δεν είναι να αγνοήσει η επιχείρηση το AI. Ούτε να το αφήσει ανεξέλεγκτο. Η σωστή προσέγγιση είναι να το εντάξει σε κανόνες.
Τι πρέπει να κάνει μια επιχείρηση
Μια σοβαρή πολιτική χρήσης AI δεν χρειάζεται απαραίτητα να είναι περίπλοκη. Χρειάζεται όμως να είναι σαφής, πρακτική και εφαρμόσιμη.
Η επιχείρηση πρέπει να ορίσει ποια εργαλεία επιτρέπονται και για ποιες χρήσεις. Πρέπει επίσης να ξεκαθαρίσει ποια δεδομένα δεν επιτρέπεται να εισάγονται σε AI πλατφόρμες. Για παράδειγμα, προσωπικά δεδομένα, δεδομένα υγείας, εμπιστευτικές συμβάσεις, οικονομικά στοιχεία, κωδικοί πρόσβασης, τεχνικές πληροφορίες υποδομών ή στοιχεία πελατών δεν πρέπει να χρησιμοποιούνται χωρίς προηγούμενη αξιολόγηση και έγκριση.
Επιπλέον, χρειάζεται να υπάρχουν εταιρικοί λογαριασμοί όπου αυτό είναι απαραίτητο, ώστε η χρήση να γίνεται μέσα σε ελεγχόμενο περιβάλλον και όχι από προσωπικούς λογαριασμούς εργαζομένων.
Χρειάζεται επίσης ενημέρωση των εργαζομένων. Όχι με γενικές οδηγίες, αλλά με πρακτικά παραδείγματα: τι επιτρέπεται, τι απαγορεύεται, ποια δεδομένα θεωρούνται ευαίσθητα, πότε πρέπει να ζητείται έγκριση και ποιος είναι υπεύθυνος για την αξιολόγηση ενός νέου εργαλείου.
Τέλος, η χρήση AI πρέπει να συνδεθεί με τις υφιστάμενες πολιτικές της επιχείρησης: πολιτική απορρήτου, πολιτική ασφάλειας πληροφοριών, πολιτική χρήσης εταιρικών συστημάτων, διαδικασίες GDPR, συμβάσεις με πελάτες και συνεργάτες.
Το AI χρειάζεται σχέδιο, όχι φόβο
Η τεχνητή νοημοσύνη μπορεί να δώσει πραγματική αξία σε μια επιχείρηση. Μπορεί να βοηθήσει στην ανάλυση πληροφοριών, στη σύνταξη κειμένων, στην οργάνωση εργασιών, στην υποστήριξη πελατών και στη βελτίωση της παραγωγικότητας.
Αλλά η αξία αυτή υπάρχει μόνο όταν η χρήση γίνεται με σχέδιο.
Χωρίς πολιτική, χωρίς εγκεκριμένα εργαλεία και χωρίς εκπαίδευση, το AI μπορεί να μετατραπεί σε ανεξέλεγκτο κανάλι διαρροής πληροφορίας. Όχι επειδή οι εργαζόμενοι έχουν κακή πρόθεση, αλλά επειδή η επιχείρηση δεν τους έχει δώσει σαφείς κανόνες.
Η διοίκηση πρέπει να γνωρίζει πού βρίσκεται η πληροφορία της, ποιος τη χρησιμοποιεί και με ποια εργαλεία. Αυτό δεν είναι πολυτέλεια. Είναι βασικό στοιχείο επιχειρησιακού ελέγχου.
Συμπέρασμα
Η υιοθέτηση της τεχνητής νοημοσύνης δεν ξεκινά με την επιλογή ενός εργαλείου. Ξεκινά με την κατανόηση του κινδύνου και τη διαμόρφωση κανόνων.
Μια επιχείρηση που θέλει να αξιοποιήσει το AI με σοβαρότητα πρέπει να γνωρίζει:
- ποια εργαλεία χρησιμοποιούνται,
- ποια δεδομένα εισάγονται σε αυτά,
- ποιοι χρήστες έχουν πρόσβαση,
- ποιοι κίνδυνοι δημιουργούνται,
- και ποια μέτρα πρέπει να εφαρμοστούν.
Το ερώτημα δεν είναι αν οι εργαζόμενοι θα χρησιμοποιήσουν AI. Σε πολλές περιπτώσεις ήδη το χρησιμοποιούν.
Το πραγματικό ερώτημα είναι αν η επιχείρηση το γνωρίζει, το ελέγχει και το έχει εντάξει σε ένα υπεύθυνο πλαίσιο λειτουργίας.