Η τεχνητή νοημοσύνη έχει διεισδύσει σε μεγάλο βαθμό και στον τομέα της βιομηχανίας, συμβάλλοντας μεταξύ άλλων στη συντήρηση εξοπλισμού, στην αποφυγή βλαβών και στην παραγωγή εξατομικευμένων συστημάτων. Ωστόσο, η εκτεταμένη εφαρμογή της τεχνητής νοημοσύνης θέτει και ορισμένα ηθικά ζητήματα.
Της κ. Σταματίας Φοινίτση*
Η νοημοσύνη είναι η ικανότητα της σωστής πράξης τη σωστή στιγμή(1) η ικανότητα δηλαδή του ανθρώπου να ανταποκρίνεται στις ευκαιρίες και τις προκλήσεις που εμφανίζονται αξιολογώντας το περιεχόμενό τους και λαμβάνοντας κατάλληλες αποφάσεις. Αυτός ο ορισμός αποσαφηνίζει την έννοια της νοημοσύνης με έναν απλό τρόπο, ενώ καθιστά πιο κατανοητή την έννοια της Τεχνητής Νοημοσύνης (ΤΝ), καθώς η τελευταία σχεδιαζόμενη από τον άνθρωπο παράγεται για να εξυπηρετήσει σκοπούς με τη χρήση δεδομένων (πληροφοριών) που εισάγονται και εξάγονται μέσα από συγκεκριμένους μηχανισμούς.
Και στις δυο αυτές έννοιες (νοημοσύνη και τεχνητή νοημοσύνη) υπάρχει άρρηκτος δεσμός με εκείνη της ευθύνης· αυτό γιατί οι αποφάσεις που λαμβάνονται είτε για να ενεργήσουμε σε μια δεδομένη στιγμή είτε για να σχεδιάσουμε έναν μηχανισμό αξιολόγησης πληροφοριών φέρουν την ανάλογη υπευθυνότητα που οδηγούν σε αντίστοιχες συνέπειες (θετικές ή αρνητικές). Και εδώ είναι που η ηθική διαδραματίζει πρωτεύοντα και ουσιαστικό ρόλο, καθώς ο άνθρωπος ως αυτουργός –βασιζόμενος στις αρχές του και τις αξίες του– διαμορφώνει το πλαίσιο που θα μετασχηματίσει την πληροφορία σε κανονικότητα, και πλέον οι αρχές της λογοδοσίας και της διαφάνειας αποτελούν βασική προϋπόθεση του σχεδιασμού(2) των συστημάτων της ΤΝ καθιστώντας την ηθικά υπόλογη.
Τα συστήματα αυτά χαρακτηρίζονται από την αυτονομία τους να αποφασίζουν για το πώς θα ενεργήσουν και την ικανότητά τους να προσαρμόζονται και να αλληλεπιδρούν με το περιβάλλον τους και άλλους agents(3). Αυτά τα χαρακτηριστικά της αυτονομίας, της προσαρμοστικότητας και της αλληλεπίδρασης θα πρέπει να συμπληρώνονται στις αρχές του σχεδιασμού της, όπως τη διαφάνεια και την επεξηγησιμότητα, συμπεριλαμβάνοντας όμως και τη λογοδοσία, δηλαδή την ανάληψη ευθύνης και αιτιολόγησης για τα αποτελέσματα και τις πιθανές επιπτώσεις ενός συστήματος ΤΝ τόσο στο άτομο όσο και στο περιβάλλον του.
Εξετάζοντας τη χρήση της ΤΝ στη σύγχρονη εποχή οι εφαρμογές της είναι πολλές και δεν περιορίζονται μόνο στην απλή καθημερινότητά μας, όπως στη χρήση των λεγόμενων έξυπνων συσκευών αλλά έχουν εφαρμογές στον τομέα της βιομηχανίας (από την προληπτική συντήρηση μηχανημάτων και τον αυτόματο έλεγχο παραγωγικών διαδικασιών έως την ενίσχυση της ρομποτικής και τη βελτιστοποίηση της εφοδιαστικής αλυσίδας). Ωστόσο, η εκτεταμένη εφαρμογή της συνοδεύεται από κρίσιμα ηθικά ζητήματα, τα οποία απαιτούν την προσοχή μας.
Διαφάνεια και επεξηγησιμότητα σε βιομηχανικά συστήματα
Η διαφάνεια μπορεί να οριστεί ως η διαθεσιμότητα πληροφοριών σχετικά με έναν παράγοντα που επιτρέπει σε άλλους παράγοντες να παρακολουθήσουν τη λειτουργία ή την απόδοση αυτή του παράγοντα(4). Αυτό σημαίνει ότι οι πληροφορίες σχετικά με τον τρόπο που λειτουργεί ένα σύστημα ή ο τρόπος που εφαρμόζεται μια διαδικασία είναι διαθέσιμες και κατανοητές σε όσους επηρεάζονται, έτσι ώστε να μπορούν να ελέγχουν και να αξιολογούν τη λειτουργία του.
Στον βιομηχανικό τομέα, λοιπόν, η διαφάνεια είναι καθοριστικής σημασίας, ιδιαίτερα όταν οι αλγόριθμοι επηρεάζουν την παραγωγή, την ασφάλεια και την εφοδιαστική αλυσίδα. Ένα σύστημα ΤΝ που ελέγχει μια γραμμή παραγωγής πρέπει να διαθέτει επεξηγησιμότητα (η ικανότητα ενός συστήματος ΤΝ να παρέχει κατανοητές εξηγήσεις για τις αποφάσεις και τις ενέργειές του), ώστε οι μηχανικοί και οι χειριστές να το κατανοούν και να ενεργούν ανάλογα και παράλληλα να τους επιτρέπεται να επεμβαίνουν έγκαιρα και ορθά για τη διόρθωση τυχόν σφαλμάτων.
Ένα τέτοιο σύστημα ΤΝ –που είναι καλά σχεδιασμένο– παρέχει με κατανοητό τρόπο πληροφορίες χρήσης και συντήρησης, ώστε να προβλέπει βλάβες και να παράγει ακριβή αποτελέσματα, διαφορετικά μπορεί είτε να προκαλέσει άσκοπες διακοπές λειτουργίας είτε να οδηγήσει σε ατύχημα.
Ευθύνη vs λογοδοσία στις βιομηχανικές εφαρμογές
Στην περίπτωση, λοιπόν, που προκληθεί ένα σοβαρό ατύχημα και ενώ ο οργανισμός, ιδιοκτησίας του οποίου είναι ο εξοπλισμός που λειτουργεί βάσει ενός συστήματος ΤΝ, έχει λάβει όλα τα απαραίτητα μέτρα αναφορικά με τα πρωτόκολλα προστασίας και έχει εκπαιδεύσει κατάλληλα το προσωπικό του, ποιος ευθύνεται και ποιος λογοδοτεί, οι προγραμματιστές, ο οργανισμός ή οι χρήστες;
Εδώ είναι σημαντικό να επισημανθεί η διαφορά μεταξύ της λογοδοσίας και της ευθύνης, καθώς η μεν πρώτη αναφέρεται στην ικανότητα να εξηγεί ή να αναφέρει τον ρόλο κάποιου σε γεγονότα ή ενέργειες, ενώ η ευθύνη είναι το καθήκον να απαντά κανείς για τις πράξεις του (5) δηλ. η υποχρέωση να αναλάβει κανείς τις συνέπειες των πράξεών του.
Όταν ένας οργανισμός αναθέτει μια εργασία σε έναν άνθρωπο ή σε ένα agent, το αποτέλεσμα αυτού του καθήκοντος εξακολουθεί να είναι δική του ευθύνη. Επομένως, ακόμη και αν υπάρχουν συστήματα παρακολούθησης, τεκμηριωμένες διαδικασίες και ανθρώπινη παρέμβαση σε κρίσιμες αποφάσεις, η τελική ευθύνη –ιδιαίτερα σε διαδικασίες που έχουν αντίκτυπο στην ασφάλεια ή στα εργασιακά δικαιώματα– εξακολουθεί να ανήκει στον ανθρώπινο παράγοντα που επιβλέπει και εγκρίνει τη λειτουργία του συστήματος.
Συμπέρασμα
Όπως κάθε καινοτομία προκαλεί έναν έντονο ενδιαφέρον, ενώ παράλληλα εγείρει προβληματισμούς και ενδοιασμούς κατά τη χρήση της, έτσι και η χρήση της ΤΝ ενσωματώθηκε μεν στις πρακτικές της βιομηχανίας γρήγορα και με ενθουσιασμό, δίχως όμως να λείψει και η σχετική επιφύλαξη για την αποτελεσματική εφαρμογή της.
Παρόλα αυτά, όπως κάθε παράγωγο της ανθρώπινης διάδρασης, έτσι και η ΤΝ έχει θετικό και αρνητικό πρόσημο. Η επιλογή ενός διαφανούς, έγκυρου και υπεύθυνου σχεδιασμού είναι αποτελέσματα της ανθρώπινης διάνοιας. Για αυτό είναι επιτακτική η ανάγκη για την κατάλληλη εκπαίδευση κατά τον σχεδιασμό συστημάτων ΤΝ, ώστε να εξασφαλίζεται η ορθή και η ηθική λειτουργία τους.
ΠΗΓΕΣ
- Joanna J. Brysson, Ηθική της Τεχνητής Νοημοσύνης (ΑΙ), Markus D. Dubber, Frank Pasquale, Sunit Das, Εκδ. Παπαζήση (2023): 4.
- Ενν. να παρέχονται πρωτόκολλα προστασίας, έλεγχοι πρόσβασης, δυνατότητα άμεσης αντιμετώπισης παραβιάσεων και συμμόρφωση με τις τρέχουσες νομοθετικές και κανονιστικές απαιτήσεις.
- Ενν. μια αυτόνομη οντότητα που αντιλαμβάνεται το περιβάλλον της μέσω αισθητήρων και ενεργεί σε αυτό μέσω ενεργοποιητών (π.χ. temperature control systems για τη ρύθμιση θερμοκρασιών).
- Albert Meijer, “Transparency”, στο Oxford Handbook of Public Accountability, επιμ. Mark Bovens, Robert E. Goodin και Thomas Schillemans (Oxford University Press, 2014).
- Virginia Dignum, Ηθική της Τεχνητής Νοημοσύνης (ΑΙ), Markus D. Dubber, Frank Pasquale, Sunit Das, Εκδ. Παπαζήση (2023): 266.
*Η κ. Σταματία Φοινίτση είναι ιδρύτρια και διαχειρίστρια της Finitsi I.M.S και πρόεδρος του Διεθνούς Συνδέσμου Επαγγελματιών Εκτίμησης της Συμμόρφωσης (Conformity Assessment Society [CAS]) στην Ελλάδα. Επίσης, είναι Πιστοποιημένη Υπεύθυνη Διασφάλισης Ποιότητας με μεταπτυχιακό στα Ναυτιλιακά, ενώ ολοκληρώνει το δεύτερο μεταπτυχιακό της με τίτλο «Ηθική στην Τεχνολογία της Πληροφορίας».
