Μυρτώ Κοροβέση: Τεχνητή Νοημοσύνη και Δημόσιος Βίος – Μαζί ή χώρια ;

Με αφορμή τη συμφωνία για τη Τεχνητή Νοημοσύνη μετά από 3 ημέρες συνεχούς διαπραγμάτευσης μεταξύ του Ευρωπαϊκού Κοινοβουλίου και των κρατών μελών της Ευρωπαϊκής Ένωσης, τη λεγόμενη AI ACT, μπορούμε να πούμε τα εξής :

Αρχικά, είναι φανερό ότι η Τεχνητή Νοημοσύνη και οι εφαρμογές της, πέρα από τον ιδιωτικό τομέα, μπορεί να επηρεάσει άμεσα και τον δημόσιο. Πώς ; Το εύρος των εφαρμογών της είναι απεριόριστο και αναμφισβήτητα, η ΤΝ είναι μία τεχνολογία γενικής χρήσης. Ένα απλό παράδειγμα είναι η χρήση της από κυβερνήσεις άλλων ευρωπαϊκών χωρών για την πάταξη της φοροδιαφυγής και φοροαποφυγής (πχ πρόγραμμα Connect – Ηνωμένο Βασίλειο), στόχευση πληρωμών πρόνοιας σε όσους τις χρειάζονται περισσότερο (Κολομβία) και ούτω καθεξής.

Οι αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης σημαίνουν ότι μπορεί να προχωρήσει πέρα ​​από τη βελτίωση του τρόπου λειτουργίας των κυβερνήσεων – βελτιώνοντας την αποτελεσματικότητα της παροχής υπηρεσιών – στην αλλαγή του τρόπου με τον οποίο οι κυβερνήσεις σκέφτονται να σχεδιάζουν υπηρεσίες με επίκεντρο τον χρήστη και να είναι πιο προσαρμοσμένες στις ανάγκες των ανθρώπων.

Καλά όλα αυτά, αλλά υπάρχουν, άραγε, κίνδυνοι και προκλήσεις κατά τη χρήση συστημάτων Τεχνητής Νοημοσύνης;

Φυσικά. Και είναι πολλοί.

Η κύρια πρόκληση είναι ότι τα προγράμματα τεχνητής νοημοσύνης είναι πάντα τόσο καλά όσο οι υποκείμενοι αλγόριθμοι και τα δεδομένα στα οποία λειτουργούν. Εάν οι κυβερνήσεις δεν διαθέτουν λεπτομερώς συντονισμένους και δεοντολογικούς αλγόριθμους που χρησιμοποιούν αξιόπιστα μητρώα με ακριβή και αντιπροσωπευτικά δεδομένα, τότε αυτό θα επηρεάσει αρνητικά τα αποτελέσματα. Αυτό μπορεί να ενισχύσει τον κίνδυνο μεροληψίας και υπάρχει ο κίνδυνος αυτές οι προκαταλήψεις να ενσωματωθούν στη συνέχεια στο σχεδιασμό των αλγορίθμων.

Παράδειγμα αποτελεί το σκάνδαλο στην Ολλανδία όταν διαπιστώθηκε ότι ένας αλγόριθμος ήταν προκατειλημμένος, αποκλείοντας λανθασμένα ορισμένα άτομα από τη λήψη επιδομάτων πρόνοιας. Όταν ανακαλύφθηκε, η κυβέρνηση αναγκάστηκε να παραιτηθεί και η φορολογική διοίκηση επιβλήθηκε αργότερα από τα δικαστήρια.

Βλέπουμε, λοιπόν, ότι η Τεχνητή Νοημοσύνη, πέρα από σύμπλεγμα αλγοριθμικών συστημάτων, έχει αναχθεί σε γεωπολιτική ανησυχία. Είναι φανερό ότι μία τόσο μεγάλη σε εύρος τεχνολογία γενικής χρήσης μπορεί να χρησιμοποιηθεί και για καλό και για κακό. Η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί κατάχρηση από αυταρχικές κυβερνήσεις για τον έλεγχο των ανθρώπων ή για να βοηθήσει κακοήθεις παράγοντες να διαδώσουν παραπληροφόρηση. Αυτοί οι φόβοι τροφοδοτούν αυτές τις ευρύτερες συζητήσεις για το μέλλον των ψηφιακών ανθρωπίνων δικαιωμάτων, οι οποίες ενσωματώνουν στοιχεία όπως η ιδιωτική ζωή και η ελευθερία της έκφρασης. Αυτά τα ερωτήματα είναι περισσότερο πολιτικά παρά τεχνικά και οι κυβερνήσεις έχουν την ευθύνη όχι μόνο να προωθήσουν έναν σκόπιμο διάλογο γύρω από αυτά τα ζητήματα, αλλά και να λάβουν μέτρα για την πλήρη αποφυγή τέτοιων πρακτικών.

Συνεπώς, εμμένοντας μακριά τόσο από τεχνοφιλικές, όσο και από τεχνοφοβικές εμμονές, το πλέον σίγουρο είναι ότι για την αποφυγή των προαναφερθεισών πρακτικών, αλλά και τη βελτίωση των συνθηκών διαβίωσης των πολιτών ενός κράτους, η Τεχνητή Νοημοσύνη και οι εφαρμογές της επιβάλλεται να χρησιμοποιηθούν από ένα κράτος, εξασφαλίζοντας ότι πρώτα έχουν κατασκευαστεί τα απαραίτητα προστατευτικά κιγκλιδώματα. Αρχή της εκάστοτε κυβέρνησης πρέπει να είναι ότι οι αλγόριθμοι θα να είναι διαφανείς και εξηγήσιμοι. Και αυτό, πλέον, ανάγεται σε ζήτημα υπευθυνότητας.

Κλείνοντας, δεν υπάρχει αμφιβολία ότι η χρήση των εφαρμογών Τεχνητής Νοημοσύνης θα αποβεί πολύτιμη στο χώρο του δημόσιου τομέα. Αλλά για να επιτευχθεί αυτό θα πρέπει η χρήση της ΤΝ να γίνεται πάντοτε έχοντας επίκεντρο τον Άνθρωπο. Υπάρχουν κίνδυνοι, αλλά θέλουμε να πιστεύουμε στη συνειδητότητα με την οποία οι ιθύνοντες θα αγκαλιάσουν την αλλαγή όσον αφορά τη βελτίωση της γνώσης, των υπηρεσιών και της ικανότητας των κυβερνήσεων να εξυπηρετούν το κοινό.

Κοροβέση Μυρτώ

Δικηγόρος με ειδίκευση σε θέματα AI – Υπεύθυνη Προστασίας Δεδομένων

Περιφερειακή Σύμβουλος Αν. Αττικής

• Τεχνητή Νοημοσύνη