Τεχνητή Νοημοσύνη, Δημοκρατία και ο Ρόλος του Ευρωπαϊκού Κοινοβουλίου

Ο Νόμος για την Τεχνητή Νοημοσύνη (AI Act), ως κανονισμός της Ευρωπαϊκής Ένωσης , θεσπίζει ένα κοινό ρυθμιστικό και νομικό πλαίσιο που αφορά την τεχνητή νοημοσύνη, εντός της Ευρωπαϊκής Ένωσης και βασίζεται σε επτά θεμελιώδεις αρχές: την ανθρώπινη εποπτεία και παρέμβαση· την τεχνική ανθεκτικότητα και ασφάλεια· την προστασία της ιδιωτικότητας και τη διακυβέρνηση των δεδομένων· τη διαφάνεια· τη διαφορετικότητα, τη μη διάκριση και τη δικαιοσύνη· την κοινωνική και περιβαλλοντική ευημερία· και τη λογοδοσία.

Ο Κανονισμός τέθηκε σε ισχύ την 1η Αυγούστου 2024, με προοπτική ενσωμάτωσης στα εθνικά δίκαια μέσα στους επόμενους 6 έως 36 μήνες.

Η τεχνητή νοημοσύνη έχει αποδειχθεί μια από τις πιο επιδραστικές δυνάμεις σχηματισμού πολιτικής, οικονομικής και κοινωνικής ζωής του 21ου αιώνα. Από την αλγοριθμική λήψη αποφάσεων στη δημόσια διοίκηση μέχρι την κατάρτιση συστημάτων τεχνητής νοημοσύνης ικανά για την παράγωγη πειστικού πολιτικού περιεχομένου, η τεχνητή νοημοσύνη επιδρά στον τρόπο εργασίας των πολιτών, την επικοινωνία, την απόκτηση γνώσεων αλλά και τη συμμετοχή στις δημοκρατικές διαδικασίες.

Ο νόμος για την τεχνητή νοημοσύνη (AI Act), αποτελεί το πρώτο ολοκληρωμένο νομικό πλαίσιο σε παγκόσμιο επίπεδο που ρυθμίζει τις λειτουργίες τεχνητής νοημοσύνης και το σημαντικότερο επίτευγμα του Ευρωπαϊκού Κοινοβουλίου σε αυτόν τον τομέα. Η Ευρώπη τοποθετείται, έτσι, ως παγκοσμίως διαμορφωτής προτύπων στην ψηφιακή διακυβέρνηση και το Ευρωπαϊκό Κοινοβούλιο αναδεικνύεται ως δημοκρατικός θεσμός που καθοδηγεί τη ρύθμιση της τεχνητής νοημοσύνης προς την διαφάνεια, τη λογοδοσία και την ηθική καινοτομία.

Η δημοκρατική διακυβέρνηση αποτελεί προϋπόθεση για την τεχνητή νοημοσύνη.

Έχοντας υπόψιν τις απεριόριστες δυνατότητες της τεχνητής νοημοσύνης για λειτουργική απόδοση, επιστημονική πρόοδο, προσωποποιημένες υπηρεσίες και οικονομική ανάπτυξη, καθώς και την υποστήριξη της ιατρικής διάγνωσης, τον αυτοματισμό στις βιομηχανικές διαδικασίες, τη βελτιστοποίηση στις ροές της κυκλοφορίας και την ανάλυση δεδομένων σε μεγάλη κλίμακα, δε θα πρέπει να παραγνωρίζεται το ρίσκο που ενέχεται και μπορεί να υπονομεύσει τη δημοκρατική κοινωνία. Ένα τέτοιο ρίσκο μπορεί να περιλαμβάνει αδιαφανείς διαδικασίες λήψης αποφάσεων, αλγοριθμική διαχείριση ψηφιακών πλατφορμών και δεδομένων εκπαίδευσης , δυνατότητες επιτήρησης που μπορούν να απειλήσουν την ιδιωτικότητα, παραπληροφόρηση και λανθασμένη πληροφόρηση, συγκέντρωση τεχνολογικής ισχύος στα χέρια λίγων παγκόσμιων εταιρειών κ.ά.

Από τις προκλήσεις αυτές προκύπτει και η ανάγκη σχετικής δημοκρατικής εποπτείας. Η Ευρωπαϊκή Ένωση προσπαθεί να αντιμετωπίσει την πολυπλοκότητα αυτών των προκλήσεων μέσω των νομοθετικών και ρυθμιστικών της θεσμών. Η τεχνητή νοημοσύνη απαιτεί ειδικό χειρισμό και η διακυβέρνησή της δε μπορεί να ανατεθεί σε ιδιωτικές εταιρείες με κίνητρο το κέρδος αντί της κοινωνικής ευημερίας ούτε σε εθνικές κυβερνήσεις, δεδομένου του παγκόσμιου χαρακτήρα των αγορών της.

Το Ευρωπαϊκό Κοινοβούλιο ως Δημοκρατικός πυλώνας της Κανονιστικής ρύθμισης της τεχνητής νοημοσύνης.

Το Ευρωπαϊκό Κοινοβούλιο, εκπροσωπεί πάνω από 400 εκατομμύρια πολίτες, και το ως το μοναδικό άμεσα εκλεγμένο όργανο της ΕΕ έχει ως κύριο στόχο τη διασφάλιση των δικαιωμάτων των ευρωπαίων πολιτών και τον αντικατοπτρισμό των δημοκρατικών αξιών στους ρυθμιστικούς κανονισμούς. Κατά τη θέσπιση του Νόμου για την τεχνητή νοημοσύνη το Ευρωπαϊκό Κοινοβούλιο υπήρξε νομοθέτης, θεματοφύλακας θεμελιωδών δικαιωμάτων αλλά και φορέας συμμετοχικής δημοκρατίας.

Ως νομοθέτης, συναποφασίζοντας με το Συμβούλιο, το Κοινοβούλιο διαμόρφωσε το περιεχόμενο του Νόμου για την τεχνητή νοημοσύνη, ενισχύοντας τις απαιτήσεις λογοδοσίας, απαγορεύοντας τις επιβλαβείς χρήσεις της, με στόχο την παραμονή των θεμελιωδών δικαιωμάτων στο επίκεντρο.

Ως θεματοφύλακας Θεμελιωδών Δικαιωμάτων, το Κοινοβούλιο μέσα από τις Κοινοβουλευτικές επιτροπές, όπως αυτές των Πολιτικών Ελευθεριών, των Νομικών Υποθέσεων, της Εσωτερικής Αγοράς και της Προστασίας των Καταναλωτών, διασφάλισε την εξέταση την τεχνητής νοημοσύνης υπό το πρίσμα της μη διάκρισης, της ιδιωτικότητας, της προστασίας των καταναλωτών και των δικαιωμάτων των εργαζομένων.

Ως φορέας συμμετοχικής δημοκρατίας, το Ευρωπαϊκό Κοινοβούλιο εξασφάλισε τη διεξαγωγή δημόσιων ακροάσεων με τη συμμετοχή οργανώσεων της κοινωνίας των πολιτών, ακαδημαϊκών, εργατικών συνδικάτων και οργανώσεων νέων ώστε να ενσωματωθεί η ανατροφοδότηση και να αποκτήσει την απαραίτητη νομιμοποίηση η τελική νομοθεσία.

Το Ευρωπαϊκό Κοινοβούλιο διασφάλισε με τον τρόπο αυτό, ότι Νόμος για την τεχνητή νοημοσύνη δεν αποτέλεσε απλώς μια τεχνική ρύθμιση αλλά ένα κανονιστικό πλαίσιο βασισμένο στα δικαιώματα και τη δημοκρατίας.

Δομή και φιλοσοφία του Νόμου.

Ο Νόμος αποτελεί την πρώτη προσπάθεια ρύθμισης της τεχνητής νοημοσύνης, σε παγκόσμιο επίπεδο. Η φιλοσοφία του αφορά την προσέγγιση με βάση τον ενδεχόμενο κίνδυνο. Όσο μεγεθύνει ο κίνδυνος για το άτομο ή την κοινωνία, τόσο πιο αυστηροί γίνονται οι κανόνες.

Υπάρχουν τέσσερις διακριτές κατηγορίες.

Η πρώτη κατηγορία αφορά τα συστήματα μη αποδεκτού κινδύνου, τα οποία απειλούν θεμελιώδη δικαιώματα ή δημοκρατικές αξίες. Η απαγόρευση των συστημάτων αυτών υποστηρίχθηκε έντονα από το Ευρωπαϊκό Κοινοβούλιο. Παραδείγματα τέτοιων συστημάτων τεχνητής νοημοσύνης αποτελούν η «κοινωνικής βαθμολόγησης» (social scoring) από κυβερνήσεις, ένα σύστημα που βαθμολογεί τους πολίτες με βάση την οικονομική τους κατάσταση ή τη συμπεριφορά, ορισμένοι τύποι βιομετρικής επιτήρησης για την αναγνώριση προσώπων σε δημόσιους χώρους, η προβλεπτική αστυνόμευση (predictive policing) βασισμένη σε ατομικά προφίλ και τα συστήματα αναγνώρισης συναισθημάτων σε χώρους εργασίας και σχολεία, όπως η ανίχνευση του θυμού των εργαζομένων για την αξιολόγηση συμπεριφοράς.

Η δεύτερη κατηγορία αφορά τα συστήματα υψηλού κινδύνου, που χρησιμοποιούνται σε ευαίσθητους τομείς όπως η υγεία, η εκπαίδευση, η απασχόληση, οι κρίσιμες υποδομές, η μετανάστευση και οι δημόσιες υπηρεσίες. Τα συστήματα αυτά οφείλουν να τηρούν υποχρεωτικές απαιτήσεις που αφορούν τη διαφάνεια, την ποιότητα των δεδομένων, την ανθρώπινη εποπτεία, την τεκμηρίωση και την ιχνηλασιμότητα. Το Κοινοβούλιο επέβαλε αυστηρούς μηχανισμούς σχετικά με την αμφισβήτηση αλγοριθμικών αποφάσεων, όπως η τεχνητή νοημοσύνη για τη διάγνωση ασθενειών, την αξιολόγηση εργαζομένων για πρόσληψη ,τη βαθμολόγηση μαθητών για εισαγωγή στην ανώτερη εκπαίδευση, συστήματα ελέγχου των συνόρων και συστήματα διαχείρισης ενέργειας και άλλων κρίσιμων υποδομών.

Η τρίτη κατηγορία αφορά τα συστήματα περιορισμένου κινδύνου, που αφορούν υποχρεώσεις διαφάνειας. Για την αντιμετώπιση των ανησυχιών πολιτικής χειραγώγησης και παραπληροφόρησης ,το Ευρωπαϊκό Κοινοβούλιο προώθησε εντόνως τις σχετικές διατάξεις. Στην κατηγορία αυτή περιλαμβάνονται το τεχνητά παραποιημένο περιεχόμενο με τεχνητή νοημοσύνη (deepfakes) , τα chatbots κ.ά. Οι πάροχοι των υπηρεσιών αυτών θα πρέπει να γνωρίζουν ότι αλληλοεπιδρούν με τεχνητή νοημοσύνη και τα δεδομένα εκπαίδευσης να σέβονται τα πνευματικά δικαιώματα και να μη περιλαμβάνουν παράνομο υλικό.

Η τελευταία κατηγορία αφορά τα συστήματα ελάχιστου κινδύνου, τα φίλτρα ανεπιθύμητης αλληλογραφίας, η τεχνητή νοημοσύνη στα βιντεοπαιχνίδια, τα προγράμματα διόρθωσης ορθογραφίας, βελτίωσης εικόνων και φωτογραφιών ή και ταξινόμησης αρχείων.

Η συμβολή του Ευρωπαϊκού Κοινοβουλίου.

Ενώ το AI Act αρχικά προτάθηκε από την Ευρωπαϊκή Επιτροπή, το Κοινοβούλιο διαμόρφωσε σημαντικά την τελική εκδοχή. Η συμβολή του Κοινοβουλίου έγκειται α)στις αυστηρότερες απαγορεύσεις και την προστασία των θεμελιωδών δικαιωμάτων, τοποθετώντας την ανθρώπινη αξιοπρέπεια στο επίκεντρο της διακυβέρνησης της τεχνητής νοημοσύνης β)στη ρύθμιση της γενικής της χρήσης και τα μεγάλα γλωσσικά μοντέλα. Διασφαλίζοντας τη λογοδοσία για ισχυρά συστήματα τεχνητής νοημοσύνης γ)στην προστασία των εργαζομένων, καθιστώντας υποχρεωτική την ενημέρωση χρήσης τεχνητής νοημοσύνης και του δικαιώματος αμφισβήτησης αυτοματοποιημένων αποφάσεων δ)στη δημιουργία του Ευρωπαϊκού φορέα εξασφάλισης συνέπειας μεταξύ των κρατών μελών και καλύτερης εφαρμογής των κανόνων, της Ευρωπαϊκής Υπηρεσίας τεχνητής νοημοσύνης (European AI Office) ε) στο δικαίωμα σε εξηγήσεις αναφορικά με τη λήψη αποφάσεων και τη σχετική αποκατάσταση στ)στο οικοσύστημα της πληροφορίας με στόχο την παραπληροφόρηση, τη στοχευμένη πολιτική διαφήμιση, τα deepfakes και τη μικρο-στόχευση που μπορούν να παραμορφώσουν τη δημόσια συζήτηση. Στο θέμα αυτό το Κοινοβούλιο έχει επιτύχει τον Κανονισμό πολιτικής διαφήμισης, τις απαιτήσεις διαφάνειας αλγορίθμων, τη σήμανση deepfakes και την ψηφιακή χρηματοδότηση για ΜΜΕ παιδεία.

Το Ευρωπαϊκό Κοινοβούλιο βλέπει το AI Act όχι μόνο ως ρυθμιστικό επίτευγμα αλλά και ως γεωπολιτική στρατηγική, με στόχο τον καθορισμό παγκόσμιων προτύπων. Φυσικά, η σχετική διακυβέρνηση αντιμετωπίζει ποικίλες προκλήσεις όπως τη διασφάλιση αποτελεσματικής εφαρμογής στα Κράτη Μέλη, την αντιμετώπιση περιβαλλοντικών επιπτώσεων υποδομών τεχνητής νοημοσύνης, την προστασία πολιτισμικής ποικιλομορφίας στον ψηφιακό χώρο, την ενσωμάτωση απόψεων νέων και μειονοτήτων στη χάραξη σχετικής πολιτικής κ.ά.

Το Ευρωπαϊκό Κοινοβούλιο διασφάλισε μια πρώτη ολοκληρωμένη ρύθμιση της τεχνητής νοημοσύνης, βασιζόμενη σε δημοκρατικές αξίες, θεμελιώδη δικαιώματα με έναν ανθρωποκεντρικό χαρακτήρα, αποδεικνύοντας ότι η τεχνολογία μπορεί να υπάρξει υπό τη δημοκρατική βούληση, ανεξάρτητη από άλλα συμφέροντα.

Καθώς η τεχνητή νοημοσύνη εξελίσσεται και καινοτομεί, πρέπει να παραμένει ευθυγραμμισμένη με τους πολίτες που υπηρετεί και τον ίδιο δρόμο οφείλει να ακολουθεί και το ευρωπαϊκό ρυθμιστικό πλαίσιο. Το Ευρωπαϊκό Κοινοβούλιο, ως η δημοκρατική καρδιά της Ε.Ε. παραμένει προστάτης και καθοδηγητής ενός δίκαιου, ηθικού και ανθρώπινου ψηφιακού μέλλοντος.