Καταιγίδα αντιδράσεων για τα chatbot της Meta: Ρομαντικές συνομιλίες με παιδιά στο μικροσκόπιο
- Αμφιλεγόμενα παραδείγματα και εύλογες ανησυχίες
- Αντιδράσεις από καλλιτεχνικό και πολιτικό κόσμο
- Η απάντηση της Meta και η υπόθεση «Big Sis Billie»
- Σε ποιον ανήκει η ευθύνη;
Το αποκαλυπτικό ρεπορτάζ του πρακτορείου Reuters, που βασίζεται σε διαρροή εγγράφου 200 σελίδων με τίτλο "GenAI: Content Risk Standards", έχει προκαλέσει κύμα οργής, τόσο στον πολιτικό κόσμο όσο και στην κοινή γνώμη. Το έγγραφο, εγκεκριμένο από νομικά στελέχη της Meta, περιγράφει ποιοι τύποι περιεχομένου θεωρούνται αποδεκτοί για τα chatbot της εταιρείας, με σημεία που χαρακτηρίζονται τουλάχιστον προβληματικά.
Αμφιλεγόμενα παραδείγματα και εύλογες ανησυχίες
Μεταξύ άλλων, το κείμενο περιλαμβάνει σενάρια στα οποία ένα chatbot επιτρέπεται να λέει σε ένα οκτάχρονο παιδί πως «κάθε σπιθαμή σου είναι ένα αριστούργημα - ένας θησαυρός που λατρεύω». Αν και το έγγραφο απαγορεύει ρητά σεξουαλικά σχόλια για παιδιά, η ύπαρξη τέτοιων «αισθησιακών» ή συναισθηματικά φορτισμένων διαλόγων με ανηλίκους έχει πυροδοτήσει σοβαρές ανησυχίες.
Παράλληλα, το ίδιο έγγραφο φέρεται να αφήνει περιθώριο στα chatbot να παράγουν ψευδείς ιατρικές πληροφορίες, αρκεί να δηλώνεται ότι δεν είναι αληθινές, ενώ κάνει αναφορά και σε ρητορική μίσους ή σεξουαλικό περιεχόμενο για δημόσια πρόσωπα, υπό συγκεκριμένες προϋποθέσεις.
Αντιδράσεις από καλλιτεχνικό και πολιτικό κόσμο
Μετά τη δημοσιοποίηση των πληροφοριών, ο γνωστός μουσικός Neil Young ανακοίνωσε την αποχώρησή του από το Facebook, εκφράζοντας αποτροπιασμό για τη χρήση τέτοιων εργαλείων με παιδιά. «Δεν επιθυμεί καμία απολύτως σχέση με τη Meta», ανέφερε σε δήλωσή της η δισκογραφική του εταιρεία.
Στο πολιτικό πεδίο, η υπόθεση έχει προκαλέσει καταιγίδα εξελίξεων. Ο Ρεπουμπλικανός γερουσιαστής Josh Hawley ξεκίνησε κοινοβουλευτική έρευνα κατά της Meta, ζητώντας εξηγήσεις για το αν τα AI εργαλεία της ενισχύουν φαινόμενα εξαπάτησης ή εκμετάλλευσης ανηλίκων. Την πρωτοβουλία του στήριξε και η γερουσιαστής Marsha Blackburn. Αντίστοιχα, ο Δημοκρατικός Ron Wyden δήλωσε πως η Meta δεν πρέπει πλέον να καλύπτεται από τη νομική ασπίδα του άρθρου 230, τονίζοντας ότι ο Mark Zuckerberg πρέπει να λογοδοτήσει.
Η απάντηση της Meta και η υπόθεση «Big Sis Billie»
Η Meta επιβεβαίωσε την αυθεντικότητα του εγγράφου, τονίζοντας ωστόσο ότι τα επίμαχα παραδείγματα έχουν αποσυρθεί. Εκπρόσωπος της εταιρείας παραδέχθηκε πως «η εφαρμογή των κανόνων δεν υπήρξε πάντα συνεπής» και πως τα παραδείγματα που διέρρευσαν δεν αντανακλούν τις επίσημες πολιτικές της.
Η συζήτηση φούντωσε και πάλι μετά από πρόσφατο περιστατικό στο Νιου Τζέρσεϊ, όπου ένας ηλικιωμένος άνδρας παραπλανήθηκε από ένα chatbot με την ονομασία "Big Sis Billie", το οποίο του παρουσιάστηκε ως υπαρκτό πρόσωπο. Ο άνδρας επιχείρησε να τη συναντήσει στη Νέα Υόρκη, ωστόσο τραυματίστηκε καθοδόν και λίγες ημέρες αργότερα απεβίωσε.
Η Meta αρνήθηκε να σχολιάσει το περιστατικό και δεν έδωσε απαντήσεις για το κατά πόσο επιτρέπεται σε chatbot να εμφανίζονται ως πραγματικά άτομα ή να ξεκινούν «ρομαντικού τύπου» διαλόγους.
Σε ποιον ανήκει η ευθύνη;
Με τη Meta να ανακοινώνει επενδύσεις ύψους 65 δισεκατομμυρίων δολαρίων στην τεχνητή νοημοσύνη για το 2025, τα ερωτήματα για την ηθική χρήση των συστημάτων της, τους ελέγχους ασφαλείας και την ευθύνη απέναντι στους χρήστες -ιδιαίτερα τους ευάλωτους- γίνονται όλο και πιο πιεστικά.
