Αμεση απόσυρση παιδικού παιχνιδιού με τεχνητή νοημοσύνη: Ανησυχία στους γονείς
Η απόσυρσή του είχε να κάνει με τη δημιουργία περιεχομένου ακατάλληλου και δυνητικά επικίνδυνου για τα παιδιά.
Η εταιρεία FoloToy είχε κυκλοφορήσει το «Kumma», ένα αρκουδάκι με ενσωματωμένο chatbot τεχνητής νοημοσύνης, βασισμένο σε τεχνολογία της OpenAI. Ωστόσο, αξιολόγηση της Ομάδας Έρευνας Δημοσίου Συμφέροντος (PIRG) κατέδειξε ότι το παιχνίδι δημιουργούσε περιεχόμενο που οι ειδικοί χαρακτήρισαν ανησυχητικό.
Μεταξύ των περιεχομένων που εντοπίστηκαν ήταν συμβουλές για επικίνδυνες δραστηριότητες, όπως η χρήση μαχαιριών ή σπίρτων, καθώς και αναφορές σε σεξουαλικά θέματα, θέτοντας σε συναγερμό τους γονείς.
Μετά την αναφορά, η FoloToy ανακοίνωσε την άμεση απόσυρση του προϊόντος και την έναρξη «ολοκληρωμένου εσωτερικού ελέγχου ασφάλειας». Ο διευθυντής μάρκετινγκ της εταιρείας, Hugo Wu, δήλωσε στο The Register ότι η αναθεώρηση θα εξετάσει την ασφάλεια των μοντέλων τεχνητής νοημοσύνης, τα φίλτρα περιεχομένου, τις διαδικασίες προστασίας δεδομένων και τους μηχανισμούς ασφαλούς αλληλεπίδρασης με παιδιά. «Εκτιμούμε την επισημοποίηση των κινδύνων από τους ερευνητές, καθώς μας βοηθά να βελτιωθούμε», πρόσθεσε.
Ο RJ Cross, διευθυντής του προγράμματος Our Online Life του PIRG, τόνισε στο Futurism ότι η τεχνολογία αυτή παραμένει ανεξέλεγκτη και η επίδρασή της στα παιδιά είναι άγνωστη. «Αν ήμουν γονιός, δεν θα έδινα στα παιδιά μου πρόσβαση σε ένα chatbot ή σε ένα αρκουδάκι που ενσωματώνει τέτοια τεχνολογία», είπε.
Σύμφωνα με την έκθεση του PIRG, οι συνομιλίες του Kumma περιλάμβαναν λεπτομέρειες για τη χρήση σπίρτων, οδηγίες για εφαρμογές γνωριμιών και ακόμη και περιγραφές σεξουαλικής δυναμικής μεταξύ μαθητή και δασκάλου. Οι ειδικοί επισημαίνουν ότι οι συνέπειες της αλληλεπίδρασης παιδιών με τέτοια συστήματα είναι δύσκολο να προβλεφθούν και απαιτούν αυστηρότερο έλεγχο.
Η υπόθεση επαναφέρει στο προσκήνιο τις ανησυχίες για την ασφάλεια των παιδιών απέναντι σε τεχνολογίες τεχνητής νοημοσύνης, ιδιαίτερα σε προϊόντα που στοχεύουν σε νεαρά και ευάλωτα κοινά.
