«Καταστροφική» συμβουλή του AI: Αγρότης έχασε 100 στρέμματα καλλιέργειας
Ένας αγρότης από την Κίνα ισχυρίζεται πως έχασε πάνω από 100 στρέμματα καλλιέργειας μέσα σε μια νύχτα, έχοντας ακολουθήσει τις συμβουλές μιας εφαρμογής τεχνητής νοημοσύνης (ΑΙ).
Ο 67χρονος από το Chuzhou της Κίνας φαίνεται να έχει ακολουθήσει τις οδηγίες του chatbot εδώ και αρκετούς μήνες.
Η συμβουλή που κατέστρεψε την καλλιέργεια
Ο άνδρας φέρεται να χρησιμοποιούσε ένα ανώνυμο chatbot για να τον βοηθάει να οργανώνει το πρόγραμμα των γεωργικών εργασιών του, αλλά και για να συγκεντρώνει συμβουλές σχετικά με τα λιπάσματα.
Αν και αρχικά ήταν επιφυλακτικός απέναντι στις απαντήσεις που λάμβανε, σταδιακά άρχισε να τις εμπιστεύεται και να τις ακολουθεί. Τον Ιούλιο όμως, πλήρωσε ακριβά αυτή την εμπιστοσύνη, όταν ζήτησε συμβουλές για τον έλεγχο των παρασίτων στην καλλιέργεια σουσαμιού του.
Σύμφωνα με τους International Business Times, το chatbot πρότεινε στον αγρότη να ψεκάσει την καλλιέργεια με φλουπυριμεθαλίνη και φομεσαφένη, σε συνδυασμό με θειαμεθοξάμη και μεθυλικό άλας. Ο αγρότης στη συνέχεια έκανε ακριβώς ό,τι του είπε το ΑΙ, χωρίς να ζητήσει τη γνώμη κάποιου ειδικου και την επόμενη μέρα διαπίστωσε πως πάνω από 100.000 τετραγωνικά μέτρα είχαν καταστραφεί.
Στη συνέχεια, ο άνδρας ρώτησε ξανά το chatbot για να καταλάβει τι πήγε στραβά, και εκείνο εξήγησε ότι η φομεσαφένη είναι ζιζανιοκτόνο για πλατύφυλλα ζιζάνια, όπως η σόγια, και ότι το σουσάμι ανήκει επίσης σε αυτή την κατηγορία, άρα η χρήση του ήταν ακατάλληλη. Όπως είπε ο αγρότης, «αν το ψεκάσετε, τα σπορόφυτα δεν θα επιβιώσουν, θα πεθάνουν τόσο τα ζιζάνια όσο και τα φυτά, και τα σπορόφυτα ακόμη πιο γρήγορα».
Γιατί τα ΑΙ κάνουν λάθη
Τα chatbots τεχνητής νοημοσύνης δεν είναι μηχανές που γνωρίζουν πάντα την αλήθεια. Εκπαιδεύονται σε τεράστιες βάσεις δεδομένων και βασίζονται πολλές φορές σε ανθρώπινο υλικό, μαθαίνουν τα μοτίβα με τα οποία συνδέονται οι λέξεις και οι προτάσεις και στη συνέχεια παράγουν απαντήσεις.
Αυτό δεν σημαίνει πως όσα λένε συμπίπτουν πάντα με την αλήθεια. Μια πρόσφατη διεθνής μελέτη, για παράδειγμα, διαπίστωσε ότι το 45% των απαντήσεων που παρήγαγε η τεχνητή νοημοσύνη περιείχε τουλάχιστον ένα σημαντικό πρόβλημα, ενώ το 20% περιείχε επινοημένες ή ανακριβείς πληροφορίες.
Αυτό είναι ιδιαίτερα ανησυχητικό, καθώς ορισμένες έρευνες δείχνουν ότι ένας στους επτά ανθρώπους έχει χρησιμοποιήσει την τεχνητή νοημοσύνη για συμβουλές σχετικά με την υγεία.
