Άλλο ένα ευτράπελο με πρωταγωνίστρια και πάλι την τεχνητή νοημοσύνη καταγράφηκε στις ΗΠΑ, όταν πειραματικό AI μοντέλο της Anthropic κατάφερε να αποστείλει ψευδή πληροφορία για ανεξιχνίαστη δολοφονία στις αρχές.
Το συμβάν σημειώθηκε στις 18 Ιουλίου, όταν το αυτόνομο εργαλείο πραγματοποιούσε δοκιμές αλληλεπίδρασης σε τυχαίες ιστοσελίδες του διαδικτύου.
Κατά τη διάρκεια του τεστ επισκέφθηκε τον ιστότοπο ανεξιχνίαστων υποθέσεων PhillyUnsolvedMurders.com και υπέβαλε μήνυμα παριστάνοντας κάποιον πολίτη που δήθεν γνώριζε στοιχεία για κάποιο από τα αναφερθέντα εγκλήματα.
Ευτυχώς, το ψηφιακό σύστημα της αστυνομίας της Φιλαδέλφειας κατηγοριοποίησε αυτόματα το μήνυμα στον φάκελο ανεπιθύμητων (spam).
Έτσι, οι αρχές δεν ξεκίνησαν έρευνα βασισμένη στα κατασκευασμένα δεδομένα, αποτρέποντας την άσκοπη κινητοποίηση των αστυνομικών.
Το μεγάλο πρόβλημα είναι ότι η Anthropic εντόπισε το σφάλμα μόλις στις 28 Σεπτεμβρίου, διακόπτοντας ιδιαίτερα αργοπορημένα τις σχετικές δοκιμές.
Η καθυστέρηση των δύο μηνών στην ειδοποίηση εξόργισε την αστυνομία, η οποία τόνισε πως «οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα και πενθούσες οικογένειες».
Παρότι οι αρχές διαβεβαίωσαν ότι δεν υπήρξε παραβίαση δεδομένων, το περιστατικό αναδεικνύει ξανά τους κινδύνους των αυτόνομων πρακτόρων.
Δικαιολογεί, παράλληλα, γιατί η εταιρεία έχει προχωρήσει σε έκκληση για φρένο στο AI, ζητώντας αυστηρότερα μέτρα ασφαλείας προτού τέτοια εργαλεία λειτουργήσουν χωρίς επίβλεψη.
