Σε μία πρωτόγνωρη κίνηση για τα δεδομένα της τεχνητής νοημοσύνης, η Anthropic αναγκάστηκε να διακόψει την πρόσβαση στα νέα, επαναστατικά μοντέλα Claude Fable 5 και Mythos 5, μετά από διαταγή της αμερικανικής κυβέρνησης που επικαλέστηκε λόγους εθνικής ασφαλείας.
Η απαγόρευση αφορά την πρόσβαση από ξένους υπηκόους, ακόμη και όταν αυτοί βρίσκονται εντός των Ηνωμένων Πολιτειών ή εργάζονται στην ίδια την Anthropic.
Επειδή, όμως, δεν υπάρχει πιστοποίηση της υπηκοότητας του κάθε χρήστη της πλατφόρμας, τα δύο κορυφαία μοντέλα αποσύρθηκαν καθολικά.
Η εταιρεία ξεκαθάρισε ότι τα υπόλοιπα μοντέλα Claude δεν επηρεάζονται και συνεχίζουν να λειτουργούν κανονικά.
Η αιτία πίσω από την κυβερνητική παρέμβαση φαίνεται να σχετίζεται με ανησυχίες γύρω από τις αυξημένες δυνατότητες κυβερνοασφάλειας του Fable 5.
Σύμφωνα με αναφορές, η απόφαση πυροδοτήθηκε έπειτα από έρευνα της Amazon, η οποία φέρεται να έδειξε ότι με κατάλληλα σχεδιασμένες εντολές, το μοντέλο μπορούσε να παράγει πληροφορίες που θα μπορούσαν να αξιοποιηθούν σε κυβερνοεπιθέσεις.
Μετά τα ευρήματα, ο CEO της Amazon, Andy Jassy, ενημέρωσε την αμερικανική κυβέρνηση, η οποία στη συνέχεια προχώρησε στην οδηγία αποκλεισμού της χρήσης του λογισμικού από ξένους υπηκόους.
Η Anthropic, πάντως, διαφωνεί με αυτό το πόρισμα και υποστηρίζει ότι πρόκειται για μία πιθανή ευπάθεια που θα μπορούσε να εμφανιστεί και σε άλλα σύγχρονα μοντέλα τεχνητής νοημοσύνης, αναφέροντας ότι αντίστοιχες τεχνικές θα μπορούσαν να λειτουργήσουν και σε ανταγωνιστικά συστήματα.
Το Claude Fable 5 είχε παρουσιαστεί μόλις λίγες ημέρες νωρίτερα και αποτελούσε ένα από τα πιο προηγμένα μοντέλα της Anthropic.
Η εταιρεία ανέφερε ότι οι δυνατότητές του ξεπερνούσαν κάθε προηγούμενο, ενώ σε εσωτερικές δοκιμές είχε επιδείξει ιδιαίτερα υψηλές επιδόσεις ακόμη και σε απαιτητικά περιβάλλοντα.
Παράλληλα, η Anthropic τόνισε ότι είχε εφαρμόσει αυστηρά συστήματα προστασίας ώστε να μειώσει τον κίνδυνο κακόβουλης χρήσης, ειδικά σε τομείς όπως η κυβερνοασφάλεια.
Ωστόσο, αναγνώρισε ότι κανένα μοντέλο τεχνητής νοημοσύνης δεν δύναται να παραμείνει απολύτως απρόσβλητο από απόπειρες παράκαμψης των περιορισμών του.
Η εξέλιξη ανοίγει ένα νέο κεφάλαιο στη συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης.
Για πρώτη φορά, μια κυβέρνηση παρεμβαίνει τόσο άμεσα στη διάθεση ενός εμπορικού AI μοντέλου, όχι επειδή έχει αποδειχθεί κάποια πραγματική επίθεση, αλλά εξαιτίας φόβων ότι οι δυνατότητές του θα μπορούσαν να αξιοποιηθούν αρνητικά στο μέλλον.
Η Anthropic αναμένεται να δώσει περισσότερες λεπτομέρειες σχετικά με το περιστατικό, ενώ η υπόθεση πιθανότατα θα αποτελέσει σημείο αναφοράς για τον τρόπο με τον οποίο οι κυβερνήσεις θα αντιμετωπίζουν τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης από εδώ και στο εξής.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας στις Google Πηγές
