Άλλη μία ανησυχητική ιστορία ήρθε στο φως της δημοσιότητας, καθώς όπως όλα δείχνουν το δημοφιλές AI εργαλείο της Google κατάφερε να «αποδράσει» από το ελεγχόμενο περιβάλλον δοκιμών του και να χακάρει τρεις πραγματικές εταιρείες.
Το περιστατικό συνέβη τον Μάιο, αλλά η εταιρεία επέλεξε να μην το αποκαλύψει μέχρι που πιέστηκε από δημοσιογραφική έρευνα της Wall Street Journal.
Η «απόδραση» οφείλεται σε ένα λάθος στις ρυθμίσεις ασφαλείας της startup Irregular, η οποία είχε αναλάβει να δοκιμάσει τις δυνατότητες κυβερνοασφάλειας του Gemini.
Κανονικά, το συγκεκριμένο μοντέλο τεχνητής νοημοσύνης δεν έπρεπε να έχει πρόσβαση στο διαδίκτυο, όμως ένα κενό ασφαλείας του επέτρεψε να βγει online.
Στόχος του συστήματος ήταν να αποκτήσει πρόσβαση στα δεδομένα μίας εικονικής εταιρείας, όμως λόγω συνωνυμίας το Gemini στράφηκε εναντίον μιας πραγματικής επιχείρησης.
Στην πρώτη περίπτωση, το μοντέλο κατάφερε να σπάσει έναν κωδικό πρόσβασης με τη μέθοδο brute-force, ενώ στις άλλες δύο βρήκε κωδικούς εισόδου σε δημόσιες βάσεις δεδομένων στο ίντερνετ.
Η Google υποστήριξε ότι το μοντέλο λειτούργησε σωστά, αφού σταμάτησε τη δράση του μόλις συνειδητοποίησε ότι είχε παραβιάσει πραγματικά συστήματα.
Η αντιπρόεδρος ασφάλειας της εταιρείας, Heather Adkins, δήλωσε σχετικά: «Το μοντέλο βρήκε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε διαπιστευτήρια για να αποκτήσει πρόσβαση», προσθέτοντας ότι, σε κάθε περίπτωση, σταμάτησε μόνο του.
Από την άλλη πλευρά, ο Jack Cable, διευθύνων σύμβουλος της εταιρείας ασφάλειας Corridor, κατηγόρησε τον τεχνολογικό κολοσσό ότι προσπαθεί να κρυφτεί πίσω από τυπικές διαδικασίες.
Ο ίδιος τόνισε ότι τα μοντέλα πλέον ξεπερνούν τα όριά τους και πραγματοποιούν πραγματικές κυβερνοεπιθέσεις.
Παρόμοια περιστατικά έχουν καταγραφεί πρόσφατα και σε μοντέλα των OpenAI, Anthropic και Meta.
Οι εξελίξεις αυτές ενισχύουν τις φωνές των ειδικών που ζητούν αυστηρότερο έλεγχο και επιβράδυνση στην ανάπτυξη του AI.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας ως πηγή στο Google
