Ένα απίστευτο περιστατικό που είδε πρόσφατα το φως της δημοσιότητας αποκαλύπτει πόσο επικίνδυνη μπορεί να γίνει η βιαστική υιοθέτηση της τεχνητής νοημοσύνης.
Στρατιωτικά αεροσκάφη των ΗΠΑ βρίσκονταν ήδη στον αέρα για μία ένοπλη επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, όταν οι αξιωματούχοι συνειδητοποίησαν ότι οι πληροφορίες τους ήταν, τελικά, επινοημένες από το AI!
Η επιχείρηση ακυρώθηκε κυριολεκτικά την τελευταία στιγμή, αποτρέποντας μία πιθανή πολεμική σύρραξη.
Το λάθος ξεκίνησε από έναν αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ, ο οποίος χρησιμοποίησε μία εφαρμογή τεχνητής νοημοσύνης για να συνδυάσει ελεύθερα δεδομένα με απόρρητες πληροφορίες.
Το εργαλείο τεχνητής νοημοσύνης έκανε λανθασμένη ανάγνωση του φορτίου του πλοίου και συμπέρανε ότι μετέφερε εξαρτήματα για πυρηνικό πρόγραμμα.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά το λογισμικό για να μορφοποιήσει την αναφορά σε επίσημο έγγραφο, το οποίο διακινήθηκε γρήγορα στις εσωτερικές στρατιωτικές επικοινωνίες χωρίς κανείς να το αμφισβητήσει.
Παρά το σοβαρό αυτό περιστατικό, το Αμερικανικό Υπουργείο Άμυνας συνεχίζει να πιέζει για περαιτέρω ενσωμάτωση του AI.
Ο Υπουργός Άμυνας, Pete Hegseth, εξέδωσε οδηγία τον Ιανουάριο για τη μετάβαση σε μία στρατηγική «AI-first», κλείνοντας συμφωνίες με κολοσσούς όπως η Microsoft, η Amazon και η NVIDIA.
Παράλληλα, η SpaceXAI φέρεται να έκλεισε συμφωνία τον Φεβρουάριο για τη χρήση του Grok από τον στρατό, δείχνοντας πόσο γρήγορα επεκτείνεται η στρατιωτική χρήση της τεχνητής νοημοσύνης.
Αντίθετα, η Anthropic αρνήθηκε να επιτρέψει τη χρήση των μοντέλων της για αυτόνομα όπλα, γεγονός που οδήγησε σε προσωρινό αποκλεισμό της από την κυβέρνηση.
Ο Jake Steckler, ερευνητής στο GovAI και βετεράνος του αμερικανικού στρατού, τόνισε ότι «είναι κρίσιμο για κάθε απόφαση που αφορά τη χρήση βίας, όπως ο εντοπισμός στόχων, να κατανοούμε την αβεβαιότητα των γλωσσικών μοντέλων».
Οι ειδικοί προειδοποιούν ότι η βιασύνη για κυριαρχία στην τεχνολογία δεν θα πρέπει να υπονομεύει τα απαραίτητα μέτρα ασφαλείας.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας ως πηγή στο Google
