Έντονο προβληματισμό για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης εκφράζει ανοιχτά ο διευθύνων σύμβουλος της Microsoft, Satya Nadella.
Μέσα από μία αναλυτική ανάρτηση στην πλατφόρμα X, ο ίδιος ξεκαθάρισε ότι δεν γίνεται πλέον να αντιμετωπίζουμε τα μεγάλα συστήματα ως κλειστά «μαύρα κουτιά» των οποίων τις υποδείξεις απλώς δεχόμαστε ή απορρίπτουμε χωρίς έλεγχο.
— Satya Nadella (@satyanadella) October 10, 2026
Η βασική του πρόταση επικεντρώνεται στην άμεση καθιέρωση ενός αυστηρού μηχανισμού διακοπής.
Όπως υπογράμμισε χαρακτηριστικά, «πρέπει να υποθέτουμε ότι ένα μοντέλο είναι παραβιασμένο και να το περιορίζουμε από την αρχή – σκεφτείτε το σαν ένα φρένο έκτακτης ανάγκης».
Με αυτό το σκεπτικό, ένας εξουσιοδοτημένος χρήστης οφείλει να έχει ανά πάσα στιγμή τη δυνατότητα να παγώσει ή να τερματίσει τη λειτουργία του συστήματος στη μέση μίας εργασίας.
Για να γίνει πράξη αυτό το επίπεδο προστασίας, ο Satya Nadella υποστηρίζει ότι πρέπει να διαχωριστεί το ίδιο το μοντέλο από το πλαίσιο που οργανώνει τις εντολές του, μεταφέροντας τις δικλείδες ασφαλείας σε εξωτερικά εργαλεία ελέγχου.
Επιπλέον, ζητά να καταγράφεται κάθε σημαντική ενέργεια σε αδιάβλητα αρχεία καταγραφής που θα μπορεί να διαβάσει άνθρωπος, συντασσόμενος με τη γενικότερη έκκληση για αυστηρότερους κανόνες ασφαλείας στο AI που ακούγεται τελευταία στον κλάδο.
Η παρέμβαση αυτή έρχεται σε μία στιγμή που πολλές εταιρείες καταγράφουν περιστατικά όπου τα αυτόνομα εργαλεία τους δείχνουν να ξεφεύγουν από τα όρια των δοκιμών.
Την ίδια στιγμή, στελέχη όπως ο Dario Amodei της Anthropic ζητούν εξίσου αυστηρά πρωτόκολλα, την ώρα που ο επικεφαλής της Microsoft αναφέρεται πλέον ανοιχτά στις έννοιες της υπερευφυΐας (Super Intelligence) και της επιτακτικής ανάγκης για τυποποιημένη εποπτεία.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας ως πηγή στο Google
