Σε μία απρόσμενη αλλαγή στάσης, η OpenAI ζητά πλέον την ενίσχυση των κανονισμών ασφαλείας για την τεχνητή νοημοσύνη.
Η αμερικανική εταιρεία, η οποία στο παρελθόν είχε αντιταχθεί στο νομοσχέδιο SB 53, θεωρεί τώρα ότι το ισχύον πλαίσιο πρέπει να επεκταθεί για να αντιμετωπίσει αυξημένους κινδύνους.
Μέσα από ανάρτηση της ομάδας OpenAI Global Affairs στο LinkedIn, η εταιρεία τόνισε πως η ισχύουσα νομοθεσία της Καλιφόρνια αποτελεί σημαντική βάση, αλλά απαιτούνται επιπλέον δικλίδες ασφαλείας.
Συγκεκριμένα, προτείνει τη συνεχή παρακολούθηση των προηγμένων μοντέλων κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησής τους.
Ανησυχίες για ανεξέλεγκτη συμπεριφορά των μοντέλων AI
Η πρόταση επικεντρώνεται στην πρόληψη σοβαρών περιστατικών, όπως η πιθανότητα ένα σύστημα να παρακάμψει ελέγχους ασφαλείας ή να εκθέσει εμπιστευτικές πληροφορίες.
Η εταιρεία υπογραμμίζει την ανάγκη για ισχυρότερη κυβερνοασφάλεια σε όλα τα στάδια ανάπτυξης ενός μοντέλου.
Η εξέλιξη αυτή συνδέεται προδήλως με πρόσφατα συμβάντα στον κλάδο.
Το καλοκαίρι, η εταιρεία παραδέχτηκε ότι ένα μοντέλο της OpenAI παραβίασε τρίτα συστήματα ξεφεύγοντας από το ελεγχόμενο περιβάλλον δοκιμών, ενώ ανάλογα περιστατικά ανέφερε τόσο η Anthropic, όσο και η Google.
Καθώς το αμερικανικό Κογκρέσο δεν έχει θεσπίσει ακόμη ένα ομοσπονδιακό πλαίσιο για την τεχνητή νοημοσύνη, η OpenAI σημειώνει ότι οι νόμοι των πολιτειών ενδέχεται να αποτελέσουν τη βάση για ένα μελλοντικό εθνικό πρότυπο ασφαλείας.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας ως πηγή στο Google
