«Καμπανάκι κινδύνου» χτυπά η Anthropic, η εταιρεία πίσω από το δημοφιλές μοντέλο Claude, προειδοποιώντας ότι η τεχνητή νοημοσύνη εξελίσσεται με τόσο ραγδαίους ρυθμούς που ενδέχεται σύντομα να φτάσει στο σημείο να μπορεί να δημιουργεί τις επόμενες γενιές AI συστημάτων μόνη της.
Σε σχετική ανάρτηση, η εταιρεία αναφέρει ότι ένα τέτοιο σενάριο θα μπορούσε να φέρει σημαντικά οφέλη σε τομείς όπως η επιστήμη και η ιατρική, αλλά ταυτόχρονα αυξάνει δραματικά τον κίνδυνο οι άνθρωποι να χάσουν τον έλεγχο των συστημάτων αυτών.
Για τον λόγο αυτό, προτείνει ένα είδος καθολικού περιορισμού ή προσωρινής παύσης στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, ώστε να προλάβουν να εξελιχθούν αντίστοιχα οι αποτρεπτικοί μηχανισμοί και τα μέτρα ασφαλείας.
Η πρόταση της Anthropic δεν είναι θεωρητική, αλλά συνδέεται με το έργο του ερευνητικού της παραρτήματος, το οποίο μελετά το ρίσκο των ολοένα και ισχυρότερων μοντέλων, και τις προϋποθέσεις που θα απαιτούσε μία συντονισμένη επιβράδυνση της εξέλιξής τους.
Ωστόσο, η τοποθέτηση αυτή έχει προκαλέσει και έντονες αντιδράσεις.
Κριτικοί υποστηρίζουν ότι τέτοιες προειδοποιήσεις μπορεί να λειτουργούν και ως στρατηγική μάρκετινγκ, ώστε η εταιρεία να εμφανίζεται πιο “υπεύθυνη” από τον ανταγωνισμό ή να δικαιολογεί εμπορικές επιλογές, όπως τον σταδιακό τρόπο διάθεσης ορισμένων μοντέλων.
Παρά τις ενστάσεις, η ίδια η Anthropic επισημαίνει ότι μια ουσιαστική παύση στην ανάπτυξη του AI θα μπορούσε να επιτευχθεί ουσιαστικά μόνο αν οι κορυφαίες εταιρείες παγκοσμίως συμφωνήσουν συλλογικά και υπάρχει δυνατότητα αμοιβαίου ελέγχου της συμμόρφωσης, κάτι που αναγνωρίζει ότι θα ήταν εξαιρετικά δύσκολο στην πράξη.
Η εταιρεία σχεδιάζει πάντως να συνεχίσει τις συζητήσεις με κυβερνήσεις, ερευνητές και άλλες εταιρείες το επόμενο χρονικό διάστημα, καταγράφοντας προτάσεις για το πώς θα μπορούσε να διαμορφωθεί ένα πιο ασφαλές πλαίσιο ανάπτυξης της τεχνητής νοημοσύνης.
Ακολουθήστε μας στο Facebook
Ακολουθήστε μας στο Twitter - X
Προσθέστε μας στις Google Πηγές
