Η OpenAI ακύρωσε τα σχέδιά της για την κυκλοφορία του νεότερου συστήματός της, GPT-6.1 Astra, που ήταν προγραμματισμένη για τον επόμενο μήνα, αφού το μοντέλο δεν πληροί τα πρότυπα ασφαλείας.
Ηγέτες των τμημάτων έρευνας και ασφάλειας αποφάσισαν να μην διαθέσουν το μοντέλο, αφού διαπίστωσαν ότι δεν έμενε τόσο πιστό στις αξίες και τους στόχους των χρηστών σε σύγκριση με προηγούμενα συστήματα. Eκτός αυτού, το μοντέλο «δεν ανταποκρίθηκε ακριβώς στο πρότυπο επικοινωνίας με τον χρήστη, σχετικά με το είδος της εργασίας που είχε πραγματοποιήσει», δήλωσε στο WIRED η Saachi Jain, επικεφαλής συστημάτων ασφαλείας. Η εταιρεία ανέφερε ότι άλλα νέα μοντέλα τα οποία πληρούν τα πρότυπα ασφαλείας θα είναι σύντομα διαθέσιμα, ενώ σχεδιάζει να κυκλοφορήσει και άλλα μοντέλα Astra στο μέλλον.
Τη Δευτέρα 28 Σεπτεμβρίου, η OpenAI επίσης απολογήθηκε για το πως διαχειρίστηκε την παραβίαση μιας αυστραλιανής κυβερνητικής ιστοσελίδας από ένα μοντέλο που δεν είχε κυκλοφορήσει. Κατά τη διάρκεια δοκιμών, ο agent του μοντέλου απέκτησε πρόσβαση σε μη δημόσια δεδομένα, άρχισε να εκτελεί εντολές και μάλιστα να εγγράφει αρχεία στον server.
Η κυβέρνηση κατέκρινε την OpenAI επειδή άργησε πάρα πολύ να την ειδοποιήσει και επειδή όταν τελικά το έκανε ήταν μέσω email σε ένα δημόσιο inbox. Ο γενικός διευθυντής στρατηγικής της εταιρείας (CSO) Jason Kwon θα κληθεί για ανάκριση από το κοινοβούλιο της Αυστραλίας στο Σίδνεϊ την επόμενη εβδομάδα, καθώς η κυβέρνηση ερευνά αν τελικά θα προβεί σε περαιτέρω νομικές ενέργειες.
Η OpenAI έχει ήδη πατήσει «παύση» στην εκπαίδευση των ισχυρότερων μοντέλων της, αφού συνειδητοποίησε ότι οι δραστηριότητες τους στο διαδίκτυο, κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησης τους, είχαν σημείωσει απόκλιση από το πώς θα συμπεριφερόταν ιδανικά ένας άνθρωπος. Η OpenAI δήλωσε ότι έχει αρχίσει να ειδοποιεί «τρίτους» συμπεριλαμβανομένων κυβερνήσεων, που ενδέχεται να έχουν επηρεαστεί από άλλες παραβιάσεις ασφαλείας ή ανεπιθύμητη αλληλογραφία.
Ο τεχνολογικός κολοσσός θα επανεκκινήσει την εκπαίδευση των μοντέλων της μόνο όταν αναπτύξει δικλείδες ασφαλείας συμπεριλαμβανομένης της εκπαίδευσης αυτών ώστε να είναι αξιόπιστα, της ενίσχυσης του απομονωμένου περιβάλλοντός τους (sandboxing), καθώς και της ζωντανής παρακολούθησης τους για τον εντοπισμό οποιασδήποτε ανησυχητικής συμπεριφοράς.
Η εταιρεία έχει επίσης ενισχύσει τις ερευνητικές της υποδομές αφότου ένα σμήνος από agents «ξέφυγε» από αυτές, το καλοκαίρι για να χακάρει το Hugging Face. «Δεν είναι η πρώτη φορά που κάνουμε παύση για να λάβουμε τέτοια μέτρα, ούτε περιμένουμε ότι θα είναι και η τελευταία, ειδικά όσο οι δυνατότητες της ΤΝ συνεχίζουν να εξελίσσονται», δήλωσε εκπρόσωπος της εταιρείας στο WIRED.
Μεταξύ άλλων, ο διευθύνων σύμβουλος της OpenAI Sam Altman έχει υποστηρίξει ευρύτερες εκκλήσεις από τη βιομηχανία, συμπεριλαμβανομένης και της Anthropic, για μια συλλογική επιβράδυνση στην ανάπτυξη της τεχνολογίας.
Ωστόσο, αυτό δεν εμπόδισε την OpenAI από το να κυκλοφορήσει το νεότερο μοντέλο της, GPT-6, νωρίτερα αυτόν τον μήνα. Σε ανεξάρτητες δοκιμές, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου διαπίστωσε ότι το GPT-6 Astra εξαπέλυε μη εξουσιοδοτημένες κυβερνοεπιθέσεις πιο συχνά από προηγούμενα μοντέλα. Μάλιστα, το σύστημα δημιουργούσε ψεύτικες ταυτότητες για να εξαπατήσει προγραμματιστές, δημοσίευε σχόλια από ψεύτικους λογαριασμούς τα οποία κατέκριναν τα αποτελέσματα των αξιολογήσεων ασφαλείας και έγραφε επιβλαβή κώδικα σε ανοιχτά λογισμικά.
Βέβαια, το γεγονός ότι η συζήτηση για την υπαρξιακή απειλή της ΤΝ έχει εισέλθει στη δημόσια σφαίρα – μαζί με τις προειδοποιήσεις ερευνητών της Anthropic νωρίτερα αυτόν τον μήνα γύρω από την πιθανότητα να μας σκοτώσει όλους – θα διευκολύνει τις εταιρείες ΤΝ να επιβραδύνουν την ανάπτυξη της τεχνολογίας, σύμφωνα με τον Chace.
Πρόκειται για μια δύσκολη άσκηση ισορροπίας για την OpenAI και την Anthropic, καθώς ταυτόχρονα ανταγωνίζονται για να υπερισχύσουν η μία της άλλης, ειδικά ενόψει της επερχόμενης ΑΔΠ τους. «Δεν θέλουν απλώς να βγουν και να πουν “πρέπει να κάνουμε παύση”. Πρέπει να είναι συντονισμένο όλο αυτό», δήλωσε ο Chace. «Πιστεύω ότι αυτό που προσπαθούν να κάνουν είναι να κατευθύνουν τη συζήτηση έτσι ώστε κάθε χώρα να απαιτήσει από τους πολιτικούς της να απαιτήσουν με τη σειρά τους την παύση».
To άρθρο δημοσιεύθηκε αρχικά στο WIRED US και μεταφράστηκε από τα αγγλικά.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
