«Περιμέναμε αυτή τη στιγμή για δεκαετίες. Τώρα βρισκόμαστε εκεί». Με αυτά τα λόγια ο CEO της OpenAI, Sam Altman, υποστήριξε ότι η ανθρωπότητα έχει ήδη περάσει το κατώφλι της τεχνολογικής μοναδικότητας (singularity). Πρόκειται για ένα από τα πιο διάσημα αλλά και αμφιλεγόμενα σενάρια για το μέλλον της τεχνητής νοημοσύνης.
Η δήλωση έγινε σε συζήτησή του στο podcast Relentless, καθώς η συζήτηση γύρω από τα όρια της τεχνητής νοημοσύνης έχει ενταθεί, ενώ αυξάνονται οι ανησυχίες για την ασφάλεια των συστημάτων, την αυτοματοποίηση, την κυβερνοασφάλεια και την επίδραση του AI στην αγορά εργασίας.
Η λέξη «singularity» περιγράφει ένα θεωρητικό σημείο καμπής, όπου η ανάπτυξη της τεχνολογίας -και κυρίως της τεχνητής νοημοσύνης- γίνεται τόσο γρήγορη ώστε οι άνθρωποι δεν μπορούν πλέον να προβλέψουν τις συνέπειες.
Την ίδια στιγμή, έχουν αρχίσει να εμφανίζονται περιστατικά που μέχρι πρόσφατα θεωρούνταν περισσότερο θεωρητικά, μαζί με συζητήσεις για αντίστοιχους όρους όπως singularity ή AGI. Λίγες μέρες πριν από τη δήλωση Altman, η OpenAI ανακοίνωσε ότι μοντέλα της «δραπέτευσαν» από ένα απομονωμένο περιβάλλον δοκιμών κατά τη διάρκεια εσωτερικής αξιολόγησης, εντόπισαν κενό ασφαλείας σε έναν ενδιάμεσο server και στη συνέχεια εισέβαλαν στα συστήματα του Hugging Face.
Έγινε λόγος για ένα «πρωτοφανές» περιστατικό, καθώς φέρεται να ήταν καθοδηγούμενο εξ ολοκλήρου από αυτόνομο AI σύστημα, χωρίς ανθρώπινη παρέμβαση στα επιμέρους βήματα της διαδικασίας.
Παρά τις ανησυχίες, ο Altman παραμένει αισιόδοξος. Περιέγραψε τη σημερινή φάση του AI ως «πολύ θετική» και «κάτι απίστευτο για τον κόσμο», υποστηρίζοντας ότι η τεχνολογία θα οδηγήσει σε επιστημονικές ανακαλύψεις, μεγαλύτερη παραγωγικότητα και νέες ευκαιρίες.
Η λέξη «singularity» περιγράφει ένα θεωρητικό σημείο καμπής, όπου η ανάπτυξη της τεχνολογίας -και κυρίως της τεχνητής νοημοσύνης- γίνεται τόσο γρήγορη ώστε οι άνθρωποι δεν μπορούν πλέον να προβλέψουν τις συνέπειες.
Στην πιο ακραία εκδοχή της θεωρίας, ένα σύστημα τεχνητής νοημοσύνης που ξεπερνά την ανθρώπινη ευφυΐα θα μπορούσε να σχεδιάσει ένα ακόμη καλύτερο AI, δημιουργώντας έναν αυτοτροφοδοτούμενο κύκλο εξέλιξης. Από εκεί και πέρα, η τεχνολογική πρόοδος θα μπορούσε να επιταχυνθεί με ρυθμούς που ο ανθρώπινος πολιτισμός δυσκολεύεται να παρακολουθήσει.
Ο ίδιος ο Altman ανέφερε ότι πριν από περίπου μία δεκαετία συζητούσε την έννοια αυτή με τους συνεργάτες του σχεδόν θεωρητικά, σαν ένα μακρινό ενδεχόμενο. Σήμερα υποστηρίζει ότι δεν αποτελεί πλέον υπόθεση για το μέλλον, αλλά μια πραγματικότητα που ήδη ξεκίνησε.
Η ιδέα έγινε δημοφιλής από ερευνητές όπως ο Vernor Vinge και ο Ray Kurzweil, οι οποίοι υποστήριξαν ότι η εμφάνιση μιας υπεράνθρωπης νοημοσύνης θα αποτελούσε μια ιστορική αλλαγή φάσης για την ανθρωπότητα, αντίστοιχη με μεγάλες τεχνολογικές επαναστάσεις του παρελθόντος.
Για δεκαετίες, το singularity θεωρούνταν ένα μακρινό -ή αδύνατο- ορόσημο, περιορισμένο σε ιστορίες επιστημονικής φαντασίας. Ο ίδιος ο Altman ανέφερε ότι πριν από περίπου μία δεκαετία συζητούσε την έννοια αυτή με τους συνεργάτες του σχεδόν θεωρητικά, σαν ένα μακρινό ενδεχόμενο. Σήμερα υποστηρίζει ότι δεν αποτελεί πλέον υπόθεση για το μέλλον, αλλά μια πραγματικότητα που ήδη ξεκίνησε.
Η δήλωση του Altman δεν προέκυψε ξαφνικά. Από την κυκλοφορία του ChatGPT το 2022, η εξέλιξη των μεγάλων γλωσσικών μοντέλων άλλαξε δραματικά τον τρόπο με τον οποίο αντιλαμβανόμαστε τις δυνατότητες του AI.
Τα σημερινά συστήματα μπορούν να γράψουν κώδικα, να αναλύσουν δεδομένα, να δημιουργήσουν εικόνες και βίντεο, να εκτελέσουν σύνθετες εργασίες και, όλο και περισσότερο, να λειτουργούν ως «agents» που αναλαμβάνουν στόχους αντί απλώς να απαντούν σε ερωτήσεις.
Ο Altman είχε ήδη μιλήσει για μια «ήπια μοναδικότητα» (gentle singularity), υποστηρίζοντας ότι το AI θα επιταχύνει την επιστημονική ανακάλυψη, την παραγωγικότητα και την ανάπτυξη νέων τεχνολογιών.
Παράλληλα, ο CEO της OpenAI έχει προειδοποιήσει ότι η τεχνητή νοημοσύνη θα αλλάξει δραματικά την παγκόσμια αγορά εργασίας. Σύμφωνα με τον ίδιο, κυβερνήσεις και επιχειρήσεις πρέπει να προετοιμαστούν επενδύοντας στην εκπαίδευση, και σε νέα μέτρα προστασίας.
Ο Altman έχει χαρακτηρίσει την επανάσταση του AI «τον μεγαλύτερο οικονομικό μετασχηματισμό μετά τη Βιομηχανική Επανάσταση».
Εδώ βρίσκεται η μεγάλη διαφωνία. Για πολλούς ερευνητές, singularity δεν σημαίνει απλώς ότι ένα σύστημα είναι εντυπωσιακό ή ξεπερνά τον άνθρωπο σε συγκεκριμένες εργασίες. Απαιτεί κάτι πολύ πιο δύσκολο: AI που μπορεί να βελτιώνει αυτόνομα τις ικανότητές του, να δημιουργεί νέα γνώση και να λειτουργεί χωρίς συνεχή ανθρώπινη καθοδήγηση.
Ο Stuart Russell, ένας από τους σημαντικότερους ερευνητές στον χώρο της τεχνητής νοημοσύνης, ανήκει στους πιο γνωστούς επικριτές της αισιόδοξης αφήγησης γύρω από το AI και έχει επανειλημμένα προειδοποιήσει για τους κινδύνους μιας ανεξέλεγκτης κούρσας προς την υπερ-ευφυΐα. Η γενικότερη θέση πολλών ερευνητών σαν τον ίδιο είναι ότι τα σημερινά συστήματα παραμένουν εξαρτημένα από ανθρώπους για την εκπαίδευση, τις υποδομές και τον καθορισμό των στόχων τους.
Οι ισχυρισμοί για συστήματα που βρίσκονται κοντά στην ανθρώπινη νοημοσύνη συχνά συνοδεύονται από επενδυτικό ενδιαφέρον, επιχειρηματικές προσδοκίες και γεωπολιτικό ανταγωνισμό.
Ακόμη και το ίδιο το περιστατικό με το Hugging Face, που πολλοί έσπευσαν να παρουσιάσουν ως απόδειξη ότι η μοναδικότητα έχει ήδη ξεκινήσει, αμφισβητείται ως τέτοιο τεκμήριο. Ειδικοί εκτιμούν ότι μέρος του ορισμού της μοναδικότητας θα ήταν η πλήρης απώλεια ελέγχου πάνω στο σύστημα -κάτι που δεν συνέβη εδώ, καθώς η OpenAI εντόπισε, ανέφερε και τελικά συγκράτησε το περιστατικό.
Κάποιοι έχουν επίσης επισημάνει ότι η δήλωση Altman στο podcast, μια σύντομη, σχεδόν παρενθετική αναφορά μέσα σε μια ολόκληρη ώρα συζήτησης για πολλά άλλα θέματα, «φούσκωσε» δυσανάλογα στα δημοσιεύματα σε σχέση με το πραγματικό της βάρος.
Το πρόβλημα είναι ότι το singularity δεν είναι ένα γεγονός που μπορεί εύκολα να μετρηθεί. Δεν υπάρχει ένας συγκεκριμένος δείκτης που να λέει: «από σήμερα μπήκαμε σε μια νέα εποχή». Αν τελικά συμβεί, μπορεί να αναγνωριστεί εκ των υστέρων.
Υπάρχει επίσης μια πιο άλλη ανάγνωση: ότι τέτοιες μεγάλες δηλώσεις αποτελούν μέρος της προσπάθειας των εταιρειών AI να ενισχύσουν το αφήγημα γύρω από τη σημασία και την αξία των τεχνολογιών τους. Οι ισχυρισμοί για συστήματα που βρίσκονται κοντά στην ανθρώπινη νοημοσύνη συχνά συνοδεύονται από επενδυτικό ενδιαφέρον, επιχειρηματικές προσδοκίες και γεωπολιτικό ανταγωνισμό.
Ο Elon Musk έχει δηλώσει στο παρελθόν ότι βρισκόμαστε στα πρώτα στάδια του singularity, ενώ ο Jensen Huang της Nvidia έχει πει πως η Γενική Τεχνητή Νοημοσύνη είναι ήδη πραγματικότητα.
Πίσω από τη δήλωση Altman βρίσκεται και ένα ευρύτερο στρατηγικό ζήτημα: ποιος θα ελέγχει την πιο ισχυρή τεχνολογία της εποχής.
Στο ίδιο podcast, ο Altman επέκρινε -χωρίς να κατονομάσει ρητά κανέναν συγκεκριμένο ηγέτη ή εταιρεία- όσους προωθούν πιο σκοτεινά σενάρια για το μέλλον του AI, λέγοντας ότι «κάποια από τα εναλλακτικά σενάρια που παρουσιάζουν άλλες εταιρείες είναι αρκετά τρομακτικά» και ότι θα φροντίσει να μην επικρατήσουν. Η αναφορά ερμηνεύτηκε ευρέως ως έμμεσο σχόλιο προς εταιρείες όπως η Anthropic, της οποίας ο CEO Dario Amodei έχει επανειλημμένα τονίσει τους κινδύνους ασφαλείας γύρω από το AI, χωρίς ωστόσο ο Altman να τον κατονομάζει.
Ο Altman έχει θέσει το δίλημμα της εποχής όχι μόνο ως ζήτημα ασφάλειας, αλλά ως ζήτημα ελέγχου. Έχει υποστηρίξει ότι η πραγματική μάχη είναι ανάμεσα σε έναν κόσμο «αυταρχισμού της τεχνητής νοημοσύνης» και έναν κόσμο όπου το AI παραμένει ανοιχτό και προσβάσιμο, τονίζοντας ότι καμία εταιρεία ή κανένα μοντέλο δεν πρέπει να αποκτήσει μονοπώλιο στη νοημοσύνη.
Ανεξάρτητα από το αν ο Altman έχει δίκιο, η δήλωσή του δείχνει πόσο γρήγορα αλλάζει η συζήτηση γύρω από το AI.
Πριν από λίγα χρόνια το ερώτημα ήταν αν οι μηχανές μπορούν να μιμηθούν ανθρώπινες δεξιότητες. Σήμερα συζητάμε είναι αν τα προηγμένα μοντέλα μπορούν να γίνουν συνεργάτες στην επιστημονική έρευνα, στην ανάπτυξη λογισμικού και στη δημιουργία νέων τεχνολογιών. Και ένα πραγματικό ερώτημα είναι αν οι θεσμοί μπορούν να προσαρμοστούν αρκετά γρήγορα ώστε να προλάβουν και να κατευθύνουν τις εξελίξεις.
Αν το singularity τελικά έρθει, μπορεί να μην εμφανιστεί με τη μορφή μιας θεαματικής στιγμής όπου οι μηχανές «ξυπνούν», αλλά πιο αθόρυβα, μέσα από τη σταδιακή ενσωμάτωση αυτόνομων συστημάτων στην καθημερινή ζωή, στην εργασία και στην επιστήμη.
Μπορείτε να διαβάσετε εδώ όλα τα explainers του WIRED Greece.
Με την εγγραφή σας, συμφωνείτε με τους Όρους Χρήσης μας (συμπεριλαμβανομένης της παραίτησης από ομαδικές αγωγές και των διατάξεων διαιτησίας) και αναγνωρίζετε την Πολιτική Απορρήτου μας.
