Το τελευταίο διάστημα οι φόβοι για τους κινδύνους της τεχνητής νοημοσύνης (ΑΙ) έχουν μετατραπεί σε υστερία που αναμεταδίδεται από τα διεθνή ΜΜΕ. Ο πανικός ξέσπασε μετά από μια ανάρτηση στο μέσο κοινωνικής δικτύωσης X από τον πρώην ερευνητή της Anthropic, Τζέικομπ Κόξον, ο οποίος προειδοποίησε τον κόσμο ότι: «Οι άνθρωποι που δουλεύουν πάνω στην τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Δεν πρόκειται για διαφημιστικό κόλπο».
Ο Κόξον δεν κατονόμασε κανένα συγκεκριμένο πρόγραμμα που θα έπρεπε να σταματήσει, δεν μοιράστηκε καμία πληροφορία από το εσωτερικό της Anthropic και, γενικά, δεν πρότεινε κανένα συγκεκριμένο μέτρο που θα μπορούσε να ληφθεί για να αποφευχθεί αυτή η καταστροφή. Παρ’ όλα αυτά, το BBC δημοσίευσε τίτλους όπως «Πάνω από 10% η πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους», η Free Press έγραψε «Ναι, η τεχνητή νοημοσύνη μπορεί πραγματικά να μας σκοτώσει όλους» και ο Guardian κυκλοφόρησε με τον τίτλο «Ερευνητές της Anthropic λένε ότι η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας μέχρι το 2030».
Η εντελώς άκριτη αναπαραγωγή των ισχυρισμών ορισμένων ερευνητών της ΑΙ έχει, εύλογα, προκαλέσει ανατριχίλα σε πολλούς ανθρώπους, καθώς προσπαθούν να συμβιβαστούν με έναν ακόμη υπαρξιακό εφιάλτη για τον οποίο πρέπει να ανησυχούν στα πλαίσια του καπιταλισμού.
Η απάντηση στο πώς ακριβώς η τεχνητή νοημοσύνη θα μπορούσε να μας σκοτώσει διαφέρει ανάλογα με το ποιον θα ρωτήσει κανείς. Είτε πρόκειται για τον σχεδιασμό ενός θανατηφόρου νέου υπερ-ιού από την ΑΙ, είτε για τη μετατροπή των υποδομών μας σε όπλο εναντίον μας, είτε για την εξαπάτηση των ανθρώπων ώστε να εξαπολύσουν έναν θερμοπυρηνικό πόλεμο, οι ειδικοί παραδέχονται ότι θα απαιτούνταν αυτή η τεχνολογία να γίνει πολύ πιο προηγμένη απ’ ό,τι είναι σήμερα, με τρόπο που θα την έθετε εκτός ανθρώπινου ελέγχου.
Το πραγματικό ερώτημα σχετικά με την καταστροφολογία γύρω από την ΑΙ είναι επομένως αυτό που ανέδειξε ο Τζέικομπ Κόξον στις συνεντεύξεις του:
«Αυτό που βρίσκω πιο τρομακτικό είναι το να χρησιμοποιηθεί η τεχνητή νοημοσύνη για να κάνει τον εαυτό της πιο έξυπνο. […] Μπορείς να πάρεις μια ΑΙ και να της αναθέσεις το πρόβλημα της ίδιας της έρευνας για την ΑΙ. Και τότε προκύπτει αυτό που ονομάζεται “έκρηξη νοημοσύνης”».
Το επιχείρημα που θέτει ο Κόξον δεν είναι καινούργιο στην κοινότητα της μηχανικής μάθησης, όπου είναι γνωστό ως το πρόβλημα της «Αναδρομικής Αυτοβελτίωσης» ή RSI.
Με την πρώτη ματιά, η ιδέα της RSI μοιάζει ανησυχητική, καθώς θυμίζει ταινίες επιστημονικής φαντασίας όπου η ανθρωπότητα υποδουλώνεται στις μηχανές. Ωστόσο, με βάση τη σημερινή τεχνολογία τεχνητής νοημοσύνης, αυτή η προοπτική παραμένει αδύνατη. Τα σημερινά μοντέλα δεν είναι αρκετά ευφυή ώστε να ξεπεράσουν τους ανθρώπους και να μετατραπούν σε έναν υπαρξιακό κίνδυνο για την ανθρωπότητα. Πολυάριθμοι παράγοντες λειτουργούν ανασταλτικά και διάφορα τεχνικά προβλήματα θέτουν αυστηρά όρια στον ρυθμό προόδου της ΑΙ. Ακόμη πιο θεμελιώδης είναι η παρανόηση για το πώς λειτουργεί πραγματικά η σύγχρονη τεχνητή νοημοσύνη, πάνω στην οποία στηρίζεται η ιδέα μιας εκθετικής «έκρηξης νοημοσύνης».
«Ευφυής» τεχνητή νοημοσύνη;
Η θεαματική πρόοδος αυτών των μοντέλων από την κυκλοφορία του ChatGPT το 2022 προέρχεται άμεσα από τους «νευρωνικούς νόμους κλίμακας». Στα τέλη της δεκαετίας του 2010, οι ερευνητές παρατήρησαν ότι η απόδοση της μηχανικής μάθησης μπορούσε να βελτιώνεται σταθερά, απλώς με την εκθετική αύξηση του όγκου των δεδομένων εκπαίδευσης και της υπολογιστικής ισχύος. Τα κορυφαία μοντέλα σήμερα – από τα GPT-6 Astra και Claude Fable ως τις ολοένα και πιο ανταγωνιστικές εναλλακτικές επιλογές «ανοιχτού κώδικα» – βασίζονται όλα στην ίδια προσέγγιση.
Δεν είναι τυχαίο ότι οι εταιρείες τεχνητής νοημοσύνης έκαναν ό,τι περνούσε από το χέρι τους για να εκπαιδεύσουν τα μοντέλα τους πάνω ως και στο τελευταίο διαθέσιμο κομματάκι ανθρώπινης γνώσης: κάθε βιβλίο που γράφτηκε, κάθε γραμμή κώδικα που διορθώθηκε και κάθε κείμενο που κυκλοφορεί στο διαδίκτυο. Η Anthropic μάλιστα ξεκίνησε να καταστρέφει και να ψηφιοποιεί κρυφά εκατομμύρια έντυπα βιβλία σε αυτό που ονομάστηκε «Project Panama». Οι ικανότητες αυτών των μοντέλων ΑΙ προέρχονται επομένως από τη συλλογική γνώση της ανθρωπότητας.
H ανθρωπότητα έχει δημιουργήσει ανά τους αιώνες τεράστιες ποσότητες πληροφοριών, το μεγαλύτερο μέρος των οποίων έχει μεταφορτωθεί και καταστεί διαθέσιμο στο διαδίκτυο. Αυτά τα δεδομένα είναι που κατέστησαν δυνατή την πρόσφατη έκρηξη των δυνατοτήτων της τεχνητής νοημοσύνης, βασισμένης στα «Μεγάλα Γλωσσικά Μοντέλα» ή LLM.
Μπορούμε να βελτιώνουμε την ΑΙ απεριόριστα;
Μια σημαντική διαπίστωση που προκύπτει από αυτή την κατανόηση είναι ότι οι βελτιώσεις που έχουμε δει μέχρι σήμερα στις ικανότητες της ΑΙ δεν προήλθαν από «εξυπνότερους αλγορίθμους» ή από την ανάπτυξη κάποιας θεμελιωδώς νέας τεχνολογίας. Υπήρξαν βαθμιαίες εξελίξεις, αλλά πολλές από αυτές αφορούσαν την υπέρβαση εμποδίων, όπως η πιο αποδοτική χρήση της μνήμης. Ακόμη και τα πιο προηγμένα μοντέλα σήμερα εξακολουθούν να βασίζονται στα LLM.
Οι εταιρείες τεχνητής νοημοσύνης – οι οποίες είναι ήδη υπερχρεωμένες κατά εκατοντάδες δισεκατομμύρια δολάρια – αντιμετωπίζουν ένα σοβαρό πρόβλημα. Η αξία τους βασίζεται στην ιδέα ότι η ΑΙ θα συνεχίσει να αναπτύσσει τις δυνατότητές της ώστε να συμπεριλαμβάνει όλο και περισσότερους τομείς της οικονομίας. Αλλά έχουμε πλέον φτάσει σε ένα σημείο όπου το επόμενο βήμα «κλίμακας» δεν θα είναι τόσο εύκολο να πραγματοποιηθεί.
Δεν υπάρχουν αρκετά δεδομένα που να έχουν παραχθεί από ανθρώπους, ώστε να η κλίμακα να αυξηθεί περαιτέρω κατά μία ακόμη τάξη μεγέθους. Ταυτόχρονα, τα κέντρα δεδομένων που απαιτούνται για την εκπαίδευση και τη λειτουργία αυτών των γιγαντιαίων μοντέλων φτάνουν στα οικονομικά και θερμοδυναμικά τους όρια, γεγονός που θέτει πραγματικούς περιορισμούς στο πόσο μεγαλύτερα – και εξυπνότερα – μπορούν πρακτικά να γίνουν αυτά τα μοντέλα.
Η σημερινή προσέγγιση για τη βελτίωση των μοντέλων ΑΙ συγκρούεται επομένως με πραγματικά αντικειμενικά όρια. Και όταν εξαντληθεί η ανάπτυξη πάνω σε αυτούς τους άξονες, δεν υπάρχουν πολλές καλές ιδέες για το πού μπορούμε να πάμε στη συνέχεια.
Οι καταστροφολόγοι της RSI θα πουν ότι, μόλις αποκτήσουμε μοντέλα εξίσου καλά με τους ανθρώπους στην έρευνα για την τεχνητή νοημοσύνη, θα ανακαλύψουν εκείνα το επόμενο μεγάλο άλμα πέρα από τα όρια των LLM. Αλλά αυτό απέχει από την πραγματικότητα. Αυτά τα μοντέλα είναι τόσο «έξυπνα» επειδή έχουν απορροφήσει σχεδόν το σύνολο της ανθρώπινης γνώσης. Είναι πολύ καλά σε τομείς όπου υπάρχει άφθονο ανθρώπινο υλικό για να εκπαιδευτούν, αλλά είναι πολύ κακά στο να ανακαλύπτουν πράγματα που οι άνθρωποι δεν έχουν καταφέρει να ανακαλύψουν.
Όσοι υποστηρίζουν ότι η ΑΙ μπορεί να είναι πραγματικά δημιουργική και να επινοεί νέες ιδέες θα δείξουν τις απίστευτες προόδους που έχουν σημειώσει αυτά τα μοντέλα στον προγραμματισμό και στα μαθηματικά. Είναι σημαντικό, όμως, να επισημάνουμε ότι αυτοί είναι οι δύο τομείς στους οποίους θα περιμέναμε περισσότερο τα LLM να διαπρέπουν. Εκεί υπάρχει τεράστιος όγκος δεδομένων υψηλής ποιότητας και τα μοντέλα έχουν να αντιμετωπίσουν συμβολικού και διακριτού τύπου πληροφορία, έτσι ώστε οι απαντήσεις μπορούν να ελεγχθούν και να επαληθευτούν, σε αντίθεση με πολλούς άλλους τομείς της ανθρώπινης γνώσης.
Στις 9 Σεπτεμβρίου 2026 η OpenAI ισχυρίστηκε ότι τα μοντέλα της πέτυχαν ένα σπουδαίο βήμα στα μαθηματικά, που κανένας άνθρωπος δεν είχε καταφέρει, επιλύοντας ένα από τα «Προβλήματα της Χιλιετίας» – το σχετιζόμενο με την εξίσωση Navier-Stokes. Αυτό το εντυπωσιακό επίτευγμα παρουσιάστηκε σαν τα μοντέλα ΑΙ να αντικατέστησαν πλήρως τον ρόλο των ανθρώπων στα μαθηματικά.
Στην πραγματικότητα, ωστόσο, η μέθοδος που χρησιμοποιήθηκε για την επίλυση του προβλήματος βασιζόταν σε μια πρόταση που είχε διατυπωθεί το 2023 από μια ομάδα Ισπανών μαθηματικών και είναι γνωστή ως προσέγγιση Córdoba-Martínez-Zoroa. Επιπρόσθετα, δύο άλλοι μαθηματικοί, ο Τρίσταν Μπάκμαστερ και ο Λεβέντ Αλπέγκε, προσπαθούσαν επί σχεδόν έναν χρόνο να λύσουν το πρόβλημα χρησιμοποιώντας αυτήν τη μέθοδο και αξιοποιώντας τη βοήθεια μοντέλων της OpenAI. μια δουλειά που αξιοποιήθηκε από την τεχνητή νοημοσύνη για να λύσει «μόνη» της το πρόβλημα. Απαντώντας, η OpenAI παραδέχθηκε ότι δεν μπορεί να αποκλείσει το ενδεχόμενο το μοντέλο της να χρησιμοποίησε τις συζητήσεις του με τους δύο μαθηματικούς για να επιλύσει το πρόβλημα.
Σε κάθε περίπτωση, αυτό το παράδειγμα δείχνει ότι η ΑΙ μπορεί να είναι πολύ επιτυχημένη στη χρησιμοποίηση τεράστιων υπολογιστικών δυνατοτήτων για να επιλύσει προβλήματα (κι αυτό δεν είναι ασήμαντο), των οποίων όμως το πλαίσιο και οι έγκυρες μέθοδοι για μια πιθανή λύση έχουν παρασχεθεί από μια πολυετή ερευνητική εργασία ανθρώπων. Δείχνει ότι η ΑΙ, όσο ισχυρό εργαλείο και αν είναι, εξακολουθεί να είναι ένα εργαλείο.
Εφόσον αυτός είναι ο μηχανισμός με τον οποίο λειτουργεί η AI, γιατί πληθαίνουν οι φωνές των καταστροφολόγων που μας προειδοποιούν για ένα Αρμαγεδδώνα της τεχνητής νοημοσύνης;
Γιατί έχουν τρομοκρατηθεί τόσο πολύ;
Ο φόβος για μια ΑΙ που θα ξεφύγει από τον έλεγχο αντανακλά τα πολύ βαθύτερα υποκείμενα άγχη για τη ζωή σε ένα κοινωνικό σύστημα που παρακμάζει και κυβερνάται από το αόρατο χέρι των δυνάμεων της αγοράς. Όπως ακριβώς την περίοδο παρακμής της Ρωμαϊκής Αυτοκρατορίας αναπτύχθηκε η ιδέα της συντέλειας του κόσμου, έτσι και οι σημερινές προβλέψεις για την Αποκάλυψη που θα φέρει η ΑΙ αντανακλούν ένα ημι-συνειδητό άγχος για τις συνθήκες που δημιουργεί η παρακμή του καπιταλιστικού συστήματος.
Αυτό που τρομοκρατεί περισσότερο τους ανθρώπους είναι η διάχυτη αίσθηση ότι κανείς δεν έχει τον έλεγχο. Και ακριβώς αυτή είναι η ρίζα του προβλήματος. Ακόμη κι αν μπορούσαμε να εμπιστευτούμε τους ανθρώπους που διευθύνουν την κούρσα της ΑΙ – κάτι που η συμπεριφορά τους καθιστά απολύτως σαφές ότι δεν πρέπει να κάνουμε – οι άναρχες δυνάμεις της καπιταλιστικής αγοράς εξασφαλίζουν ότι το συνολικό αποτέλεσμα βρίσκεται έξω από τον ανθρώπινο έλεγχο. Αυτό αναδεικνύει τον θεμελιωδώς ανεξέλεγκτο χαρακτήρα της καπιταλιστικής αγοράς.
Η υπερβολή γύρω από μια ανεξέλεγκτη, υπαρξιακή καταστροφή από την ΑΙ λειτουργεί ως μια βολική εκτροπή της προσοχής μακριά από αυτήν την πραγματικότητα: ο βασικός κίνδυνος δεν είναι μια ανεξέλεγκτη υπερνοημοσύνη, αλλά το γεγονός ότι η ΑΙ βρίσκεται ήδη σε λάθος χέρια.
Αν και δεν πρόκειται να οδηγήσει στην εξαφάνιση της ανθρωπότητας, ο συνδυασμός των LLM με τη διαρκή επέκταση της υπολογιστικής ισχύος αντιπροσωπεύει μια εξαιρετικά σπάταλη και επικίνδυνη προσέγγιση για την ανάπτυξη της τεχνητής νοημοσύνης. Αντί να ενσωματώνουμε ορθολογικά αυτά τα μοντέλα στην οικονομία, στην υπηρεσία των ανθρώπινων αναγκών, η κούρσα της ΑΙ που καθοδηγείται από την αγορά επιταχύνει τις χειρότερες τάσεις του καπιταλισμού: βαθαίνει την αποξένωσή μας από την εργασία μας, συμπιέζει τους μισθούς και τις συνθήκες εργασίας, δημιουργεί όλο και πιο αποτελεσματικές πολεμικές μηχανές και εκτοξεύει τις ενεργειακές απαιτήσεις, επιδεινώνοντας την κλιματική κρίση. Ακόμη και το σκάσιμο της φούσκας της ΑΙ απειλεί να μας βυθίσει σε μια παγκόσμια ύφεση!
Ποτέ στο παρελθόν η ανάγκη για τον σχεδιασμό της οικονομίας από τη συντριπτική πλειοψηφία της κοινωνίας δεν είχε τεθεί τόσο ξεκάθαρα. Σε μια δημοκρατικά σχεδιασμένη οικονομία, πολλές διαφορετικές μορφές και χρήσεις της ΑΙ θα καθιστούσαν δυνατό τον πολύ πιο αρμονικό σχεδιασμό της οικονομίας απ’ ό,τι στον καπιταλισμό, και στην υπηρεσία στόχων που θα καθορίζονταν από τη μεγάλη πλειοψηφία της ανθρωπότητας και όχι από μια χούφτα μη εκλεγμένα στελέχη των τεχνολογικών κολοσσών.
Σεμπάστιαν Βίτεκιντ
Μετάφραση από marxist.com: Η. Κ.– Γιώργος Αρναούτογλου