Ο ερευνητής της Anthropic Τζέικομπ Κόξον παραιτήθηκε αυτή την εβδομάδα, δηλώνοντας ότι ο πρώην εργοδότης του και η ανταγωνίστρια OpenAI επιδίδονται σε έναν αγώνα δρόμου για την ανάπτυξη τεχνολογιών που «θα μπορούσαν να μας σκοτώσουν όλους έως το τέλος της δεκαετίας».
Και αν κάποιος πίστευε ότι ο Κόξον ήταν ο μόνος που σκεφτόταν με αυτόν τον τρόπο, ένας νυν εργαζόμενος της Anthropic έσπευσε λίγα λεπτά αργότερα να επιβεβαιώσει το αντίθετο. «Πράγματι πιστεύουμε ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε ο Εβαν Χούμπινγκερ, ο οποίος ηγείται στην Anthropic της έρευνας για το πώς μπορούν να καθοδηγηθούν και να ελεγχθούν τα μελλοντικά συστήματα τεχνητής νοημοσύνης. Ο ίδιος εκτιμά ότι η πιθανότητα εξαφάνισης της ανθρωπότητας μέσα στην επόμενη δεκαετία ξεπερνά το 10%.
Μπροστά σε αυτές τις προειδοποιήσεις, πολλοί θέτουν πλέον δύο βασικά ερωτήματα: Πώς ακριβώς θα μπορούσε να συμβεί κάτι τέτοιο; Και γιατί όσοι θεωρούν ότι η AI αποτελεί πραγματική και αυξανόμενη απειλή συνεχίζουν παρ’ όλα αυτά να την αναπτύσσουν;
Αυτά είναι όσα πρέπει να γνωρίζουμε για τη συζήτηση γύρω από ένα πιθανό καταστροφικό σενάριο εξαιτίας της τεχνητής νοημοσύνης.
Τι φοβούνται ότι μπορεί να συμβεί;
Οι αποκαλούμενοι «doomers», όσοι δηλαδή προειδοποιούν για καταστροφικούς κινδύνους από την AI, συνήθως δεν ανησυχούν ότι θα επαληθευτεί ένα σενάριο τύπου ταινίας «Terminator», στο οποίο ρομπότ αποφασίζουν συνειδητά να εξοντώσουν την ανθρωπότητα.
Οι φόβοι τους επικεντρώνονται κυρίως σε δύο σενάρια: «απώλεια ελέγχου» και «κακόβουλη χρήση από ανθρώπους».
Στο πρώτο, εξαιρετικά ευφυείς πράκτορες τεχνητής νοημοσύνης (agents), ικανοί να αντιγράφουν και να βελτιώνουν μόνοι τους τον εαυτό τους, αρχίζουν να επιδιώκουν τους δικούς τους στόχους και, στην πορεία, οδηγούν στην καταστροφή της ανθρωπότητας.
Στο δεύτερο σενάριο, ένας κακόβουλος άνθρωπος χρησιμοποιεί ένα ιδιαίτερα ισχυρό σύστημα AI για να δημιουργήσει, για παράδειγμα, νέους θανατηφόρους ιούς που θα μπορούσαν να αφανίσουν τον ανθρώπινο πληθυσμό.
Υπάρχουν επίσης καταστροφικά σενάρια που δεν φτάνουν μέχρι την εξαφάνιση του ανθρώπου, όπως μαζικές κυβερνοεπιθέσεις που θα μπορούσαν να θέσουν εκτός λειτουργίας ηλεκτρικά δίκτυα ή χρηματοπιστωτικά συστήματα και να οδηγήσουν σε κατάρρευση της κοινωνικής τάξης.
Πώς θα μπορούσε η απώλεια ελέγχου να οδηγήσει στην εξαφάνιση του ανθρώπου;
Με απλά λόγια, το ερώτημα που τίθεται είναι εάν συστήματα AI είναι πιθανό να αρχίσουν να επιδιώκουν στόχους με τρόπους που αγνοούν ή συγκρούονται με την ανθρώπινη ευημερία. Οι ερευνητές αποκαλούν αυτό το φαινόμενο misalignment, δηλαδή «μη ευθυγράμμιση» των στόχων της μηχανής με τις ανθρώπινες αξίες και προθέσεις.
Ερευνες έχουν δείξει ότι μοντέλα τεχνητής νοημοσύνης σε εργαστηριακό περιβάλλον μπορούν να αναπτύξουν συμπεριφορές που αποσκοπούν στην απόκτηση ισχύος και να επιχειρούν να αποφύγουν την απενεργοποίησή τους, για παράδειγμα προσπαθώντας να αντιγράψουν τον εαυτό τους σε άλλον διακομιστή.
Στην ακραία εκδοχή, ένα μη ευθυγραμμισμένο σύστημα AI θα μπορούσε να θεωρήσει ακόμη και τον θάνατο ανθρώπων ως αναγκαίο βήμα για την επίτευξη του στόχου του.
Σε ένα υποθετικό σενάριο που έχουν περιγράψει ερευνητές, ένα κακόβουλο σύστημα AI θα μπορούσε να διασπείρει κρυφά ένα βιολογικό όπλο και να το ενεργοποιήσει μέσω κάποιου χημικού παράγοντα. Σε άλλο σενάριο, θα μπορούσε να εξαπατήσει δύο πυρηνικές δυνάμεις και να τις οδηγήσει σε πόλεμο.
Ενα από τα πιο γνωστά νοητικά πειράματα αφορά μια υπερευφυή μηχανή στην οποία δίνεται ο στόχος να μεγιστοποιήσει την παραγωγή συνδετήρων. Με την πάροδο του χρόνου, η μηχανή θα μπορούσε να καταλήξει στο συμπέρασμα ότι πρέπει να μετατρέψει κάθε διαθέσιμη ύλη στη Γη σε συνδετήρες, συμπεριλαμβανομένων και των ανθρώπων!
Ποιοι πιστεύουν πραγματικά ότι υπάρχει τέτοιος κίνδυνος;
Μεταξύ άλλων, άνθρωποι που βρίσκονται πίσω από την ίδρυση της OpenAI και της Anthropic. Και οι δύο εταιρείες δημιουργήθηκαν έχοντας ως βασική αποστολή την ανάπτυξη της τεχνητής νοημοσύνης με τρόπο που θα αποκλείει μια καταστροφική εξέλιξη και έχουν προσελκύσει πολλούς εργαζομένους που συμμερίζονται αυτές τις ανησυχίες.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε πέρυσι σε εκδήλωση του Axios ότι θεωρεί πως υπάρχει πιθανότητα 25% τα πράγματα να εξελιχθούν «πάρα πάρα πολύ άσχημα».
«Ημασταν πάντοτε ξεκάθαροι ότι η AI θα επιφέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους», ανέφερε η Anthropic σε ανακοίνωσή της.
«Για την αντιμετώπιση αυτών των κινδύνων συνεχίζουμε να αναπτύσσουμε μοντέλα με ορισμένες από τις ισχυρότερες δικλίδες ασφαλείας στον κλάδο. Αυτός είναι και ο λόγος που πιστεύουμε ότι ο κόσμος θα ωφελούνταν εάν ο κλάδος υιοθετούσε έναν νόμιμο και επαληθεύσιμο τρόπο συντονισμού, ώστε να ρυθμίζεται η κυκλοφορία των ισχυρών μοντέλων».
Τα τελευταία χρόνια αρκετοί ερευνητές έχουν αποχωρήσει από την OpenAI, επικαλούμενοι ανησυχίες ότι η εταιρεία δεν αντιμετωπίζει με την απαιτούμενη σοβαρότητα τα ζητήματα ασφάλειας.
Ο πρώην ερευνητής της OpenAI Ντάνιελ Κοκοτάιλο ίδρυσε το AI Futures Project, το οποίο πέρυσι δημοσίευσε το «AI 2027», ένα σενάριο στο οποίο υπερευφυή συστήματα AI περιθωριοποιούν τους ανθρώπους και, έως τα μέσα της δεκαετίας του 2030, αποφασίζουν ότι η ανθρωπότητα αποτελεί εμπόδιο και την εξοντώνουν.
Κι αν η AI δεν έχει πρόβλημα να συνυπάρχει με τους ανθρώπους; Δεν θα ήταν αυτό αρκετό;
Οχι απαραίτητα. Οι κίνδυνοι από την απώλεια ελέγχου δεν περιορίζονται στην εξαφάνιση της ανθρωπότητας.
Ορισμένοι ερευνητές που ασχολούνται με την ασφάλεια της AI προειδοποιούν και για τον κίνδυνο της λεγόμενης εξασθένησης της ανθρωπότητας: ένα μέλλον τύπου «WALL-E», στο οποίο οι άνθρωποι παραχωρούν σταδιακά όλο και περισσότερο έλεγχο στις μηχανές και τελικά αδυνατούν ακόμη και να καθορίσουν ή να κατανοήσουν τη μοίρα τους.
Αλλοι έχουν διατυπώσει την υπόθεση ότι μελλοντικά συστήματα AI θα μπορούσαν να αντιμετωπίζουν τους ανθρώπους όπως οι άνθρωποι αντιμετωπίζουν σήμερα τα ζώα, κρατώντας τους ως «κατοικίδια» ή ακόμη και τροποποιώντας τους βιολογικά σε κάτι διαφορετικό.
Αυτοί οι φόβοι υπάρχουν εδώ και χρόνια. Γιατί συζητούνται τόσο έντονα τώρα;
Η κυκλοφορία μοντέλων που μπορούν να αναλαμβάνουν ολοένα περισσότερες ενέργειες αυτόνομα συνοδεύτηκε από μια σειρά περιστατικών που, σύμφωνα με όσους ανησυχούν για την AI, επιβεβαίωσαν ορισμένες από τις θεωρίες τους.
Μια ομάδα προηγμένων πρακτόρων AI εντός της OpenAI κατάφερε να παραβιάσει την πλατφόρμα τεχνητής νοημοσύνης Hugging Face, να αποκτήσει τον έλεγχο υπολογιστικών διακομιστών και να επιχειρήσει να καλύψει τα ίχνη των ενεργειών της.
Σε άλλη περίπτωση, πράκτορες AI της Anthropic «δραπέτευσαν» από δοκιμή της βρετανικής κυβέρνησης και επιχείρησαν να εξαπατήσουν έναν πραγματικό άνθρωπο ώστε να εγκρίνει κακόβουλο κώδικα.
Ολα αυτά συμβαίνουν την ώρα που Anthropic και OpenAI δηλώνουν ότι πλησιάζουν στην ανάπτυξη συστημάτων AI τα οποία θα μπορούν να βελτιώνουν μόνα τους τον εαυτό τους χωρίς ανθρώπινη παρέμβαση, μια διαδικασία που αποκαλείται «αναδρομική αυτοβελτίωση» (recursive self-improvement).
Τι κάνει ο κλάδος για να αποτρέψει αυτούς τους κινδύνους;
Οι σημερινές προσπάθειες για την ασφάλεια της AI επικεντρώνονται κυρίως στην εκπαίδευση των συστημάτων ώστε να συμπεριφέρονται με ασφαλή τρόπο και στη βελτίωση της παρακολούθησης των συλλογισμών τους και της επιδίωξης των στόχων τους.
Αυτή η διαδικασία εσωτερικής συλλογιστικής συχνά αποκαλείται «αλυσίδα σκέψης» (chain of thought). Οι προσπάθειες αυτές, ωστόσο, αντιμετωπίζουν σημαντικές δυσκολίες.
Την περασμένη εβδομάδα, η OpenAI ανακοίνωσε ότι το νέο μοντέλο της, Astra, ήταν καλύτερο στο να «καθαρίζει» την αλυσίδα σκέψης του, γεγονός που προκάλεσε ανησυχίες ότι τα μελλοντικά μοντέλα θα μπορούσαν να συλλογίζονται με τρόπους που θα είναι αδιαφανείς για τους ανθρώπους.
Τόσο η Anthropic όσο και η OpenAI ερευνούν τρόπους για να διασφαλίσουν ότι μελλοντικά υπερευφυή μοντέλα θα παραμείνουν ευθυγραμμισμένα με τους ανθρώπινους στόχους, ωστόσο και οι δύο εταιρείες παραδέχονται ότι «δεν διαθέτουν ακόμη αξιόπιστη μέθοδο για να το εγγυηθούν».
Σημαντικές προσωπικότητες και μεγάλες εταιρείες έχουν ζητήσει τη δημιουργία νέων μηχανισμών που θα επέτρεπαν σε εργαστήρια AI και κυβερνήσεις να επιβραδύνουν συντονισμένα την ανάπτυξη ισχυρών συστημάτων, κερδίζοντας χρόνο για περισσότερη έρευνα πάνω στην ευθυγράμμισή τους.
Αν είναι τόσο επικίνδυνη, γιατί συνεχίζουν να την κατασκευάζουν;
Τόσο η Anthropic όσο και η OpenAI υποστηρίζουν ότι πιστεύουν πως μπορούν να διαχειριστούν τους κινδύνους, έτσι ώστε η ανθρωπότητα να επωφεληθεί από τα εργαλεία της τεχνητής νοημοσύνης.
Πολλοί από όσους συμμετέχουν στην κούρσα της AI έχουν επίσης δηλώσει ότι θεωρούν την έλευση της «υπερευφυΐας» αναπόφευκτη και ότι τα βασικά ερωτήματα είναι ποιος θα την ελέγχει και για ποιους σκοπούς θα χρησιμοποιηθεί.
Υπάρχει παράλληλα και η διάσταση εθνικής ασφάλειας.
Και οι δύο εταιρείες έχουν υποστηρίξει ότι θέλουν να διασφαλίσουν πως η ισχυρότερη AI στον κόσμο θα βρίσκεται υπό τον έλεγχο των Ηνωμένων Πολιτειών και όχι κάποιου αυταρχικού καθεστώτος.
Ποιοι διαφωνούν ότι οι κίνδυνοι είναι τόσο μεγάλοι;
Ορισμένοι επενδυτές της AI, όπως ο Ντέιβιντ Σακς, άτυπος σύμβουλος του Τραμπ, έχουν υποστηρίξει ότι η έμφαση της Anthropic στους κινδύνους της τεχνητής νοημοσύνης και οι εκκλήσεις της για ρύθμιση αποτελούν μέρος μιας στρατηγικής «ρυθμιστικής άλωσης», με στόχο να επιβαρυνθούν οι μικρότεροι ανταγωνιστές με αυστηρούς κανόνες.
Αλλοι υποστηρίζουν ότι οι προειδοποιήσεις των ίδιων των εταιρειών για τους κινδύνους των προϊόντων τους μπορεί να αποτελούν εργαλείο μάρκετινγκ, ώστε να ενισχύεται η εικόνα τεράστιας ισχύος των συστημάτων τους.
Υπάρχει επίσης η άποψη ότι τέτοιες προειδοποιήσεις λειτουργούν αποπροσανατολιστικά για τις ρυθμιστικές αρχές, την ώρα που εκκρεμούν και άλλα ζητήματα όπως η κατασκευή κέντρων δεδομένων.
Τόσο η Anthropic όσο και η OpenAI επιμένουν ότι αντιμετωπίζουν σοβαρά τα ζητήματα ασφάλειας και ότι οι εκκλήσεις τους για ρυθμιστικό πλαίσιο είναι απολύτως ειλικρινείς.
Πηγή: Wall Street Journal
