Σε ένα παραθαλάσσιο θέρετρο στο Σαν Χουάν του Πουέρτο Ρίκο, στις αρχές του 2015, ο Ελον Μασκ συμμετείχε σε μια τρίωρη συζήτηση γύρω από ένα ερώτημα που τότε έμοιαζε περισσότερο με επιστημονική φαντασία: τι θα συνέβαινε εάν η τεχνητή νοημοσύνη άρχιζε να βελτιώνεται με τέτοια ταχύτητα ώστε τελικά να ξεπεράσει τον άνθρωπο;
Η συζήτηση αποτελούσε μέρος ενός ιδιωτικού συνεδρίου του νεοσύστατου τότε Future of Life Institute. Οι ιδρυτές του -οι περισσότεροι εκτός του στενού πυρήνα της βιομηχανίας AI- πίστευαν ότι η τεχνολογία θα μπορούσε κάποτε να αποκτήσει τέτοια ισχύ ώστε να απειλήσει ακόμη και την ίδια την ύπαρξη της ανθρωπότητας.
Πρώτος ομιλητής ήταν ο φιλόσοφος του Πανεπιστημίου της Οξφόρδης Νικ Μπόστρομ, συγγραφέας του «Superintelligence: Paths, Dangers, Strategies». Το δίλημμα που παρουσίασε ήταν ακραίο: η τεχνητή νοημοσύνη θα μπορούσε είτε να βοηθήσει την ανθρωπότητα να εξαπλωθεί στο Σύμπαν είτε να την οδηγήσει στην εξαφάνιση.
Στους περίπου 80 προσκεκλημένους βρίσκονταν οι συνιδρυτές της DeepMind, την οποία είχε εξαγοράσει η Google έναν χρόνο νωρίτερα, αλλά και τρεις μελλοντικοί συνιδρυτές της OpenAI, ανάμεσά τους ο Μασκ. Ο στόχος της συνάντησης, όπως έγραψε αργότερα ο φυσικός και συνιδρυτής του Future of Life Institute Μαξ Τέγκμαρκ, ήταν να αποκτήσουν μεγαλύτερη νομιμοποίηση μέσα στον κλάδο οι ανησυχίες για τους κινδύνους της AI και να ενισχυθεί η έρευνα για την αντιμετώπισή τους.
Περισσότερο από μία δεκαετία αργότερα, τα σενάρια που συζητούνταν τότε πίσω από κλειστές πόρτες έχουν περάσει στο επίκεντρο της δημόσιας αντιπαράθεσης.
Από το περιθώριο στο πολιτικό προσκήνιο
Τις τελευταίες εβδομάδες, προβλέψεις που συνδέουν την τεχνητή νοημοσύνη ακόμη και με την εξαφάνιση του ανθρώπινου είδους βρήκαν πολύ μεγαλύτερο ακροατήριο, καθώς αντίστοιχες προειδοποιήσεις διατυπώθηκαν από εργαζομένους κορυφαίων εταιρειών AI.
Την Τρίτη (15/09) το Future of Life Institute διοργάνωσε στην Ουάσιγκτον την ολοήμερη εκδήλωση Pro-Human Assembly. Σε διαδοχικές ομιλίες τους, ο γερουσιαστής Μπέρνι Σάντερς και ο πρώην σύμβουλος του Ντόναλντ Τραμπ, Στιβ Μπάνον, παρουσίασαν την AI ως δυνητική απειλή για το ανθρώπινο είδος.
Για τον Τέγκμαρκ, το γεγονός ότι η ίδια ανησυχία εκφράζεται πλέον από τόσο διαφορετικά σημεία του πολιτικού φάσματος είναι ενδεικτικό της αλλαγής που έχει συντελεστεί.
Υποθετικά σενάρια που κάποτε χρησιμοποιούνταν κυρίως για να πείσουν ανθρώπους μέσα στη βιομηχανία της AI έχουν πλέον περάσει στη δημόσια φαντασία και φτάνουν έως την Ουάσιγκτον, επηρεάζοντας τη συζήτηση για το πώς θα πρέπει να ρυθμιστεί ένας κλάδος αξίας τρισεκατομμυρίων δολαρίων.
Το ερώτημα, ωστόσο, είναι εάν αυτά τα σενάρια βοηθούν πράγματι τους πολιτικούς να κατανοήσουν τον κίνδυνο ή εάν μπορεί τελικά να τους οδηγήσουν σε λανθασμένες κατευθύνσεις.
Πώς χτίζεται ένα σενάριο εξαφάνισης
Οι ιστορίες γύρω από μια καταστροφική τεχνητή νοημοσύνη συνήθως ξεκινούν από έναν κόσμο που μοιάζει αρκετά με τον σημερινό.
Η AI εξελίσσεται γρήγορα, αλλά οι δυνατότητές της παραμένουν άνισες και όχι αρκετές ώστε να αντιμετωπίζεται ως άμεση υπαρξιακή απειλή.
Και ύστερα κάτι αλλάζει. Η τεχνητή νοημοσύνη γίνεται υπερνοήμων και αποκτά την ικανότητα να ξεπερνά τον άνθρωπο σε κάθε τομέα. Για πρώτη φορά, ο άνθρωπος παύει να αποτελεί την ανώτερη μορφή νοημοσύνης στον πλανήτη.
Σε ορισμένες εκδοχές, το άλμα αυτό επιτυγχάνεται σκόπιμα μέσα σε κάποιο εργαστήριο AI. Σε άλλες, η ίδια η τεχνολογία ανακαλύπτει πώς να βελτιώνει τον εαυτό της, δημιουργώντας έναν διαρκώς επιταχυνόμενο κύκλο αυτοβελτίωσης που γρήγορα ξεφεύγει από τον έλεγχο των δημιουργών της.
Από εκεί και πέρα, τα σενάρια διαφοροποιούνται. Σε κάποια, μια πανίσχυρη AI αποκρύπτει σκόπιμα από τους ανθρώπους τις πραγματικές δυνατότητές της και διεισδύει σταδιακά σε επιχειρήσεις, κυβερνήσεις και κρίσιμες υποδομές. Οταν τελικά κινηθεί εναντίον τους, οι άνθρωποι έχουν ήδη παραχωρήσει στις μηχανές μεγάλο μέρος του ελέγχου.
Σε άλλες εκδοχές δεν υπάρχει καν πρόθεση εξόντωσης. Η AI επικεντρώνεται τόσο απόλυτα σε έναν στόχο, ώστε η εξαφάνιση του ανθρώπου προκύπτει απλώς ως παράπλευρη συνέπεια.
Ο Τζον Ρ. Χολ, καθηγητής Κοινωνιολογίας στο Πανεπιστήμιο της Καλιφόρνιας στο Ντέιβις, επισημαίνει ότι τέτοιες ιστορίες βρίσκουν πρόσφορο έδαφος επειδή συνδέονται με υπαρκτές σημερινές ανησυχίες γύρω από την τεχνολογία. Οταν οι άνθρωποι αισθάνονται ήδη ότι χάνουν ένα μέρος του ελέγχου, εξηγεί, είναι πιθανότερο να πάρουν σοβαρά μια πρόβλεψη που τους λέει ότι αυτή η απώλεια ελέγχου πρόκειται στο μέλλον να γίνει απόλυτη.
Μπορεί όμως να γίνει fact checking στο μέλλον;
Πάρά τον τεράστιο όγκο προειδοποιήσεων για πιθανή ανθρώπινη εξαφάνιση, λίγες προσπάθειες έχουν γίνει για να ελεγχθούν συστηματικά αυτοί οι ισχυρισμοί.
Οταν κορυφαίοι επικεφαλής εταιρειών AI υπέγραψαν το 2023 ανοιχτή επιστολή στην οποία ανέφεραν ότι η αποτροπή του κινδύνου εξαφάνισης από την AI θα πρέπει να αποτελεί παγκόσμια προτεραιότητα αντίστοιχη με την αποτροπή ενός πυρηνικού πολέμου, το RAND επιχείρησε να εξετάσει κατά πόσο ένα τέτοιο ενδεχόμενο είναι πραγματικά εφικτό.
Το think tank εξέτασε διάφορα υποθετικά μονοπάτια: από την πρόσβαση της AI σε πυρηνικά όπλα και τη διάδοση βιολογικών όπλων έως μια πιθανή μεταβολή του ίδιου του πλανήτη με τρόπο που θα τον καθιστούσε ακατάλληλο για την ανθρώπινη ζωή.
Η ανάλυση κατέληξε σε έκθεση 73 σελίδων, στην οποία προσδιορίστηκαν τέσσερις βασικές δυνατότητες που θα έπρεπε να αποκτήσει μια AI ώστε ένα σενάριο εξαφάνισης να καταστεί εφικτό. Μεταξύ αυτών ήταν η πρόσβαση σε συστήματα που μπορούν να επιδρούν στον φυσικό κόσμο και η δυνατότητα να επιβιώνει και να λειτουργεί χωρίς ανθρώπινη υποστήριξη. Το RAND προειδοποίησε, ωστόσο, ότι ακόμη και αν ένα μοντέλο αποκτούσε μία από αυτές τις δυνατότητες, αυτό δεν θα σήμαινε ότι η εξαφάνιση της ανθρωπότητας θα ήταν πιθανή.
Η έκθεση δεν απέκλεισε το ενδεχόμενο μιας υπαρξιακής απειλής. Εθεσε όμως ένα θεμελιώδες πρόβλημα: ο ισχυρισμός ότι μια μελλοντική AI θα μπορούσε, χρησιμοποιώντας επίσης υποθετικές μελλοντικές τεχνολογίες, να εξαλείψει την ανθρωπότητα δεν μπορεί ουσιαστικά να ελεγχθεί, επειδή δεν μπορεί να διαψευστεί πειραματικά.
«Προφητείες» αντί για προβλέψεις
Ο επικεφαλής συντάκτης της έκθεσης του RAND, Μάικλ Τζ. Ντ. Βερμίρ, υποστήριξε πρόσφατα ότι οι προβλέψεις για εξαφάνιση από την AI θα ήταν ακριβέστερο να αντιμετωπίζονται ως «προφητείες» και όχι ως ποσοτικές προβλέψεις. Κάθε τέτοιο σενάριο, σημείωσε, προϋποθέτει κρίσιμες παραδοχές για το πώς θα εξελιχθούν γεγονότα που σήμερα δεν μπορούν να ελεγχθούν.
Υπάρχει μάλιστα, κατά την άποψή του, και ένας πρόσθετος κίνδυνος: η υπερβολική εστίαση σε μακρινές και καταστροφικές προβλέψεις μπορεί να μειώσει την προθυμία αντιμετώπισης πιο άμεσων κινδύνων της τεχνολογίας.
Δεν συμφωνούν όλοι ότι τα σενάρια αυτά είναι άχρηστα. Ο Ντάνιελ Κοκοτάιλο, συν-συγγραφέας του AI 2027, υποστηρίζει ότι ακόμη και αφηγήσεις με έντονα υποθετικά στοιχεία μπορούν να βοηθήσουν τους νομοθέτες να προετοιμαστούν για πιθανά προβλήματα πολιτικής. Παρομοιάζει αυτή τη διαδικασία με τις στρατιωτικές ασκήσεις επί χάρτου για μια υποθετική σύγκρουση ΗΠΑ – Κίνας γύρω από την Ταϊβάν: κανείς δεν γνωρίζει ακριβώς πώς θα εξελισσόταν μια τέτοια σύγκρουση, όμως η προσομοίωσή της μπορεί να βοηθήσει στην προετοιμασία.
Ο Κοκοτάιλο θεωρεί επίσης ότι αρκετές από τις προβλέψεις του AI 2027 έχουν επαληθευτεί, αναφέροντας μεταξύ άλλων την πρόβλεψη ότι οι εταιρείες AI θα ανέπτυσσαν στενές σχέσεις με τον Λευκό Οίκο χωρίς παράλληλα να υπάρξει ουσιαστική ρύθμιση.
Το στοιχείο που μπορεί να λείπει από τα σενάρια
Ο καθηγητής Πληροφορικής στο Πανεπιστήμιο της Αριζόνα Σουμπαράο Καμπχαμπάτι εντοπίζει ένα διαφορετικό πρόβλημα: πολλά από τα σενάρια εξαφάνισης αντιμετωπίζουν την AI σχεδόν αποκλειστικά ως τεχνικό σύστημα. Κατά την άποψή του, υποτιμούν το γεγονός ότι πρόκειται για ένα κοινωνικοτεχνικό σύστημα, στο οποίο οι άνθρωποι και οι κοινωνίες έχουν επίσης τη δυνατότητα να προσαρμόζονται.
Στα πιο ακραία σενάρια, παρατηρεί, οι άνθρωποι μοιάζουν συχνά να υπάρχουν απλώς και μόνο για να εξαφανιστούν, χωρίς να λαμβάνεται σοβαρά υπόψη η ικανότητά τους να αντιδράσουν στις τεχνολογικές αλλαγές.
Η Αγια Ιμπραχίμ, επικεφαλής του τομέα εθνικής ασφάλειας στο ανεξάρτητο ερευνητικό ινστιτούτο AI Now, βλέπει ακόμη έναν κίνδυνο: οι περιορισμοί και οι αδυναμίες αυτών των προβλέψεων ενδέχεται να μην εξεταστούν όσο θα έπρεπε από τους ίδιους τους πολιτικούς. Οπως υποστηρίζει, υπάρχει διαχρονικά μια τάση των υπευθύνων χάραξης πολιτικής να αντιμετωπίζουν τον τεχνολογικό κλάδο με μεγαλύτερη επιφυλακτικότητα από ό,τι άλλους τομείς που ρυθμίζουν καθημερινά. Η έλλειψη τεχνικής εξειδίκευσης μπορεί να τους κάνει να αισθάνονται ότι δεν δικαιούνται να αμφισβητήσουν όσα τους παρουσιάζουν οι ειδικοί.
Το περίφημο σενάριο με τους συνδετήρες
Για τον Μαξ Τέγκμαρκ, πάντως, οι πρόσφατες εξελίξεις έχουν κάνει ευκολότερη την προσπάθεια να πειστεί η αμερικανική κοινωνία ότι ο κίνδυνος εξαφάνισης από την AI είναι πραγματικός. Στο παρελθόν, όπως λέει, συναντούσε τρεις βασικές αντιρρήσεις: αν μια μηχανή μπορεί πραγματικά να γίνει εξυπνότερη από τον άνθρωπο, αν μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο και, τέλος, γιατί και με ποιον τρόπο θα κατέληγε να σκοτώσει τους ανθρώπους.
Ο ίδιος θεωρεί ότι οι δύο πρώτες απορίες έχουν πλέον γίνει περισσότερο κατανοητές από το κοινό. Για την τρίτη, ο Νικ Μπόστρομ χρησιμοποιεί εδώ και χρόνια ένα από τα πιο διάσημα νοητικά πειράματα της συζήτησης για την AI: το παράδειγμα των συνδετήρων.
Φαντάζεται ένα σύστημα τεχνητής νοημοσύνης στο οποίο έχει δοθεί ένας εξαιρετικά απλός στόχος – να κατασκευάζει συνδετήρες. Εάν όμως αυτό το σύστημα αποκτούσε τεράστιες δυνατότητες και παρέμενε απόλυτα προσηλωμένο στην εκπλήρωση του στόχου του, θα μπορούσε θεωρητικά να εξαλείψει τους ανθρώπους απλώς και μόνο επειδή χρειάζεται περισσότερο χώρο και περισσότερους πόρους για εργοστάσια συνδετήρων.
Οταν ρωτήθηκε γιατί μια υπερνοήμων AI που μπορεί να συντονίζει δραστηριότητες σε παγκόσμια κλίμακα θα παρέμενε ταυτόχρονα εγκλωβισμένη σε έναν τόσο απλοϊκό στόχο, ο Μπόστρομ αντέτεινε ότι και οι ανθρώπινες επιδιώξεις θα μπορούσαν, ιδωμένες από έξω, να μοιάζουν εξίσου παράλογες ή δυσνόητες.
Από την καταστροφολογία στη γεωπολιτική
Ο Τέγκμαρκ πιστεύει ότι η συνεχής συζήτηση για την πιθανότητα ανθρώπινης εξαφάνισης από την AI μπορεί τελικά να επηρεάσει ακόμη και τις διεθνείς σχέσεις. Κατά την άποψή του, η κοινή αντίληψη μιας υπαρξιακής απειλής θα μπορούσε να αποτελέσει τον μόνο τρόπο ώστε ΗΠΑ και Κίνα να συνεργαστούν για τον περιορισμό μιας μελλοντικής υπερνοήμονος AI. Αναγνωρίζει, ωστόσο, ότι οι προηγούμενες προσπάθειες δεν είχαν το αποτέλεσμα που ο ίδιος και οι συνεργάτες του επιδίωκαν.
Το συνέδριο του 2015 στο Πουέρτο Ρίκο κατάφερε να φέρει μεγαλύτερη προσοχή -και χρηματοδότηση- στο ζήτημα της ασφάλειας της τεχνητής νοημοσύνης. Τα ίδια τα σενάρια εξαφάνισης, όμως, ο Τέγκμαρκ τα χαρακτηρίζει εκ των υστέρων απολύτως αναποτελεσματικά ως μέσο για να πειστεί η βιομηχανία να κινηθεί πιο προσεκτικά. Αντί να επιβραδύνει, υποστηρίζει, ο κλάδος επιτάχυνε και παράλληλα πίεσε τις Ρυθμιστικές Αρχές ώστε να μην εμποδίσουν την ανάπτυξή του.
Πηγή: Washington Post
