«Ο κόσμος θα πρέπει να αποδεχθεί ότι θα συμβούν και κάποια άσχημα πράγματα». Με αυτή τη φράση, ο Σαμ Αλτμαν συμπύκνωσε τη βασική διαφορά που, όπως λέει, εξακολουθεί να χωρίζει την OpenAI από την Anthropic στο ζήτημα της τεχνητής νοημοσύνης: πόσο ρίσκο είναι διατεθειμένη να δεχθεί η κοινωνία προκειμένου να διατηρήσει τα οφέλη της τεχνολογίας και την πρόσβαση των ανθρώπων σε αυτήν.

Σε αποκλειστική συνέντευξή του στο ενημερωτικό δελτίο Decoded του Politico, που επικεντρώνεται στην τεχνολογία, ο CEO της OpenAI υποστήριξε ότι, παρά τη σύγκλιση που έχει σημειωθεί τους τελευταίους μήνες ανάμεσα στις δύο εταιρείες σε θέματα ασφάλειας και ρύθμισης, εξακολουθεί να υπάρχει «μεγάλη απόσταση» στη φιλοσοφία τους.

Οταν ρωτήθηκε πού ακριβώς διαφωνεί με την Anthropic και τον επικεφαλής της, Ντάριο Αμοντέι, ο Αλτμαν απάντησε ότι η OpenAI θεωρεί πως η κοινωνία δεν μπορεί να απαιτεί μηδενικό κίνδυνο ως προϋπόθεση για να αξιοποιήσει την AI. «Πιστεύουμε ότι ο κόσμος θα πρέπει να αποδεχθεί ότι θα συμβούν και κάποια άσχημα πράγματα, προκειμένου να υπάρξουν τα οφέλη αυτής της τεχνολογίας και οι άνθρωποι να έχουν τη δυνατότητα να αποφασίζουν οι ίδιοι», είπε.

Η θέση αυτή δεν σημαίνει, όπως διευκρίνισε αργότερα, ότι θεωρεί αποδεκτούς όλους τους κινδύνους. Ο Αλτμαν έβαλε σαφή όριο στους «πραγματικά καταστροφικούς κινδύνους», μεταξύ των οποίων και το ενδεχόμενο μιας «σοβαρής απώλειας ελέγχου της AI».

OpenAI και Anthropic έχουν πλησιάσει, αλλά όχι αρκετά

Η Anthropic θεωρείται εδώ και καιρό ένας από τους ισχυρότερους υποστηρικτές αυστηρότερων ρυθμίσεων για την τεχνητή νοημοσύνη μέσα στην ίδια τη βιομηχανία. Η στάση αυτή βρισκόταν μέχρι πρόσφατα σε αντίθεση με την πιο ήπια ρυθμιστική προσέγγιση που προτιμούσε η OpenAI.

Ωστόσο, σύμφωνα με το Politico, οι αποστάσεις μεταξύ των δύο κορυφαίων εταιρειών AI έχουν μικρύνει τους τελευταίους μήνες. Η OpenAI έχει αρχίσει να στηρίζει αυστηρότερους κανόνες, καθώς βρίσκεται αντιμέτωπη με περιστατικά κυβερνοεπιθέσεων υψηλού προφίλ και περιπτώσεις απρόβλεπτης συμπεριφοράς από τα μοντέλα της.

Ο Αλτμαν συμφώνησε επίσης με την έκκληση που απηύθυνε τον προηγούμενο μήνα ο Αμοντέι για επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης. Η OpenAI ακολούθησε ακόμη την Anthropic στη στήριξη νέων πολιτειακών νόμων που προβλέπουν αυστηρότερες απαιτήσεις ασφαλείας από εκείνες που υποστήριζε στο παρελθόν η εταιρεία πίσω από το ChatGPT. Παράλληλα, λομπίστες της OpenAI υποστήριξαν πρόσφατα διακομματική πρόταση στη Βουλή των Αντιπροσώπων, η οποία θα υποχρεώνει τις κορυφαίες εταιρείες AI να εντάσσουν εξωτερικούς αξιολογητές στις διαδικασίες ελέγχου ασφάλειας.

Παρά αυτή τη σύγκλιση, όμως, ο Αλτμαν επιχείρησε να διαχωρίσει καθαρά τη δική του φιλοσοφία από εκείνη της Anthropic.

«Μια απολύτως απαράδεκτη ανταλλαγή»

Ο CEO της OpenAI αναφέρθηκε σε μια κριτική που έχουν διατυπώσει σύμβουλοι τεχνολογίας κοντά στον Ντόναλντ Τραμπ απέναντι στην Anthropic: ότι μια πολύ αυστηρή ρύθμιση μπορεί να οδηγήσει σε «ρυθμιστική αιχμαλωσία», δηλαδή σε ένα πλαίσιο που τελικά ευνοεί τους ήδη ισχυρούς παίκτες.

Ο Αλτμαν είπε ότι διαφωνεί με αυτή την οπτική, αλλά κατανοεί όσους υποστηρίζουν πως η τεχνολογία μπορεί να εξελιχθεί σε κάτι τόσο ισχυρό και επικίνδυνο, ώστε θα ήταν προτιμότερο να βρίσκεται στα χέρια μόνο ενός εργαστηρίου στο Σαν Φρανσίσκο, το οποίο θα φροντίζει να μη συμβεί τίποτα κακό και θα αποφασίζει πώς θα μοιράζονται τα οφέλη της. Για τον ίδιο, όμως, αυτή είναι «μια απολύτως απαράδεκτη ανταλλαγή». Και έρχεται σε αντίθεση, όπως είπε, με την πιο ήπια ρυθμιστική προσέγγιση που υποστηρίζει η OpenAI.

«Δεν θα δεχόμουν μια ανταλλαγή που θα έλεγε: “Θα διασφαλίσουμε ότι δεν θα υπάρξουν μεγάλες παραβιάσεις, ότι δεν θα γίνει κατάχρηση αυτής της τεχνολογίας, ότι δεν θα υπάρξει καμία απάτη και κανένα από όλα τα άλλα άσχημα πράγματα που θα συμβούν“», ανέφερε. Ο λόγος, σύμφωνα με τον Αλτμαν, είναι ότι πιστεύει πως οι άνθρωποι θα χρησιμοποιήσουν την τεχνητή νοημοσύνη για «πάρα πολύ περισσότερα καλά πράγματα από ό,τι κακά».

Υπάρχει, πάντως, μια κόκκινη γραμμή. Ο CEO της OpenAI διευκρίνισε αργότερα ότι δεν θεωρεί αποδεκτούς τους «πραγματικά καταστροφικούς κινδύνους», μεταξύ των οποίων και το ενδεχόμενο «σοβαρής απώλειας ελέγχου της AI».

Τι απαντά η Anthropic

Εκπρόσωπος της Anthropic, κληθείς από το Politico να απαντήσει στις δηλώσεις του Αλτμαν, τόνισε ότι οι ρυθμιστικές προτάσεις της εταιρείας «αφορούν μόνο τα μοντέλα αιχμής», δηλαδή τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης. Η εταιρεία παρέπεμψε επίσης σε δημόσια συζήτηση που είχε ο Ντάριο Αμοντέι τον Αύγουστο με διαχειριστή επενδύσεων, στην οποία είχε απαντήσει στις επικρίσεις περί ρυθμιστικής αιχμαλωσίας και για τις πιθανές επιπτώσεις των κανόνων στις μικρότερες εταιρείες.

«Η Anthropic ανέκαθεν διαμόρφωνε τις προτάσεις πολιτικής της πολύ προσεκτικά», είχε πει τότε ο Αμοντέι. Οπως πρόσθεσε, η εταιρεία προσπαθεί να προτείνει μέτρα που «θα επιβραδύνουν τις εταιρείες αιχμής AI, ενώ ταυτόχρονα θα ευνοούν τους μικρότερους ανταγωνιστές».

Η ευρύτερη συζήτηση για την AI

Η συζήτηση επεκτάθηκε και σε άλλα ζητήματα που βρίσκονται στο επίκεντρο της πολιτικής και τεχνολογικής αντιπαράθεσης γύρω από την AI. Μεταξύ αυτών, η νέα συμφωνία του Ντόναλντ Τραμπ με κορυφαίες εταιρείες τεχνολογίας για την τεχνητή νοημοσύνη και η προσπάθειά του να επαναπροσδιορίσει τη συζήτηση γύρω από την «υπερνοημοσύνη».

Ο Αλτμαν ρωτήθηκε ακόμη για τα περιστατικά αυτόνομων κυβερνοεπιθέσεων που πραγματοποιήθηκαν από μοντέλα της OpenAI και για το κατά πόσο η εταιρεία θα πρέπει να φέρει νομική ευθύνη, αλλά και για τα μεγάλα χρηματικά ποσά που διοχετεύει πλέον η βιομηχανία της AI στην αμερικανική πολιτική.

Η συνέντευξη περιλαμβάνει επίσης τις απόψεις του για την επιρροή των λεγόμενων «αποτελεσματικών αλτρουιστών» μέσα στην OpenAI, καθώς και για πολιτικά πρόσωπα όπως ο Γάλλος πρόεδρος Εμανουέλ Μακρόν και ο κυβερνήτης της Καλιφόρνιας Γκάβιν Νιούσομ.

Με πληροφορίες από Politico