Σε σύγκρουση ΗΠΑ-Κίνας παραλίγο να οδηγήσει μία έκθεση πληροφοριών, η οποία διακινήθηκε την άνοιξη στις αμερικανικές ένοπλες δυνάμεις εν μέσω του πολέμου με το Ιράν: κινεζικό πλοίο στη Μέση Ανατολή φερόταν να μεταφέρει εξαρτήματα που σχετίζονταν με πρόγραμμα πυρηνικών όπλων.

Ο αμερικανικός στρατός κινητοποιήθηκε άμεσα και εκπόνησε σχέδια αναχαίτισης του πλοίου, ανέφεραν στο CNN τέσσερις πηγές που γνωρίζουν το περιστατικό. Σύμφωνα με αυτές, στελέχη των αμερικανικών ενόπλων δυνάμεων προετοιμάζονταν να επιβιβαστούν στο σκάφος, ενώ μάλιστα κινητοποιήθηκαν και στρατιωτικά αεροσκάφη.

Οπως αναφέρει το αποκλειστικό δημοσίευμα του αμερικανικού δικτύου, λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν εκ νέου την έκθεση, η οποία είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων, και διαπίστωσαν ότι είχε παραχθεί με τη βοήθεια Τεχνητής Νοημοσύνης (AI). Παράλληλα, διαπιστώθηκε ότι το chatbot που είχε χρησιμοποιηθεί είχε αναγνωρίσει λανθασμένα το υλικό που μετέφερε το πλοίο. Το CNN δεν κατόρθωσε να εξακριβώσει ποιο ήταν το φορτίο που ταυτοποιήθηκε εσφαλμένα.

Η έκθεση ήταν, σύμφωνα με μία από τις πηγές, «εντελώς ψευδής», με την ίδια πηγή να αναφέρει ωστόσο, πως «παραλίγο να προκαλέσει πόλεμο», καθώς οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε ένοπλη αντιπαράθεση μεταξύ των δύο χωρών.

Σε ολόκληρο το φάσμα των αμερικανικών ενόπλων δυνάμεων και της κοινότητας πληροφοριών, οι αρμόδιοι αξιωματούχοι προωθούν την ενσωμάτωση της τεχνητής νοημοσύνης σχεδόν σε κάθε πτυχή της λειτουργίας τους, από την ανάλυση των τεράστιων όγκων πρωτογενών πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για πλήγματα, έως πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών και οι αλυσίδες εφοδιασμού.

Το συγκεκριμένο περιστατικό, ωστόσο, αναδεικνύει τους σοβαρούς κινδύνους που συνεπάγεται η χρήση αυτής της ισχυρής, νέας και ακόμη σχετικά περιορισμένα κατανοητής τεχνολογίας για τη λήψη αποφάσεων εν μέσω πολεμικών επιχειρήσεων. Αναλυτές εκφράζουν εδώ και καιρό ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε καταστροφικούς, λανθασμένους υπολογισμούς, εάν τα κράτη βασίζονται σε εσφαλμένα ή αλλοιωμένα δεδομένα που θα μπορούσαν, όπως σε αυτή την περίπτωση, να οδηγήσουν τις Ηνωμένες Πολιτείες σε επίθεση εναντίον κινεζικού πλοίου.

Εν προκειμένω, ο αναλυτής υπέβαλε ερώτημα σε chatbot σχετικά με πληροφορίες που αφορούσαν το φορτωτικό έγγραφο του πλοίου και προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού των ΗΠΑ (US Special Operations Command Pacific), με έδρα τη Χαβάη. Δεν έχει διευκρινιστεί εάν επρόκειτο για εμπορικά διαθέσιμο chatbot ή για εφαρμογή που είχε αναπτυχθεί από την αμερικανική κυβέρνηση.

«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον αντίγραφα των εμπορικών εφαρμογών με διαφορετικό περιτύλιγμα», δήλωσε πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούν στρατιωτικοί και αναλυτές πληροφοριών.

Το σύστημα συνδύασε πληροφορίες ανοικτών πηγών με απόρρητες πληροφορίες (signals intelligence) που βρίσκονταν στη διάθεση της αμερικανικής κυβέρνησης και κατέληξε στο κρίσιμο –και λανθασμένο– συμπέρασμα σχετικά με το φορτίο του πλοίου.

Εντείνεται η ενσωμάτωση της ΑΙ στις ένοπλες δυνάμεις

Το βασικό επιχείρημα υπέρ της ταχείας υιοθέτησης της τεχνητής νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει ταχύτερα αποφάσεις στο πεδίο της μάχης, όπως για το ποιοι στόχοι θα πληγούν ή πού θα αναπτυχθούν στρατιωτικά μέσα. Αξιωματούχοι υποστηρίζουν ότι οι Ηνωμένες Πολιτείες δεν μπορούν να μείνουν πίσω στην ενσωμάτωση της Tεχνητής Nοημοσύνης, εάν κληθούν κάποια ημέρα να αντιμετωπίσουν στρατιωτικά την Κίνα ή άλλον αντίπαλο που ενδέχεται να αποκτήσει τεχνολογικό πλεονέκτημα.

Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης» του υπουργείου.

«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα αποδείξουμε στην πράξη την προσέγγιση που απαιτείται ώστε να διατηρήσουμε την πρωτοπορία στη στρατιωτική τεχνητή νοημοσύνη», δήλωσε ο Χέγκσεθ κατά την παρουσίαση της στρατηγικής.

Η στρατηγική προβλέπει επίσης την ευρεία διάδοση της τεχνολογίας σε ολόκληρο το υπουργείο Άμυνας.

«Δεν υπάρχει ενιαίο πλαίσιο»

Ωστόσο, σύμφωνα με αρκετούς Αμερικανούς αξιωματούχους που γνωρίζουν το ζήτημα, η προσπάθεια αυτή παραμένει αποκεντρωμένη. Διαφορετικοί φορείς της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία, υπό διαφορετικές οδηγίες και πρότυπα ασφαλείας. Δεν υπάρχει ενιαίο πλαίσιο κανόνων για τον τρόπο επαλήθευσης των πληροφοριών που παράγονται από αυτά τα συστήματα. Ως αποτέλεσμα, η αξιοπιστία και οι δυνατότητές τους διαφέρουν σημαντικά ανάλογα με την υπηρεσία ή τον οργανισμό που τα χρησιμοποιεί.

Το περιστατικό με το κινεζικό πλοίο, μάλιστα, αναδεικνύει και έναν άμεσο κίνδυνο: την πιθανότητα οι άνθρωποι να λαμβάνουν καταστροφικές αποφάσεις βασιζόμενοι σε ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από συστήματα τεχνητής νοημοσύνης ή άλλες αυτοματοποιημένες εφαρμογές.

«Η χρήση της τεχνητής νοημοσύνης στη διαδικασία στόχευσης αυξάνεται σαφώς και δεν υπάρχουν ουσιαστικές κατευθυντήριες γραμμές για το πώς η ανθρώπινη παρέμβαση στη λήψη αποφάσεων θα αποτρέψει απώλειες αμάχων ή πλήγματα κατά φίλιων δυνάμεων», δήλωσε άλλη πηγή που γνωρίζει τις ισχύουσες στρατιωτικές πολιτικές.

Το είδος της «παραισθητικής» παραγωγής περιεχομένου («hallucination») που εμφάνισε το εργαλείο το οποίο χρησιμοποίησε ο αναλυτής στη συγκεκριμένη υπόθεση δεν αποτελεί μεμονωμένο περιστατικό στην κοινότητα πληροφοριών από τότε που τα συγκεκριμένα συστήματα άρχισαν να διαδίδονται ευρέως στις κυβερνητικές υπηρεσίες, σύμφωνα με μία από τις πηγές.

Για ορισμένα παλαιότερα στελέχη των υπηρεσιών πληροφοριών — ακόμη και για εκείνα που υποστηρίζουν γενικά τη χρήση της τεχνητής νοημοσύνης στις ένοπλες δυνάμεις — η AI έχει αυξήσει την πίεση προς τους αναλυτές να παράγουν και να διακινούν πληροφορίες με μεγαλύτερη ταχύτητα, δημιουργώντας περιθώρια για σφάλματα. Ιδιαίτερα οι νεότεροι αναλυτές, ανέφεραν αρκετές πηγές, είναι εξοικειωμένοι με τα συγκεκριμένα εργαλεία και εμφανίζονται περισσότερο διατεθειμένοι να εμπιστεύονται άκριτα τα αποτελέσματά τους.