Η Αυστραλία ανακοίνωσε ότι ένας AI agent της αμερικανικής εταιρείας OpenAI χάκαρε τον περασμένο Ιούνιο κυβερνητικό πόρταλ το οποίο περιλάμβανε δεδομένα υγείας. Πρόκειται για την πρώτη γνωστή παραβίαση ασφάλειας κυβερνητικής ιστοσελίδας η οποία προέρχεται από την τεχνητή νοημοσύνη.
Ο «πράκτορας» (agent) είναι ένα αυτόνομο πρόγραμμα που χρησιμοποιεί τεχνητή νοημοσύνη για να ολοκληρώσει μια εργασία με ελάχιστη ανθρώπινη επίβλεψη. Στο πλαίσιο αυτό, διαφέρει από ένα τυπικό chatbot που απλώς απαντά σε ερωτήσεις. Εταιρείες όπως η Anthropic, η OpenAI και η Meta έχουν όλες κυκλοφορήσει μοντέλα AI «πρακτόρων».
Ο Αυστραλός πρωθυπουργός, Aντονι Αλμπανέζε δήλωσε ότι ο «πράκτορας» της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση στην πύλη ιατρικών στατιστικών του Medicare, του προγράμματος καθολικής υγειονομικής ασφάλισης της Αυστραλίας, ενώ διεξήγαγε έρευνα σχετικά με τις δημόσιες δαπάνες στον τομέα της υγείας.
«Τα στοιχεία που είναι διαθέσιμα προς το παρόν δείχνουν ότι δεν υπάρχει ευρύτερη παραβίαση. Ωστόσο, η κατάσταση αυτή είναι προφανώς απαράδεκτη», δήλωσε ο Αλμπανέζε από τη Νέα Υόρκη, όπου βρίσκεται για να συμμετάσχει στη Γενική Συνέλευση του ΟΗΕ.
Οι έρευνες συνεχίζονται και η Αυστραλία έχει εκφράσει την «έντονη ανησυχία της για το περιστατικό αυτό» στον διευθύνοντα σύμβουλο της OpenAI, Σαμ Αλτμαν, ανέφερε ο Αλμπανέζε, προσθέτοντας ότι είναι βαθιά απογοητευμένος από την καθυστέρηση της εταιρείας να ενημερώσει την κυβέρνηση της χώρας του.
«Χρειάστηκε να φτάσουμε στις 10 Σεπτεμβρίου για να λάβουμε ενημέρωση», είπε ο Αλμπανέζε, και πρόσθεσε ότι η έρευνα θα εξετάσει επίσης τους λόγους για τους οποίους τα κυβερνητικά συστήματα δεν κατάφεραν να εντοπίσουν την παραβίαση εξαρχής.
Προειδοποίησε επίσης ότι τρεις ακόμη κυβερνητικοί ιστότοποι που σχετίζονται με την υγεία ενδέχεται να έχουν επηρεαστεί από τη δραστηριότητα του «πράκτορα» της OpenAI, χωρίς όμως να επιβεβαιώσει ότι αυτό συνέβη.
Σε δήλωσή της, η OpenAI ανέφερε ότι «η έρευνά της δεν εντόπισε στοιχεία που να υποδηλώνουν πρόσβαση σε ιατρικά αρχεία ασθενών». Η εταιρεία πρόσθεσε ότι «εντόπισε δραστηριότητα που αφορούσε διάφορους ιστότοπους και υπηρεσίες της αυστραλιανής κυβέρνησης, καθώς τα μοντέλα μας προσπάθησαν να αναζητήσουν απαντήσεις». «Τα μοντέλα μας προέβησαν σε ενέργειες που δεν ήταν στην πρόθεσή μας», παραδέχθηκε η εταιρεία.
Η αυστραλιανή κυβέρνηση έχει συγκροτήσει μια ειδική ομάδα για να διερευνήσει την παραβίαση και να ελέγξει εάν η υφιστάμενη ασφάλεια του δικτύου είναι επαρκής για την πρόληψη παρόμοιων περιστατικών.
Με πληροφορίες από Reuters, BBC
