Οι γαλλικές αρχές ξεκινούν έρευνα για τη μαζική παραγωγή και τη διάδοση σεξουαλικών deepfakes που δημιουργήθηκαν από το σύστημα τεχνητής νοημοσύνης Grok στην πλατφόρμα X, όπως ανακοίνωσε το γραφείο του εισαγγελέα του Παρισιού.
Οι βουλευτές Αρτούρ Ντελαπόρ και Ερίκ Μποτορέλ προσέφυγαν στις εισαγγελικές αρχές, έπειτα από χιλιάδες καταγγελίες ότι μη συναινετικά σεξουαλικά μοντάζ δημιουργήθηκαν από το Grok και δημοσιεύτηκαν στο X.
Το γραφείο του εισαγγελέα επιβεβαίωσε ότι «τα περιστατικά αυτά προστέθηκαν στην υφιστάμενη έρευνα για το X», διευκρινίζοντας ότι το αδίκημα τιμωρείται με ποινή φυλάκισης έως δύο έτη και πρόστιμο 60.000 ευρώ.
Τις τελευταίες δύο ημέρες, εκατοντάδες γυναίκες και έφηβες ανέφεραν ότι σε φωτογραφίες τους που είχαν αναρτήσει στα κοινωνικά δίκτυα «γδύθηκαν» ψηφιακά από το Grok, έπειτα από σχετικές εντολές χρηστών.
Οπως σημειώνει ο Ντελαπόρ σε επιστολή του προς τον εισαγγελέα, τα φωτομοντάζ «παραβιάζουν την αξιοπρέπεια των προσώπων που απεικονίζονται».
Το γαλλικό υπουργείο Ψηφιακών Υποθέσεων ανέφερε ότι τρεις υπουργοί –ο Ρολάν Λεσκίρ, υπουργός Οικονομίας και Βιομηχανίας, η Αν Λε Ενάνφ, υφυπουργός για την Τεχνητή Νοημοσύνη και τις Ψηφιακές Υποθέσεις και η Αρόρ Μπερζέ, υπουργός Ισότητας– κατήγγειλαν «προδήλως παράνομο περιεχόμενο» τόσο στον εισαγγελέα όσο και στην κυβερνητική πλατφόρμα διαδικτυακής επιτήρησης Pharos, ζητώντας την άμεση αφαίρεσή του.
Η ανώτατη επίτροπος της Γαλλίας για τα Δικαιώματα του Παιδιού, Σαρά ελ Αϊρί, δήλωσε «εξοργισμένη» από τις πρακτικές αυτές.
Η νέα υπόθεση ενισχύει την ήδη ανοιχτή έρευνα της γαλλικής υπηρεσίας κυβερνοεγκλήματος κατά του X, η οποία τον Νοέμβριο είχε επεκταθεί ώστε να περιλάβει και διασπορά αντισημιτικών και αρνητικών του Ολοκαυτώματος δηλώσεων που αποδίδονται στο Grok.
Η πλατφόρμα X δεν απάντησε σε σχετικό αίτημα σχολιασμού.
Το Grok, σε σχετική ανάρτηση, παραδέχθηκε ότι υπήρξαν «μεμονωμένες περιπτώσεις» στις οποίες χρήστες έλαβαν εικόνες ανηλίκων με ελάχιστο ρουχισμό, προσθέτοντας ότι «υπάρχουν μηχανισμοί ασφαλείας, αλλά βρίσκονται σε εξέλιξη βελτιώσεις ώστε να αποκλειστούν πλήρως τέτοια αιτήματα».
Πηγή: The Politico
