H OpenAI μπλόκαρε λογαριασμούς που συνδέονταν με κινεζικό εργαλείο παρακολούθησης 

Η OpenAi έκλεισε πρόσφατα αρκετούς λογαριασμούς που χρησιμοποιούσαν το ChatGPT για να γράψουν κώδικα εντοπισμού για λογαριασμό ενός ύποπτου εργαλείου παρακολούθησης που φαίνεται να έχει τις «ρίζες» του στην Κίνα, στο πλαίσιο της προσπάθειας που καταβάλει η startup τεχνητής νοημοσύνης να περιορίσει την κακόβουλη χρήση των ισχυρών AI μοντέλων της.

Σύμφωνα με έκθεση που εκπόνησε η εταιρεία και έδωσε στη δημοσιότητα την Παρασκευή, οι συγκεκριμένοι λογαριασμοί χρησιμοποιούσαν το ChatGPT για να διαφημίσουν έναν υποτιθέμενο βοηθό τεχνητής νοημοσύνης που ήταν ικανός να συλλέγει δεδομένα και επικριτικές αναφορές σε πραγματικό χρόνο για την Κίνα στις ΗΠΑ, το Ηνωμένο Βασίλειο και άλλες χώρες της Δύσης. Αυτές οι πληροφορίες θα διαβιβάζονταν στη συνέχεια στις κινεζικές αρχές, σύμφωνα με την εταιρεία. 

Τα ευρήματα ενέτειναν τις ανησυχίες στις ΗΠΑ σχετικά με τη χρήση αμερικανικής τεχνολογίας από την Κίνα για την προώθηση των συμφερόντων του Πεκίνου. «Πρόκειται για μια ανησυχητική ένδειξη για το πώς μια μη δημοκρατική οντότητα προσπαθεί να χρησιμοποιήσει δημοκρατικής φύσεως ή αμερικανική τεχνητή νοημοσύνη για μη δημοκρατικούς σκοπούς, σύμφωνα με υλικό που παρήγαγαν οι ίδιοι», σημείωσε ο Ben Nimmo, επικεφαλής ερευνητής του τμήματος πληροφοριών και ερευνών της OpenAI, κατά τη διάρκεια συνέντευξης Τύπου την Πέμπτη.

Όπως πρόσθεσε ο Nimmo, η OpenAI κάνοντας γνωστές τέτοιες περιπτώσεις έχει στόχο να ρίξει φως στο πώς «αυταρχικά καθεστώτα μπορεί να προσπαθήσουν να εκμεταλλευτούν την τεχνητή νοημοσύνη που αναπτύσσουν οι ΗΠΑ, δημοκρατική ΑΙ, εναντίον των ΗΠΑ και συμμαχικών χωρών, καθώς και εναντίον των δικών τους ανθρώπων».

Η OpenAI ανέφερε ότι οι επίμαχοι λογαριασμοί χρησιμοποιούσαν άλλα εργαλεία ΑΙ για να γράψουν τον κώδικά τους, όπως μια έκδοση του Llama, του μοντέλου ανοιχτού κώδικα που ανέπτυξε η Meta Platforms. Η Meta, σε ανακοίνωσή της, ανέφερε ότι εάν εμπλέκεται δικό της εργαλείο, είναι πιθανό να είναι ένα από τα εργαλεία που είναι ευρέως διαθέσιμα στους χρήστες, όπως τα AI μοντέλα που αναπτύσσονται στην Κίνα. 

Η OpenAI δεν μπόρεσε να επαληθεύσει ανεξάρτητα το λογισμικό, που ονομάζεται “Qianyue Overseas Public Opinion AI Assistant”, ωστόσο σημειώνει πως έχει πρόσβαση στο υποτιθέμενο προωθητικό κείμενο του βοηθού τεχνητής νοημοσύνης. 

Σύμφωνα με αυτό, σκοπός του λογισμικού «κοινωνικής ακρόασης» ήταν να στέλνει αναφορές παρακολούθησης στις κινεζικές αρχές, σε υπηρεσίες πληροφοριών και προσωπικό των κινεζικών πρεσβειών. Το λογιστικό φαίνεται πως επικεντρωνόταν στον εντοπισμό διαδικτυακών συνομιλιών σε χώρες της Δύσης, από πλατφόρμες κοινωνικής δικτύωσης όπως το Χ, το Facebook και το Instagram, για διαμαρτυρίες που σχετίζονται με τα ανθρώπινα δικαιώματα στην Κίνα.

Η εταιρεία στην ανακοίνωσή της επισημαίνει ότι η χρήση των εργαλείων ΑΙ της για παρακολούθηση επικοινωνιών ή μη εξουσιοδοτημένη παρακολούθηση ανθρώπων «για λογαριασμό κυβερνήσεων και αυταρχικών καθεστώτων που επιδιώκουν την καταστολή των προσωπικών ελευθεριών και δικαιωμάτων» αντιβαίνει των πολιτικών της.

Τους τελευταίους μήνες, μάλιστα, η OpenAI έχει προχωρήσει σε αρκετές προειδοποιήσεις προς πολιτικούς στις ΗΠΑ για την αυξανόμενη -όπως λέει- οικονομική απειλή και την απειλή για την εθνική ασφάλεια που εγείρει η κινεζική τεχνητή νοημοσύνη, ιδιαίτερα στον απόηχο των εκπληκτικά ανταγωνιστικών μοντέλων AI που παρουσίασε η κινεζική startup DeepSeek. 

Ορισμένα αμερικανικά «γεράκια» για την Κίνα επέκριναν τη Meta για τη διάθεση ανοιχτού κώδικα εργαλείων τεχνητής νοημοσύνης, τονίζοντας ότι δίνει τη δυνατότητα στις κινεζικές εταιρείες τεχνητής νοημοσύνης να επωφεληθούν και να σημειώσουν πρόοδο στην ανάπτυξη δικών τους μοντέλων. 

Στην έκθεσή της, η OpenAI αναφέρει επίσης πολλά άλλα παραδείγματα λογαριασμών που απαγόρευσε λόγω κακής χρήσης των εργαλείων της – συμπεριλαμβανομένων λογαριασμών που συνδέονται με ενέργειες επιρροής από το Ιράν και οι οποίοι χρησιμοποιούσαν το ChatGPT για τη δημιουργία αναρτήσεων και άρθρων στα μέσα κοινωνικής δικτύωσης, καθώς και λογαριασμούς που πιθανότατα δυνδέονται με την Κίνα και οι οποίοι δημιουργούσαν άρθρα στην ισπανική γλώσσα με επικριτικές αναφορές για την κυβέρνηση των ΗΠΑ.

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.