OpenAI a découvert que la Chine utilise discrètement ChatGPT pour générer des messages de propagande sur les réseaux sociaux, ciblant des plateformes comme Reddit, TikTok et Facebook. Cette opération a également impliqué des activités de surveillance numérique, exposant un nouveau paysage d’influence et de stratégie médiatique.
Utilisation clandestine de ChatGPT par la Chine pour des publications de propagande sur les réseaux sociaux
OpenAI a découvert des preuves indiquant que la Chine utilise secrètement ChatGPT pour générer des publications de propagande sur divers réseaux sociaux et pour mener des actions de surveillance numérique. Parmi les plateformes ciblées, on note Reddit, TikTok, Facebook et X.
Opérations détectées
L’entreprise d’IA a déclaré avoir bloqué dix de ces opérations, dont quatre proviennent probablement de Chine. D’autres pays soupçonnés d’abuser de ce service de manière similaire incluent Russie, Iran et Corée du Nord. Selon un rapport de NPR, le chatbot a été utilisé non seulement pour créer des publications originales, mais aussi pour favoriser l’engagement entourant celles-ci. Dans une tournure ironique, les acteurs de cette opération ont également utilisé ChatGPT pour rédiger leurs propres évaluations de performance concernant l’utilisation abusive de l’outil.
Détails des activités de propagande
Des propagandistes chinois exploitent ChatGPT pour rédiger des publications et des commentaires sur les réseaux sociaux, ainsi que pour créer des évaluations de performance détaillant ce travail pour leurs supérieurs. Selon Ben Nimmo, enquêteur principal de l’équipe d’intelligence et d’enquêtes d’OpenAI, "ce que nous observons de la part de la Chine est une gamme croissante d’opérations secrètes utilisant une diversité de tactiques."
Une opération chinoise, surnommée “Sneer Review,” utilisait ChatGPT pour générer de courts commentaires postés sur des sites comme TikTok, X, Reddit, Facebook, et d’autres, en anglais, chinois et ourdou. Les sujets abordés comprenaient la démolition par l’administration Trump de l’Agence des États-Unis pour le développement international, avec des publications louant et critiquant cette décision, ainsi que des critiques d’un jeu taïwanais où les joueurs combattent le Parti communiste chinois. Dans de nombreux cas, l’opération générait non seulement un post, mais aussi des commentaires visant à y répondre.
Révélations des évaluations de performance
Ironiquement, les évaluations de performance générées par l’IA fournissaient des aperçus sur les opérations. Les acteurs derrière Sneer Review ont également utilisé les outils d’OpenAI pour effectuer un travail interne. Cela incluait la création d’une "évaluation de performance décrivant, en détail, les étapes prises pour établir et gérer l’opération."
OpenAI a observé que les comportements sur les réseaux sociaux correspondaient étroitement aux procédures décrites dans cette évaluation.
Opérations supplémentaires de collecte de renseignements
Un autre aspect de ces activités impliquait l’utilisation de ChatGPT pour rédiger des courriels destinés à des journalistes, analystes et hommes politiques, semblant s’inscrire dans une opération de collecte de renseignements. Les objectifs de ces envois étaient probablement de recueillir des informations sensibles ou d’influencer des opinions publiques.
La situation actuelle met en lumière l’utilisation croissante des technologies d’intelligence artificielle, non seulement comme des outils d’assistance, mais aussi comme des moyens de manipulation et de contrôle de l’information. Le recours à des outils comme ChatGPT par des entités étatiques pour des buts de propagande signale une évolution préoccupante dans la manière dont les gouvernements peuvent exploiter la technologie pour influencer la perception publique.
Les implications éthiques et sociales de l’utilisation de tels outils pour la propagande posent aussi des questions sur l’avenir de la liberté d’expression et la désinformation sur Internet. Ces opérations devraient inciter les acteurs du numérique et les gouvernements à réévaluer les pratiques concernant la régulation des contenus générés par l’intelligence artificielle sur les plateformes en ligne.
Il est essentiel que des mesures soient prises pour prévenir les abus et s’assurer que la technologie reste un outil au service de l’humanité, plutôt qu’un instrument de manipulation. La surveillance de l’utilisation de l’IA dans des contextes de manipulation et de propagande contribuera à préserver l’intégrité des espaces publics en ligne.
Mon avis :
La révélation d’OpenAI sur l’utilisation de ChatGPT par la Chine pour des opérations de propagande soulève des préoccupations majeures quant à l’éthique de l’intelligence artificielle. Bien que cette technologie offre des possibilités innovantes de communication, son détournement pour des fins manipulatrices souligne la nécessité d’une régulation stricte et d’une vigilance accrue envers les actes malveillants sur les plateformes sociales.
Les questions fréquentes :
Pourquoi OpenAI a-t-il Blocé certaines opérations en Chine ?
OpenAI a découvert que des acteurs chinois utilisaient ChatGPT pour créer des publications de propagande sur les médias sociaux et mener des activités de surveillance numérique. Ils ont bloqué dix de ces opérations, dont quatre provenant probablement de Chine.
Quel type de contenu a été généré avec ChatGPT ?
Les propagandistes chinois ont utilisé ChatGPT pour rédiger des messages et des commentaires sur des plateformes telles que TikTok, Reddit et Facebook. Les sujets variaient de la critique de l’administration Trump à des attaques contre des jeux taïwanais, favorisant ainsi un discours de propagande ciblé.
Comment les opérations de propagande ont-elles été mises en lumière ?
OpenAI a observé que les acteurs de ces opérations ont également utilisé ChatGPT pour générer des évaluations de performance décrivant leurs activités. Ces rapports fournissaient des aperçus précieux sur les méthodes employées, y compris la rédaction de courriels destinés à des journalistes et des politiciens.
Quelles autres nations sont suspectées d’abuser de ChatGPT ?
En plus de la Chine, OpenAI a signalé d’autres pays, tels que la Russie, l’Iran et la Corée du Nord, soupçonnés d’utiliser le service de manière abusive pour des opérations similaires sur les médias sociaux.
