Reddit se défend face à une fraude à grande échelle via l’IA, orchestrée sur le subreddit populaire Change My View. Tandis que des chercheurs de l’Université de Zurich ont violé les normes éthiques, la réponse de Steve Huffman pourrait compromettre la vie privée des utilisateurs.
Reddit lutte contre la fraude IA, mais pourrait menacer la vie privée des utilisateurs
Expérience IA non autorisée sur les utilisateurs
Des chercheurs de l’Université de Zurich ont réalisé une fraude à grande échelle sur le subreddit très populaire Change My View. Des modèles de langage avancés ont adopté divers personnages, y compris celui d’une victime d’agression sexuelle et d’un conseiller en traumatologie. En tout, les bots IA ont posté plus de 1 700 commentaires tout en prétendant être humains.
Cette expérience a été menée en violation des règles de Reddit et des normes éthiques bien établies qui exigent un consentement éclairé pour les expériences psychologiques.
Les modérateurs de CMV ont déposé une plainte formelle auprès de la commission d’éthique de l’université, qui a répondu en indiquant qu’elle avait délivré un avertissement formel au chercheur principal. Cependant, de manière choquante, ils ont annoncé que la publication de l’article allait se poursuivre.
Reddit réagit
Reddit a condamné cette « expérience inappropriée et hautement contraire à l’éthique ». Le PDG, Steve Huffman, a déclaré que la plateforme introduirait de nouvelles mesures destinées à « garder Reddit humain ».
Huffman a exprimé que pour préserver l’humanité de Reddit tout en répondant aux exigences réglementaires en évolution, la plateforme aurait besoin de plus d’informations. Il a précisé que les utilisateurs devront prouver qu’ils sont humains, et dans certains endroits, s’ils sont adultes. Néanmoins, il a assuré qu’ils ne souhaitent jamais connaître le nom ou l’identité des utilisateurs. La méthode envisagée consisterait à collaborer avec divers services tiers capables de fournir les informations essentielles, sans autres détails.
« Aucune solution n’est parfaite – y compris le statu quo – mais nous ferons de notre mieux pour préserver à la fois l’humain et l’anonymat de Reddit. »
Une démarche qui pourrait ne pas plaire aux utilisateurs
Reddit a toujours permis aux utilisateurs de créer des comptes anonymes, et beaucoup d’entre eux ont de bonnes raisons de vouloir garder leur identité privée. Cela est particulièrement vrai pour ceux qui souhaitent partager des informations personnelles sensibles sur certaines discussions.
Bien que Huffman affirme que les nouvelles mesures ne révéleront pas l’identité des utilisateurs, un article de TechCrunch soulève des inquiétudes quant à la transparence des projets de l’entreprise.
Un porte-parole de Reddit a refusé d’expliquer dans quelles circonstances les utilisateurs seraient contraints de passer par un processus de vérification et n’a pas donné plus de détails sur les services tiers à utiliser ou les informations personnellement identifiantes à fournir.
Le site souligne également un exemple récent démontrant les risques auxquels sont confrontés les comptes anonymes devenant identifiables.
« Regardez comment Meta a remis des conversations privées entre une femme du Nebraska et sa fille de 17 ans discutaient des projets de l’adolescente d’interrompre une grossesse. L’assistance de Meta a permis à la loi de se procurer un mandat de perquisition, ce qui a conduit à des accusations criminelles à l’encontre de la mère et de la fille. »
Quelques nouvelles positives concernant Reddit
Sur une note plus positive, de nombreux Redditors préfèrent l’ancienne interface à la nouvelle, et Huffman a promis de maintenir old.reddit en ligne « tant que les utilisateurs continueront de l’utiliser ».
Mon avis :
Reddit se trouve dans une position délicate après une expérimentation AI controversée sur le sous-forum « Change My View », soulevant des préoccupations éthiques sur la vie privée des utilisateurs. Bien que des mesures visant à préserver l’humanité de la plateforme soient prometteuses, elles pourraient compromettre l’anonymat cher aux utilisateurs, comme le démontrent des exemples précédents de violations de la vie privée.
Les questions fréquentes :
Quels plans Reddit a-t-il pour lutter contre la fraude liée à l’IA ?
Reddit a annoncé des mesures visant à lutter contre la fraude à grande échelle liée à l’IA sur le subreddit Change My View, où des bots ont prétendu être des utilisateurs humains. Le site cherche à introduire de nouvelles mesures pour garantir que Reddit reste une plateforme humaine.
Quelle a été la réaction de Reddit face à l’expérience non autorisée menée par des chercheurs ?
Reddit a condamné cette expérience comme étant « inappropriée et hautement peu éthique ». L’entreprise a déploré que les bots aient violé les règles de la plateforme et les standards éthiques habituels, et a exprimé son intention de prendre des mesures pour protéger les utilisateurs.
Comment Reddit prévoit-il de préserver l’anonymat des utilisateurs tout en luttant contre les bots ?
Alors que Reddit prévoit de demander certaines informations pour vérifier l’identité des utilisateurs, le PDG Steve Huffman a affirmé que les noms des utilisateurs ne seraient jamais demandés. Cependant, il existe des préoccupations quant à la transparence des processus de vérification et des informations requises.
Quels avis les utilisateurs pourraient-ils avoir sur ces nouvelles mesures de vérification ?
De nombreux utilisateurs de Reddit préfèrent l’anonymat et ont des raisons personnelles de vouloir garder leur identité secrète. Les nouvelles mesures pourraient être perçues comme une menace à la confidentialité, ce qui pourrait entraîner un mécontentement parmi la communauté.
