ChatGPT corrompt-il l’évaluation par les pairs ? Des mots révélateurs suggèrent l’utilisation de l’IA

Découverte des Mains Invisibles : L'Ascension de l'IA dans le Processus de Révisions par les Pairs

Dans le paysage en évolution rapide de l'édition scientifique, une tendance nouvelle et troublante est apparue - le potentiel d'infiltration d'outils d'intelligence artificielle (IA), tels que ChatGPT, dans le processus sacré des révisions par les pairs. Une étude récente, publiée sur le serveur de préimpression arXiv, a mis en lumière ce problème émergent, révélant les signes révélateurs d'une révision par les pairs assistée par l'IA.

L'étude, dirigée par Weixin Liang, un informaticien à l'Université de Stanford, s'est plongée dans les rapports de révision par les pairs de quatre grandes conférences en informatique. En analysant l'utilisation d'adjectifs, les chercheurs ont découvert un schéma inquiétant : la fréquence de certains adjectifs positifs, notamment "commendable", "innovant", "méthodique" et "ingénieux", avait considérablement augmenté depuis l'adoption généralisée de ChatGPT.

Cette constatation suggère que les chercheurs peuvent avoir recours à des outils d'IA pour aider au processus de révision par les pairs, potentiellement générant ou modifiant des rapports de révision de manière à compromettre l'intégrité du processus scientifique. Les auteurs notent que les révisions avec des notes plus faibles et celles soumises plus proches des délais étaient plus susceptibles d'afficher ces marqueurs linguistiques associés à l'IA, laissant entendre l'attrait de ces technologies pour gagner du temps.

"Il semble que lorsque les gens manquent de temps, ils ont tendance à utiliser ChatGPT", observe Liang, soulignant le potentiel de cette pratique de devenir une béquille plutôt qu'un complément au discours universitaire authentique.

Les implications de cette révélation vont bien au-delà des frontières de l'informatique. Andrew Gray, un bibliométrique officiant à l'University College London, a mené une analyse complémentaire, estimant que les auteurs de plus de 60 000 articles savants publiés en 2023 - seulement 1% du total - auraient pu utiliser des robots conversationnels dans une certaine mesure.

Cela soulève des questions profondes sur la transparence et la responsabilité du processus de révision par les pairs. Selon Debora Weber-Wulff, une informaticienne à la HTW Berlin–Université des sciences appliquées en Allemagne, "La révision par les pairs a été corrompue par les systèmes d'IA". L'utilisation de robots conversationnels dans ce contexte ne remet pas seulement en cause le principe fondamental de l'évaluation rigoureuse et axée sur l'humain, mais soulève également des préoccupations concernant d'éventuelles violations de droit d'auteur et la transférabilité de ces méthodes de détection vers des langues non anglaises.

Les conclusions de l'étude ont déclenché une conversation cruciale sur l'évolution de la relation entre l'IA et les garants de la crédibilité scientifique. Bien que les auteurs s'abstiennent de porter un jugement sur l'éthique de cette pratique, ils soulignent la nécessité d'une plus grande transparence et d'une meilleure compréhension de la manière dont ces technologies sont employées dans le processus de révision par les pairs.

Tandis que la communauté scientifique s'attelle aux implications de cette découverte, la responsabilité incombe aux éditeurs, aux organisateurs de conférences et aux chercheurs de relever ce défi de front. L'intégrité du processus de révision par les pairs, socle de la progression scientifique, est en jeu, et trouver un cheminement qui préserve la touche humaine tout en exploitant de manière responsable les capacités de l'IA sera un défi déterminant des années à venir.

Source : <https://www.nature.com/articles/d41586-024-01051-2>

Comments

Popular posts from this blog

Apprendre les langues étrangères : Outils modernes et potentiel du ChatGPT

ChatGPT-4 reproduit l'animation GapMinder en une seule tentative

GPT-4 vs GPT-3.5 - Dévoiler l'avenir des modèles de langage de l'IA