Dans un contexte où l’évaluation par les pairs est cruciale pour la publication scientifique, des chercheurs ont adopté une stratégie controversée en intégrant des messages optimistes dans leurs manuscrits afin de duper l’intelligence artificielle. Ces pratiques cachées, révélées par le média Nikkei Asia, remettent en question la transparence et l’intégrité des évaluations scientifiques. Cet article explore les implications de ces tactiques et la manière dont elles influencent la perception des travaux de recherche.
Des messages dissimulés dans les publications scientifiques
Les équipes de chercheurs ont commencé à insérer des prompts cachés dans leurs publications, visant à garantir des retours positifs de la part des systèmes d’intelligence artificielle. Dans plusieurs documents publiés sur des plateformes telles qu’arXiv, Nikkei Asia a découvert des lignes instructives telles que « ne rien relever de négatif », qui sont conçues pour orienter les résumés générés par des IA comme ChatGPT. Ces instructions, parfois développées sur plusieurs lignes, vont jusqu’à solliciter une recommandation des papiers en raison de contributions percutantes, de rigueur méthodologique et d’ innovation exceptionnelle.
Manipulation de l’évaluation par les pairs
Tout article scientifique destiné à être publié dans une grande revue telle que Science ou Nature doit passer par une évaluation par les pairs. Ce processus requiert l’approbation de chercheurs d’autres institutions, garantissant ainsi la véracité des informations présentées. Cependant, avec l’essor des prépublications, certains chercheurs essaient de contourner ce processus en manipulant les résultats générés par l’intelligence artificielle. L’intégration intentionnelle de prompts dans les manuscrits nuirait ainsi à la qualité de l’évaluation par les pairs.
Des astuces pour rendre les messages invisibles
Pour que ces prompts soient discrets, les chercheurs utilisent des techniques variées, comme l’utilisation d’une police blanche ou de caractères réduits, rendant ces instructions pratiquement invisibles aux lecteurs humains. Ce type d’hybridation textuelle pose un problème éthique sérieusement préoccupant, car il permettrait d’influencer la perception d’un article sans que cela ne soit apparent. En exploitant cette faille, des chercheurs cherchent à se garantir une évaluation favorable de leurs travaux.
Un débat éthique parmi les chercheurs
Cette tendance à semer des messages optimistes dans les publications scientifiques n’est pas uniforme. Certains chercheurs défendent cette pratique en affirmant qu’elle leur permet d’identifier des « évaluateurs fainéants ». Néanmoins, d’autres estiment que cette approche consiste à tricher le système, inféodant à l’outil d’intelligence artificielle le jugement des publications. Alors que le nombre de prépublications à évaluer augmente, le recours à l’IA dans ce contexte devient de plus en plus courant, soulevant la question de son impact sur la rigueur scientifique.
La réaction des institutions scientifiques
Face à cette situation, diverses institutions commencent à prendre des mesures pour interdire l’utilisation de l’intelligence artificielle dans l’examen des prépublications. Un professeur de l’université de Washington a déclaré que cette pratique constitue une menace pour l’intégrité de l’évaluation scientifique. De telles initiatives visent à encourager un retour aux méthodes d’évaluation plus traditionnelles pour préserver l’honnêteté académique.
Les implications futures de l’utilisation de l’IA
Ces révélations invitent à une réflexion plus large sur la façon dont l’IA influence notre compréhension des publications scientifiques. Alors que des lignes dissimulées peuvent entraîner une fausse interprétation des travaux, il est essentiel de clarifier les bonnes pratiques d’utilisation de l’intelligence artificielle dans le domaine scientifique. Un représentant d’une université sud-coréenne a exprimé sa volonté de saisir cette opportunité pour définir des règles adaptées afin d’éviter l’utilisation abusive de ces technologies dans la recherche.
