Revue par les pairs assistée par IA : défis, risques éthiques et possibilités futures

Revue par les pairs assistée par l'IA : défis, risques éthiques et perspectives futures

Introduction

Le processus de revue par les pairs est une pierre angulaire de la publication académique. Avant que la recherche ne soit diffusée à la communauté élargie, elle est examinée par des experts qui évaluent sa rigueur, son originalité et son importance. En théorie, la revue par les pairs protège les lecteurs contre des affirmations inexactes ou trompeuses et garantit que les résultats de recherche entrent dans le corpus scientifique uniquement après une évaluation minutieuse.

En pratique, cependant, la revue par les pairs traditionnelle est soumise à une forte pression. Le volume des soumissions aux revues continue de croître, tandis que le nombre d'évaluateurs volontaires peine à suivre le rythme. Les éditeurs rencontrent des retards, une qualité d'évaluation incohérente, la fatigue des évaluateurs et des biais inconscients. Certains manuscrits reçoivent des commentaires détaillés et réfléchis ; d'autres sont évalués rapidement, de manière inégale, voire pas du tout. Cela a poussé les revues et les éditeurs à expérimenter de nouveaux outils et flux de travail—en particulier ceux basés sur l'intelligence artificielle (IA).

La revue par les pairs assistée par l'IA promet d'atténuer certaines de ces pressions. Les systèmes d'IA peuvent aider à détecter le plagiat et les problèmes éthiques dans les manuscrits, vérifier la mise en forme et les références, identifier des évaluateurs appropriés et mettre en évidence d'éventuelles préoccupations méthodologiques. Lorsqu'ils sont utilisés de manière responsable, ces outils peuvent rationaliser les flux de travail et libérer les évaluateurs humains pour qu'ils se concentrent sur le contenu scientifique d'un article.

Pourtant, l'intégration de l'IA dans la revue par les pairs n'est pas sans risque. Les modèles d'IA reflètent les données sur lesquelles ils sont entraînés ; ils peuvent mal comprendre le contexte, mal classifier les travaux innovants ou intégrer des biais systémiques préexistants. Ils soulèvent également des questions autour de la confidentialité des données, de la transparence et de la responsabilité. Cet article explore les principaux défis, risques éthiques et possibilités futures de la revue par les pairs assistée par IA et offre des conseils pratiques sur la manière dont les revues et les chercheurs peuvent exploiter l'IA sans compromettre l'intégrité de l'évaluation scientifique.

Que signifie la revue par les pairs assistée par IA ?

La revue par les pairs assistée par IA ne désigne pas une technologie unique mais plutôt un large écosystème d'outils qui soutiennent les tâches éditoriales et d'évaluation. Ceux-ci peuvent inclure :

• Outils de détection de similarité et de plagiat qui comparent les manuscrits à de grands corpus de textes.
• Outils de langue et de lisibilité qui signalent les passages peu clairs ou grammaticalement problématiques.
• Outils de dépistage automatisés qui vérifient le respect des directives des revues, des limites de mots et des normes de rapport de base.
• Systèmes d'appariement des évaluateurs qui utilisent les données de publication et de citation pour identifier des experts appropriés.
• Tableaux de bord d'aide à la décision qui résument les indicateurs clés pour les éditeurs (par exemple, scores de similarité, exhaustivité des rapports ou anomalies statistiques).

À l'extrémité plus expérimentale du spectre, certains développeurs explorent des outils offrant une critique automatisée des méthodes, de la nouveauté ou de l'impact. Ces systèmes en sont encore à leurs débuts et soulèvent certaines des préoccupations les plus profondes concernant le rôle de l'IA dans l'évaluation scientifique.

Il est crucial de noter que la revue par les pairs assistée par IA est conçue pour être un soutien plutôt que totalement automatisée : l'objectif est d'aider les évaluateurs et les éditeurs humains à travailler plus efficacement et de manière plus cohérente, et non de remplacer entièrement leur jugement expert. Les sections suivantes examinent où cette promesse entre en conflit avec les limites du monde réel.

Principaux défis de la revue par les pairs assistée par IA

Bien que l'IA apporte des avantages évidents en termes de rapidité et d'échelle, ses limites deviennent apparentes lorsqu'on lui demande de reproduire ou de remplacer la compréhension nuancée des chercheurs expérimentés.

1. Compréhension contextuelle et théorique limitée

Les modèles d'IA sont fondamentalement des systèmes de reconnaissance de motifs. Ils peuvent analyser la structure, la cohérence de surface et la similarité lexicale, mais ont du mal avec la compréhension conceptuelle profonde. En revue par les pairs, cela entraîne plusieurs risques :

• L'IA peut ne pas reconnaître les idées véritablement innovantes qui ne ressemblent pas aux schémas présents dans ses données d'entraînement.
• Ils ne peuvent pas évaluer de manière autonome la contribution théorique ou l'originalité conceptuelle d'une étude.
• Même les modèles avancés manquent de l'intuition spécifique au domaine et des connaissances tacites que les chercheurs seniors développent au fil des années.

En conséquence, l'IA est plus fiable pour les tâches superficielles — telles que les vérifications de format et l'analyse de texte basique — plutôt que pour les jugements scientifiques plus profonds qui déterminent si un manuscrit fait réellement progresser un domaine.

2. Faux positifs et mauvaises interprétations dans la détection du plagiat

Les outils de similarité alimentés par l'IA sont désormais standard dans de nombreuses revues, mais leurs résultats peuvent être facilement mal utilisés. Ces systèmes signalent souvent :

• Des phrases standardisées, des descriptions de méthodes et des déclarations éthiques qui apparaissent dans de nombreux articles.
• Des passages correctement cités qui correspondent étroitement à la formulation originale.
• La réutilisation par l'auteur de son propre texte précédemment publié, ce qui peut être acceptable si cela est reconnu de manière transparente.

Une dépendance excessive aux scores bruts de similarité peut conduire à une méfiance injustifiée voire un rejet d'un travail légitime. De plus, l'IA a parfois du mal à distinguer entre un paraphrasage acceptable et un plagiat intentionnel, surtout dans les domaines techniques où les façons de décrire certaines procédures sont limitées. Les auteurs non natifs anglophones peuvent aussi faire face à une surveillance disproportionnée, car les outils d'IA sont plus sensibles aux chevauchements mineurs lorsque les rédacteurs utilisent des formulations courantes.

3. Biais algorithmique et iniquité

Les systèmes d'IA apprennent à partir de jeux de données qui reflètent les pratiques existantes dans la publication scientifique. Ces jeux de données peuvent déjà être biaisés en faveur de certains :

• Institutions (par exemple, universités très bien classées),
• Régions ou pays,
• Langues (le plus souvent l'anglais), et
• Groupes démographiques au sein de la communauté de recherche.

Si ces biais ne sont pas identifiés et corrigés, les outils d'IA peuvent reproduire et même amplifier les inégalités. Par exemple, les algorithmes d'appariement des évaluateurs peuvent systématiquement favoriser les chercheurs établis issus d'institutions renommées, réduisant les opportunités pour les chercheurs en début de carrière ou les évaluateurs de régions sous-représentées. La prédiction d'impact basée sur l'IA peut de même prioriser les sujets déjà très cités, rendant plus difficile la visibilité des domaines émergents ou interdisciplinaires.

4. Saper le jugement humain et le dialogue

Les outils d'IA sont conçus pour aider, mais il existe un réel danger que les évaluateurs et les éditeurs fassent trop confiance aux résultats automatisés. Lorsque l'IA fournit des scores numériques ou des indicateurs « feu tricolore », les humains peuvent les accepter au pied de la lettre plutôt que de s'engager profondément avec le manuscrit.

Cela peut conduire à :

• Une engagement critique réduit avec les méthodes, les données et l'interprétation.
• Moins de débat intellectuel et moins de désaccords constructifs entre les évaluateurs.
• Des décisions qui reposent excessivement sur des indicateurs simplifiés au lieu d'un raisonnement attentif basé sur le texte.

L'évaluation par les pairs est plus qu'une vérification technique ; c'est une forme de conversation savante. Une automatisation excessive risque de vider cette conversation de son sens et de transformer l'évaluation en un exercice mécanique de contrôle.

5. Risques liés à la confidentialité des données

L'évaluation par les pairs repose sur une stricte confidentialité. Les manuscrits partagent des données non publiées, des méthodes inédites et une propriété intellectuelle sensible. Intégrer l'IA dans cet écosystème soulève des questions urgentes :

• Où les manuscrits sont-ils stockés lorsqu'ils sont traités par des outils d'IA ?
• Les textes ou rapports d'évaluation sont-ils utilisés pour entraîner des modèles d'IA externes sans consentement ?
• Quelles mesures de protection sont en place pour prévenir les fuites de données ou accès non autorisés ?

Les revues doivent s'assurer que tous les outils d'IA qu'elles utilisent respectent des normes robustes de protection des données et que les auteurs et évaluateurs comprennent comment leurs informations sont traitées.

6. Détection des soumissions générées ou fortement assistées par l'IA

À mesure que les outils d'IA générative deviennent plus performants, certains manuscrits peuvent être en grande partie ou même entièrement rédigés par machine. Ces textes peuvent passer les contrôles de plagiat car ils ne sont pas copiés directement de sources existantes. Cependant, ils peuvent contenir :

• Des références fabriquées qui n'existent pas ou déforment la littérature.
• Des explications inexactes ou trop simplifiées de concepts théoriques.
• Un langage artificiellement fluide qui masque un raisonnement faible ou des données manquantes.

Distinguer entre une écriture légitimement assistée et un contenu généré par IA de manière trompeuse nécessite de nouveaux outils de détection, des politiques claires des revues et une vigilance accrue des évaluateurs et éditeurs. Cela souligne également la valeur d'une relecture humaine de haute qualité avant la soumission pour garantir que la langue est soignée tout en reflétant de manière transparente une recherche authentique.

Risques éthiques dans l'évaluation par les pairs assistée par l'IA

Au-delà des défis techniques, l'évaluation par les pairs assistée par l'IA soulève des questions plus profondes sur la responsabilité, la transparence et l'équité.

1. Prise de décision opaque et explicabilité

Beaucoup de modèles d'IA fonctionnent comme des « boîtes noires » : leur prise de décision interne n'est pas facilement interprétable. Lorsque l'IA est utilisée pour recommander un rejet, mettre en avant des manuscrits « faibles » ou prioriser certaines soumissions, les auteurs et les évaluateurs peuvent ne pas avoir de explication claire sur les raisons de ces jugements.

Ce manque de transparence menace les valeurs fondamentales de l'édition savante :

• Les auteurs peuvent percevoir les décisions comme arbitraires ou injustes.
• Les éditeurs peuvent avoir du mal à justifier les résultats s'ils ne peuvent pas interpréter les sorties de l'IA.
• Les biais systémiques peuvent passer inaperçus si personne ne peut examiner la base des recommandations de l'IA.

L'utilisation éthiquement responsable de l'IA dans l'évaluation par les pairs nécessite des outils qui fournissent des résultats interprétables et auditable, ainsi que des limites claires quant à l'utilisation de ces résultats.

2. Responsabilité des évaluations générées par l'IA

Certains évaluateurs pourraient être tentés d'utiliser des outils d'IA pour rédiger des rapports d'évaluation entiers. Bien que l'IA puisse aider à structurer les retours ou suggérer des questions, il existe un risque que les évaluateurs soumettent du contenu généré par l'IA avec une supervision minimale.

Cela soulève des questions telles que :

• Qui est responsable des erreurs ou des critiques injustes dans une évaluation rédigée par l'IA ?
• Est-il éthique de fournir des retours qui ne reflètent pas le jugement expert propre de l'évaluateur ?
• Les outils d'écriture IA pourraient-ils involontairement introduire du texte plagié ou générique dans les évaluations ?

Les revues devraient exiger que les évaluateurs déclarent l'utilisation de l'IA et insister pour que tous les retours soient soigneusement vérifiés et approuvés par l'évaluateur humain. L'IA peut aider à formuler, mais ne doit pas remplacer un engagement authentique avec le manuscrit.

3. Biais dans la sélection des évaluateurs basée sur l'IA

Les outils d'IA sont de plus en plus utilisés pour associer les manuscrits aux évaluateurs en analysant les historiques de publication, les mots-clés et les réseaux de citations. Sans une conception soigneuse, ces systèmes peuvent :

• Sur-sélectionner les évaluateurs issus de institutions d'élite et de réseaux établis.
• Sous-représenter les chercheurs des pays à revenu faible et intermédiaire.
• Renforcer les schémas existants de déséquilibre entre les genres ou les disciplines dans l'évaluation par les pairs.

Le déploiement éthique de l'IA dans la sélection des évaluateurs nécessite une attention explicite à la diversité, l'inclusion et l'équité, ainsi que des audits réguliers pour garantir que le comportement de l'algorithme est conforme à ces objectifs.

Possibilités futures de l'IA dans l'évaluation par les pairs

Malgré les défis, l'IA offre également de réelles opportunités pour améliorer l'évaluation par les pairs lorsqu'elle est conçue et encadrée avec soin.

1. Pré-sélection intelligente et triage

L'IA est particulièrement adaptée aux contrôles en phase précoce qui aident les éditeurs à décider comment gérer les nouvelles soumissions. Par exemple, les outils d'IA peuvent :

• Effectuer un dépistage initial du plagiat et de l'autoplagiat.
• Vérifier la complétude de la déclaration de base (par exemple, enregistrement des essais, approbations éthiques ou déclarations de disponibilité des données).
• Vérifier la mise en forme, la cohérence des références et le respect des consignes de la revue.

Cela permet aux éditeurs d'identifier rapidement les manuscrits clairement inadaptés ou incomplets et de consacrer plus de temps aux soumissions ayant un véritable potentiel.

2. Appariement des évaluateurs plus intelligent et équitable

Utilisée avec précaution, l'IA peut aider à identifier les évaluateurs bien adaptés au sujet, aux méthodes et au contexte d'un manuscrit. Les systèmes avancés peuvent :

• Cartographier les réseaux de publication pour trouver une expertise pertinente.
• Signaler les potentiels conflits d'intérêts basés sur la co-rédaction ou le chevauchement institutionnel.
• Intégrer des objectifs de diversité pour garantir une gamme plus large de perspectives.

Combinée à une supervision éditoriale humaine et à des critères éthiques clairs, l'association assistée par IA peut réduire la charge des évaluateurs et améliorer la qualité des évaluations.

3. Surveillance des biais et analyse post-évaluation

L'IA peut également être utilisée pour analyser les tendances de l'évaluation par les pairs à travers l'ensemble du portefeuille d'une revue ou d'un éditeur, aidant à identifier :

• Différences systématiques dans les taux d'acceptation selon la région, le genre ou le type d'institution.
• Évaluateurs qui fournissent systématiquement des rapports extrêmement courts ou de faible qualité.
• Modèles linguistiques dans les évaluations pouvant indiquer un traitement injuste ou hostile de certains auteurs.

Grâce à ces informations, les revues peuvent ajuster leurs politiques, offrir des formations ciblées et intervenir lorsque des comportements problématiques ou des biais structurels sont détectés.

4. Surveillance de la qualité post-publication

L'évaluation par les pairs ne doit pas nécessairement s'arrêter au moment de la publication. Les outils d'IA peuvent soutenir la surveillance post-publication en :

• Analyse des articles publiés pour détecter des préoccupations émergentes telles que la duplication d'images ou des anomalies statistiques.
• Suivi des corrections, rétractations et commentaires critiques post-publication.
• Aider les éditeurs à décider quand un article peut justifier une expression of concern ou une enquête plus approfondie.

Ce modèle de contrôle qualité continu reconnaît que l'examen par les pairs est un processus, pas un événement unique.

Bonnes pratiques pour une utilisation responsable de l'IA dans l'examen par les pairs

Pour tirer parti des avantages de l'IA tout en atténuant les risques, les revues et les éditeurs peuvent adopter plusieurs principes directeurs.

• Conception avec intervention humaine : L'IA doit assister, non remplacer les éditeurs et évaluateurs humains. Toutes les décisions finales doivent rester entre les mains des humains.
• Transparence et divulgation : Les revues doivent indiquer clairement quels outils d'IA sont utilisés, comment et pourquoi. Les évaluateurs et les auteurs doivent divulguer l'utilisation de l'IA dans leurs propres travaux.
• Détection et atténuation des biais : Les systèmes d'IA doivent être régulièrement audités pour détecter les biais, et leurs données d'entraînement ainsi que leurs hypothèses de conception doivent être examinées lorsque cela est possible.
• Protection des données : Les manuscrits et les évaluations doivent être traités selon des protocoles stricts de confidentialité et de sécurité, avec des règles claires sur le stockage et la réutilisation des données.
• Formation et orientation : Les éditeurs et les évaluateurs ont besoin de soutien pour interpréter les résultats de l'IA de manière critique plutôt que de les considérer comme une autorité incontestable.

Les auteurs, de leur côté, peuvent se préparer au filtrage assisté par l'IA en s'assurant que leurs manuscrits sont clairs, bien structurés et correctement référencés avant la soumission. Beaucoup choisissent de travailler avec des services professionnels de relecture académique pour minimiser les problèmes liés à la langue et réduire le risque de malentendus lors de l'évaluation.

Conclusion

L'examen par les pairs assisté par l'IA occupe un espace délicat entre promesse et péril. D'une part, l'IA peut aider les revues à faire face à l'augmentation des volumes de soumissions, améliorer la cohérence des contrôles de routine et générer de nouvelles perspectives sur l'équité et l'efficacité de l'évaluation. D'autre part, elle introduit des défis liés à la compréhension contextuelle, aux biais, à la transparence, à la confidentialité et à la responsabilité.

La voie à suivre n'est pas l'automatisation complète, mais un modèle hybride soigneusement conçu dans lequel l'IA et les humains travaillent ensemble. L'IA excelle dans les tâches répétitives à grand volume et la reconnaissance de motifs ; les évaluateurs humains excellent dans le jugement conceptuel, la réflexion éthique et l'intuition créative. Lorsque ces forces sont combinées sous des directives éthiques claires et une gouvernance robuste, le résultat peut être un système d'examen par les pairs plus efficace, équitable et fiable que les humains ou les algorithmes seuls.

Pour les chercheurs, les implications sont claires : écrire de manière transparente, citer avec soin et préparer les manuscrits selon des normes élevées avant la soumission. Pour les revues et les éditeurs, le défi est d'adopter les outils d'IA de manière réfléchie, avec des garanties explicites et une évaluation constante. Bien fait, l'examen par les pairs assisté par l'IA peut soutenir — et non supplanter — les valeurs qui ont longtemps sous-tendu la publication scientifique : rigueur, intégrité et respect de la communauté scientifique.