Revisión por pares asistida por IA: desafíos, riesgos éticos y posibilidades futuras

Revisión por pares asistida por IA: desafíos, riesgos éticos y posibilidades futuras

Introducción

El proceso de revisión por pares es una piedra angular de la publicación académica. Antes de que la investigación se difunda a la comunidad en general, es examinada por expertos que evalúan su rigor, originalidad y relevancia. En teoría, la revisión por pares protege a los lectores de afirmaciones inexactas o engañosas y asegura que los hallazgos de investigación entren en el registro académico solo después de una evaluación cuidadosa.

En la práctica, sin embargo, la revisión por pares tradicional enfrenta una gran presión. El volumen de envíos a las revistas sigue creciendo, mientras que el grupo de revisores dispuestos lucha por mantenerse al día. Los editores se enfrentan a retrasos, calidad de revisión inconsistente, fatiga de los revisores y sesgos inconscientes. Algunos manuscritos reciben comentarios detallados y reflexivos; otros se evalúan rápidamente, de manera desigual o no se evalúan en absoluto. Esto ha llevado a que revistas y editoriales experimenten con nuevas herramientas y flujos de trabajo, especialmente aquellos basados en inteligencia artificial (IA).

La revisión por pares asistida por IA promete aliviar algunas de estas presiones. Los sistemas de IA pueden ayudar a detectar plagio y problemas éticos en los manuscritos, verificar el formato y las referencias, identificar revisores adecuados y resaltar posibles preocupaciones metodológicas. Cuando se usan de manera responsable, estas herramientas pueden agilizar los flujos de trabajo y liberar a los revisores humanos para que se concentren en el contenido científico de un artículo.

Sin embargo, la integración de la IA en la revisión por pares no está exenta de riesgos. Los modelos de IA reflejan los datos con los que se entrenan; pueden malinterpretar el contexto, clasificar erróneamente trabajos innovadores o incorporar sesgos sistémicos preexistentes. También plantean cuestiones sobre privacidad de datos, transparencia y responsabilidad. Este artículo explora los principales desafíos, riesgos éticos y posibilidades futuras de la revisión por pares asistida por IA y ofrece orientación práctica sobre cómo las revistas e investigadores pueden aprovechar la IA sin socavar la integridad de la evaluación académica.

¿Qué queremos decir con revisión por pares asistida por IA?

La revisión por pares asistida por IA no se refiere a una única tecnología sino a un amplio ecosistema de herramientas que apoyan tareas editoriales y de revisión. Estas pueden incluir:

• Herramientas de detección de similitud y plagio que comparan manuscritos con grandes corpus de texto.
• Herramientas de lenguaje y legibilidad que señalan pasajes poco claros o con problemas gramaticales.
• Herramientas de cribado automatizado que verifican el cumplimiento de las directrices de la revista, límites de palabras y estándares básicos de reporte.
• Sistemas de emparejamiento de revisores que utilizan datos de publicaciones y citas para identificar expertos adecuados.
• Paneles de soporte a la decisión que resumen indicadores clave para los editores (por ejemplo, puntuaciones de similitud, completitud del reporte o anomalías estadísticas).

En el extremo más experimental del espectro, algunos desarrolladores están explorando herramientas que ofrecen crítica automatizada de métodos, novedad o impacto. Estos sistemas aún están en etapas iniciales y plantean algunas de las preocupaciones más profundas sobre el papel de la IA en la evaluación científica.

Crucialmente, la revisión por pares asistida por IA está destinada a ser de apoyo más que completamente automatizada: el objetivo es ayudar a los revisores y editores humanos a trabajar de manera más eficiente y consistente, no reemplazar completamente su juicio experto. Las siguientes secciones examinan dónde esta promesa choca con las limitaciones del mundo real.

Desafíos clave en la revisión por pares asistida por IA

Aunque la IA aporta claras ventajas en velocidad y escala, sus limitaciones se hacen evidentes cuando se le pide replicar o reemplazar la comprensión matizada de investigadores experimentados.

1. Comprensión contextual y teórica limitada

Los modelos de IA son fundamentalmente sistemas de reconocimiento de patrones. Pueden analizar estructura, coherencia superficial y similitud léxica, pero tienen dificultades con la comprensión conceptual profunda. En la revisión por pares, esto conlleva varios riesgos:

• La IA puede no reconocer ideas genuinamente innovadoras que no se parezcan a los patrones en sus datos de entrenamiento.
• No puede evaluar de forma independiente la contribución teórica o la originalidad conceptual de un estudio.
• Incluso los modelos avanzados carecen de la intuición específica del dominio y el conocimiento tácito que los investigadores senior desarrollan durante muchos años.

Como resultado, la IA es más confiable para tareas superficiales, como verificaciones de formato y análisis básico de texto, en lugar de los juicios científicos más profundos que determinan si un manuscrito realmente avanza un campo.

2. Falsos positivos y malas interpretaciones en la detección de plagio

Las herramientas de similitud impulsadas por IA son ahora estándar en muchas revistas, pero sus resultados pueden ser fácilmente malinterpretados. Estos sistemas a menudo señalan:

• Frases estandarizadas, descripciones de métodos y declaraciones éticas que aparecen en muchos artículos.
• Pasajes correctamente citados que coinciden estrechamente con la redacción original.
• Reutilización por parte del autor de su propio texto previamente publicado, lo cual puede ser aceptable si se reconoce de manera transparente.

La dependencia excesiva de las puntuaciones de similitud bruta puede llevar a sospechas injustificadas o incluso al rechazo de trabajos legítimos. Además, la IA a veces tiene dificultades para distinguir entre parafraseo aceptable y plagio intencional, especialmente en campos técnicos con pocas formas de describir ciertos procedimientos. Los autores que no son nativos en inglés también pueden enfrentar un escrutinio desproporcionado, ya que las herramientas de IA son más sensibles a solapamientos menores cuando los escritores usan frases comunes.

3. Sesgo algorítmico y desigualdad

Los sistemas de IA aprenden de conjuntos de datos que reflejan prácticas existentes en la publicación académica. Estos conjuntos de datos pueden estar ya sesgados hacia ciertos:

• Instituciones (por ejemplo, universidades de alto rango),
• Regiones o países,
• Idiomas (más frecuentemente inglés), y
• Grupos demográficos dentro de la comunidad investigadora.

Si estos sesgos no se identifican y corrigen, las herramientas de IA pueden reproducir e incluso amplificar la desigualdad. Por ejemplo, los algoritmos de asignación de revisores pueden favorecer consistentemente a investigadores establecidos de instituciones reconocidas, reduciendo las oportunidades para académicos en etapas tempranas o revisores de regiones subrepresentadas. La predicción de impacto basada en IA puede priorizar de manera similar temas que ya son muy citados, dificultando que campos emergentes o interdisciplinarios ganen visibilidad.

4. Socavamiento del juicio humano y el diálogo

Las herramientas de IA están diseñadas para asistir, pero existe un peligro real de que los revisores y editores confíen demasiado en los resultados automatizados. Cuando la IA proporciona puntuaciones numéricas o indicadores de “semáforo”, los humanos pueden aceptarlos al pie de la letra en lugar de involucrarse profundamente con el manuscrito.

Esto puede llevar a:

• Reducción del compromiso crítico con los métodos, datos e interpretación.
• Menos debate intelectual y menos desacuerdos constructivos entre los revisores.
• Decisiones que dependen en exceso de métricas simplificadas en lugar de un razonamiento cuidadoso basado en el texto.

La revisión por pares es más que una verificación técnica; es una forma de conversación académica. La sobreautomatización corre el riesgo de vaciar esa conversación y convertir la revisión en un ejercicio mecánico de control.

5. Riesgos de privacidad de datos y confidencialidad

La revisión por pares depende de una estricta confidencialidad. Los manuscritos comparten datos no publicados, métodos novedosos y propiedad intelectual sensible. Integrar IA en este ecosistema plantea preguntas urgentes:

• ¿Dónde se almacenan los manuscritos cuando son procesados por herramientas de IA?
• ¿Se están usando textos o informes de revisores para entrenar modelos externos de IA sin consentimiento?
• ¿Qué salvaguardas existen para prevenir violaciones de datos o accesos no autorizados?

Las revistas deben asegurarse de que cualquier herramienta de IA que utilicen cumpla con estándares robustos de protección de datos y que los autores y revisores comprendan cómo se maneja su información.

6. Detección de presentaciones generadas o con alta participación de IA

A medida que las herramientas de IA generativa se vuelven más capaces, algunos manuscritos pueden estar en gran parte o incluso completamente escritos por máquinas. Estos textos pueden pasar las verificaciones de plagio porque no se copian directamente de fuentes existentes. Sin embargo, pueden contener:

• Referencias fabricadas que no existen o que tergiversan la literatura.
• Explicaciones inexactas o simplificadas en exceso de conceptos teóricos.
• Lenguaje artificialmente fluido que oculta razonamientos débiles o datos faltantes.

Distinguir entre escritura legítimamente asistida y contenido generado por IA de forma engañosa requiere nuevas herramientas de detección, políticas claras de las revistas y un escrutinio más cuidadoso por parte de revisores y editores. También subraya el valor de una corrección humana de alta calidad antes de la presentación para asegurar que el lenguaje esté pulido pero refleje de manera transparente una investigación genuina.

Riesgos éticos en la revisión por pares asistida por IA

Más allá de los desafíos técnicos, la revisión por pares asistida por IA plantea preguntas más profundas sobre responsabilidad, transparencia y equidad.

1. Toma de decisiones opaca y explicabilidad

Muchos modelos de IA funcionan como “cajas negras”: su toma de decisiones interna no es fácilmente interpretable. Cuando se usa IA para recomendar rechazos, destacar manuscritos “débiles” o priorizar ciertas presentaciones, los autores y revisores pueden no tener una explicación clara de por qué se tomaron esos juicios.

Esta falta de transparencia amenaza los valores fundamentales de la publicación académica:

• Los autores pueden percibir las decisiones como arbitrarias o injustas.
• Los editores pueden tener dificultades para justificar los resultados si no pueden interpretar los resultados de la IA.
• Los sesgos sistémicos pueden pasar desapercibidos si nadie puede inspeccionar la base de las recomendaciones de la IA.

El uso ético y responsable de la IA en la revisión por pares requiere herramientas que proporcionen resultados interpretables y auditables, y límites claros sobre cómo se usan esos resultados.

2. Responsabilidad por las revisiones generadas por IA

Algunos revisores pueden sentirse tentados a usar herramientas de IA para redactar informes completos de revisión. Aunque la IA puede ayudar a estructurar los comentarios o sugerir preguntas, existe el riesgo de que los revisores envíen contenido generado por IA con supervisión mínima.

Esto plantea preguntas como:

• ¿Quién es responsable de los errores o críticas injustas en una revisión escrita por IA?
• ¿Es ético proporcionar comentarios que no reflejen el juicio experto propio del revisor?
• ¿Podrían las herramientas de escritura con IA introducir inadvertidamente texto plagiado o genérico en las revisiones?

Las revistas deberían exigir a los revisores que revelen el uso de IA e insistir en que todos los comentarios sean cuidadosamente revisados y respaldados por el revisor humano. La IA puede ayudar con la redacción, pero no debe sustituir el compromiso genuino con el manuscrito.

3. Sesgo en la selección de revisores basada en IA

Las herramientas de IA se utilizan cada vez más para emparejar manuscritos con revisores analizando historiales de publicación, palabras clave y redes de citas. Sin un diseño cuidadoso, estos sistemas pueden:

• Selecciona en exceso a revisores de instituciones élite y redes establecidas.
• Subrepresenta a investigadores de países de ingresos bajos y medios.
• Refuerza patrones existentes de desequilibrio de género o disciplinario en la revisión por pares.

El despliegue ético de la IA en la selección de revisores requiere atención explícita a la diversidad, inclusión y equidad, así como auditorías regulares para asegurar que el comportamiento del algoritmo se alinee con estos objetivos.

Posibilidades futuras de la IA en la revisión por pares

A pesar de los desafíos, la IA también ofrece oportunidades genuinas para mejorar la revisión por pares cuando se diseña y gobierna de manera reflexiva.

1. Preselección inteligente y triaje

La IA es especialmente adecuada para las verificaciones en etapas tempranas que ayudan a los editores a decidir cómo manejar nuevas presentaciones. Por ejemplo, las herramientas de IA pueden:

• Realizar una revisión inicial de plagio y autoplagio.
• Verificar la integridad básica del reporte (por ejemplo, registro de ensayos, aprobaciones éticas o declaraciones de disponibilidad de datos).
• Verificar formato, consistencia de referencias y cumplimiento de las directrices de la revista.

Esto permite a los editores identificar rápidamente manuscritos que claramente son inadecuados o incompletos y dedicar más tiempo a las presentaciones con potencial genuino.

2. Asignación de Revisores Más Inteligente y Justa

Usada con cuidado, la IA puede ayudar a identificar revisores que estén bien relacionados con el tema, métodos y contexto de un manuscrito. Los sistemas avanzados pueden:

• Mapear redes de publicación para encontrar experiencia relevante.
• Señalar posibles conflictos de interés basados en la coautoría o superposición institucional.
• Incorporar objetivos de diversidad para asegurar una gama más amplia de perspectivas.

Cuando se combina con la supervisión editorial humana y criterios éticos claros, la asignación asistida por IA puede reducir la carga de los revisores y mejorar la calidad de las evaluaciones.

3. Monitoreo de Sesgos y Análisis Posterior a la Revisión

La IA también puede usarse para analizar patrones de revisión por pares en todo el portafolio de una revista o editorial, ayudando a identificar:

• Diferencias sistemáticas en las tasas de aceptación por región, género o tipo de institución.
• Revisores que consistentemente proporcionan informes extremadamente cortos o de baja calidad.
• Patrones de lenguaje en las revisiones que pueden indicar trato injusto u hostil hacia ciertos autores.

Con tales conocimientos, las revistas pueden ajustar sus políticas, ofrecer capacitación específica e intervenir cuando se detecta un comportamiento problemático o sesgo estructural.

4. Monitoreo de Calidad Posterior a la Publicación

La revisión por pares no tiene que terminar en el momento de la publicación. Las herramientas de IA pueden apoyar la supervisión posterior a la publicación mediante:

• Escaneando artículos publicados en busca de preocupaciones emergentes como duplicación de imágenes o anomalías estadísticas.
• Seguimiento de correcciones, retractaciones y comentarios críticos posteriores a la publicación.
• Ayudando a los editores a decidir cuándo un artículo puede justificar una expresión de preocupación o una investigación adicional.

Este modelo continuo de control de calidad reconoce que la revisión por pares es un proceso, no un evento único.

Mejores prácticas para el uso responsable de la IA en la revisión por pares

Para aprovechar los beneficios de la IA mientras se mitigan los riesgos, las revistas y editoriales pueden adoptar varios principios rectores.

• Diseño con intervención humana: La IA debe asistir, no reemplazar a los editores y revisores humanos. Todas las decisiones finales deben permanecer en manos humanas.
• Transparencia y divulgación: Las revistas deben declarar claramente qué herramientas de IA se usan, cómo y por qué. Los revisores y autores deben revelar el uso de IA en su propio trabajo.
• Detección y mitigación de sesgos: Los sistemas de IA deben auditarse regularmente para detectar sesgos, y sus datos de entrenamiento y supuestos de diseño deben revisarse cuando sea posible.
• Protección de datos: Los manuscritos y revisiones deben procesarse bajo protocolos estrictos de confidencialidad y seguridad, con reglas claras sobre el almacenamiento y reutilización de datos.
• Capacitación y orientación: Los editores y revisores necesitan apoyo para interpretar críticamente los resultados de la IA en lugar de tratarlos como una autoridad incuestionable.

Los autores, por su parte, pueden prepararse para el filtrado asistido por IA asegurándose de que sus manuscritos sean claros, estén bien estructurados y referenciados con precisión antes de la presentación. Muchos optan por trabajar con servicios profesionales de corrección académica para minimizar problemas relacionados con el idioma y reducir el riesgo de malentendidos durante la revisión.

Conclusión

La revisión por pares asistida por IA ocupa un espacio delicado entre la promesa y el peligro. Por un lado, la IA puede ayudar a las revistas a manejar el aumento en el volumen de envíos, mejorar la consistencia de las verificaciones rutinarias y generar nuevas perspectivas sobre la equidad y efectividad de la revisión. Por otro lado, introduce desafíos relacionados con la comprensión contextual, sesgos, transparencia, privacidad y responsabilidad.

El camino a seguir no es la automatización total, sino un modelo híbrido cuidadosamente diseñado en el que la IA y los humanos trabajan juntos. La IA sobresale en tareas repetitivas, de alto volumen y en el reconocimiento de patrones; los revisores humanos destacan en el juicio conceptual, la reflexión ética y la percepción creativa. Cuando estas fortalezas se combinan bajo directrices éticas claras y una gobernanza robusta, el resultado puede ser un sistema de revisión por pares más eficiente, equitativo y confiable que cualquiera de los dos trabajando por separado.

Para los investigadores, las implicaciones son claras: escribir con transparencia, citar con cuidado y preparar los manuscritos con un alto estándar antes de la presentación. Para las revistas y editoriales, el desafío es adoptar las herramientas de IA de manera reflexiva, con salvaguardas explícitas y evaluación constante. Si se hace bien, la revisión por pares asistida por IA puede apoyar—no suplantar—los valores que han sustentado durante mucho tiempo la publicación académica: rigor, integridad y respeto por la comunidad científica.