Un detector de IA no puede demostrar por sí solo que hubo engaño

Categoría: Inteligencia artificial y educación

Ante el crecimiento de herramientas como ChatGPT, algunas instituciones utilizan detectores que calculan la probabilidad de que un texto haya sido generado mediante inteligencia artificial.

El resultado puede parecer concluyente: “80 % escrito por IA”. Sin embargo, ese porcentaje es una estimación producida por un sistema y no una prueba directa de cómo se elaboró el documento.

Una investigación que evaluó 14 detectores mediante 756 pruebas encontró problemas de precisión y resultados inconsistentes. Las herramientas podían clasificar textos humanos como artificiales y textos generados por IA como humanos.

¿Por qué pueden equivocarse?

Los detectores analizan características del lenguaje, pero no observan el proceso real de escritura.

Su resultado puede modificarse por:

• Extensión del texto.

• Estilo de redacción.

• Edición posterior.

• Traducción automática.

• Parafraseo.

• Tipo de modelo utilizado.

• Actualizaciones de las herramientas.

• Características lingüísticas de quien escribe.
  

Además, la tecnología cambia rápidamente. Un estudio realizado con determinadas versiones no describe necesariamente el funcionamiento de todos los detectores actuales, pero sí muestra que sus resultados deben interpretarse con cautela.

¿Qué debería hacer un docente?

Un indicador puede servir para iniciar una revisión, pero no debería utilizarse como única evidencia para sancionar.

Conviene considerar:

• Borradores y versiones anteriores.

• Notas y fuentes consultadas.

• Historial de cambios.

• Coherencia con trabajos previos.

• Capacidad del estudiante para explicar sus decisiones.

• Exactitud de referencias y datos.

• Reglas institucionales comunicadas previamente.

• Diálogo directo antes de llegar a una conclusión.
  

También es importante definir qué usos de la IA están permitidos. Corregir ortografía, solicitar retroalimentación y generar un trabajo completo no representan la misma intervención.

Evaluar procesos, no solamente productos

Solicitar esquemas, fichas, borradores, reflexiones y explicaciones orales permite conocer mejor cómo se construyó el trabajo.

La integridad académica necesita reglas claras, orientación y procedimientos justos. Un detector puede aportar una señal, pero la responsabilidad de investigar cuidadosamente y tomar una decisión fundamentada continúa siendo humana.

Referencia

Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S., Foltýnek, T., Guerrero-Dib, J., Popoola, O., Šigut, P., y Waddington, L. (2023). Testing of detection tools for AI-generated text. International Journal for Educational Integrity, 19, Article 26. https://doi.org/10.1007/s40979-023-00146-z