Por qué los detectores de escritura con IA están generando una nueva era de desconfianza

Los detectores de texto con IA tienen su origen en las herramientas antiplagio que usaban educadores y editores mucho antes de que existiera ChatGPT. Esas herramientas originales funcionaban comparando un texto con una amplia base de datos de contenido en línea, artículos académicos y otras fuentes, señalando frases y expresiones coincidentes.

Herramientas consolidadas como Turnitin generaban un porcentaje que indicaba cuánto de un texto parecía provenir de otras fuentes. Pero el auge de ChatGPT y de grandes modelos de lenguaje similares cambió por completo la tarea que se les pedía a estas herramientas: ahora se espera que detecten no solo texto copiado, sino texto original generado por IA.

El problema es que detectar escritura generada por IA es un desafío técnico mucho más difícil que detectar una copia directa. La detección de plagio busca una coincidencia exacta con una fuente existente. La detección de generación por IA, en cambio, se basa en estimaciones probabilísticas fundadas en la "firma estadística" de un texto.

Ese enfoque estadístico produce tasas de error considerables. Investigaciones han documentado numerosos casos en los que estas herramientas marcaron incorrectamente como generados por IA textos escritos por personas reales. Los hablantes no nativos de inglés y los autores con un estilo más formal y estructurado enfrentan un riesgo desproporcionadamente alto de ser identificados erróneamente.

Estos falsos positivos pueden acarrear consecuencias graves. Estudiantes han enfrentado medidas disciplinarias por acusaciones de mala conducta académica que nunca cometieron. Algunas universidades han comenzado a advertir a su profesorado que no trate los resultados de las herramientas de detección como prueba suficiente por sí sola.

Preocupaciones similares surgen en el periodismo y la edición. A medida que los editores desconfían de la autenticidad de los autores, estos temen a su vez que su trabajo genuinamente original sea señalado erróneamente como generado por IA, una dinámica que erosiona la confianza que sostiene la relación entre autor y editor.

Las empresas de herramientas de detección afirman actualizar continuamente sus algoritmos y que las tasas de precisión están mejorando. Investigadores independientes replican que, a medida que los modelos de IA avanzan, las herramientas de detección corren el riesgo de quedar perpetuamente un paso atrás en una carrera que quizá nunca lleguen a ganar del todo.

Algunos expertos sostienen que el problema exige un cambio de enfoque institucional más que una solución puramente técnica. Se plantean alternativas como exámenes orales, la revisión del historial de borradores o una evaluación centrada en el proceso como formas de reducir la dependencia excesiva de las herramientas de detección.

Mientras tanto, a medida que la escritura generada por IA se vuelve cada vez más indistinguible de la escritura humana, aumentan las advertencias de que una detección fiable podría acabar siendo técnicamente imposible. Algunos investigadores predicen que, a medio plazo, una detección confiable podría simplemente no ser alcanzable.

En definitiva, el clima de desconfianza creado por los detectores de IA apunta a una cuestión más amplia que la tecnología en sí: la forma de verificar la autenticidad en la comunicación escrita seguirá moldeando la educación y la edición en los años venideros.