Qué es un detector de IA, y si realmente puede identificar un texto que no escribió nadie

La plataforma de escritura Substack ha presentado una nueva herramienta diseñada para ayudar a los lectores a determinar si el contenido que están leyendo pudo haber sido escrito por IA. Desarrollada por una empresa de detección de IA llamada Pangram, la herramienta analiza publicaciones, notas, respuestas y comentarios para ofrecer una estimación de qué parte del texto pudo haber sido generada por IA o escrita con su ayuda.

La aparición de este tipo de herramientas responde a un problema creado por los grandes modelos de lenguaje, cada vez más capaces de producir contenido escrito: los lectores ya no pueden saber con certeza si el texto que tienen delante fue producido por un humano o por un algoritmo. Empresas como Pangram están construyendo modelos estadísticos orientados a resolver esa incertidumbre.

Entonces, ¿cómo funcionan técnicamente estas herramientas de detección? La mayoría de los enfoques se basan en la idea de que el texto generado por IA presenta ciertos patrones estadísticamente distintos de la escritura humana. Los modelos de IA, por ejemplo, pueden tender a usar ciertas combinaciones de palabras con una frecuencia más predecible que los humanos, o mostrar cierta uniformidad en la estructura de las frases. Los modelos de detección se entrenan para reconocer este tipo de firmas estadísticas sutiles.

Pero este enfoque tiene una limitación inherente: a medida que los modelos de IA mejoran, se acercan cada vez más a la escritura humana, estrechando la brecha estadística. Eso genera una carrera constante entre las herramientas de detección y los modelos generativos, algo no muy distinto de la relación entre el malware y el software antivirus, donde cada bando se adapta continuamente al otro.

La precisión de estas herramientas también es un tema controvertido. Pruebas independientes han mostrado que las herramientas de detección de IA a veces marcan erróneamente como generado por IA un texto escrito enteramente por un humano, un problema que ocurre con mayor frecuencia en textos escritos por personas cuya lengua materna no es el inglés, o por quienes escriben en un estilo muy formal y repetitivo. Este tipo de falsos positivos puede acarrear consecuencias graves; en contextos académicos, por ejemplo, los estudiantes pueden ser acusados injustamente de plagio o de usar IA.

También son posibles errores en sentido contrario: algunos textos generados por IA, especialmente si son editados por un humano o “humanizados”, pueden evadir por completo las herramientas de detección. Eso significa que los editores y las plataformas deben tratar los resultados de estas herramientas no como un hecho definitivo, sino como una estimación de probabilidad.

La herramienta de Substack parece reconocer este matiz: en lugar de presentar un veredicto definitivo de sí o no, la plataforma ofrece una estimación de qué parte del texto podría tener origen en IA. Ese enfoque da a los lectores margen para formarse un juicio más informado, a la vez que reconoce implícitamente que la propia herramienta puede equivocarse.

Para los editores, el atractivo de este tipo de herramientas resulta comprensible: preservar la confianza de los lectores es fundamental, especialmente en un momento en que la economía del periodismo y la escritura independientes está en expansión. La garantía de que un autor escribe realmente con su propia voz forma parte del valor que sustenta el modelo de suscripción.

Los críticos, sin embargo, señalan que este tipo de herramientas también puede generar una falsa sensación de seguridad. Que una publicación reciba la etiqueta de “probablemente escrita por un humano” no significa que ese contenido sea exacto o confiable: solo ofrece una estimación estadística sobre el origen del texto.

Por ahora, la herramienta se está implementando en la web y en iOS, con una versión para Android que llegará próximamente. La medida de Substack se interpreta como parte de un debate más amplio sobre cómo las plataformas pueden preservar la confianza de los lectores en un momento en que verificar el origen del contenido escrito resulta cada vez más complejo.