Cómo funciona la detección de semejanza de IA, y por qué las plataformas corren a desarrollarla

A medida que las imágenes y videos falsos generados por IA se propagan rápidamente en internet, las plataformas de redes sociales están empezando a crear herramientas que ayudan a los usuarios a detectar cuándo se ha usado su propio rostro sin permiso. El último paso de TikTok en esa dirección es una herramienta opcional que ha comenzado a probar y que permite a los usuarios buscar "semejanzas de IA" no autorizadas de sí mismos.

Detectada por el consultor de redes sociales Matt Navarra, la función se encuentra actualmente en una prueba limitada con "algunos" creadores en Estados Unidos. Zachary Kizer, portavoz de TikTok en EE. UU., confirmó que la herramienta está diseñada para analizar el contenido que circula en la plataforma y detectar imágenes generadas por IA que usan el rostro de un usuario sin su consentimiento.

Un detalle clave de cómo funciona la herramienta es que los usuarios primero deben verificar su identidad. Los creadores que quieren participar en la prueba deben pasar por un escaneo de selfie en tiempo real y una verificación de identificación a través de una empresa llamada Jumio, una capa de seguridad diseñada para confirmar que la herramienta realmente pertenece a esa persona.

Kizer afirmó que TikTok no conserva los documentos de identidad ni los datos faciales; se dice que esa información se elimina una vez completado el proceso de verificación. Este tipo de garantías de privacidad son fundamentales para convencer a los usuarios de compartir datos biométricos sensibles, ya que el riesgo de que los propios datos de reconocimiento facial se usen indebidamente entra en la misma categoría de problema que la herramienta busca resolver.

TikTok no está solo en este esfuerzo. YouTube ha estado trabajando en una herramienta similar y recientemente la puso a disposición de todos los usuarios adultos. El hecho de que dos grandes plataformas hayan desarrollado herramientas comparables en un plazo similar sugiere que el contenido falso generado por IA se ha convertido en un problema compartido y urgente para las grandes plataformas.

La fuerza motriz detrás de estas herramientas es que la tecnología deepfake se ha vuelto más accesible y más convincente en los últimos años. Los videos falsos que antes requerían conocimientos técnicos ahora pueden generarse en minutos con aplicaciones de nivel de consumo, un riesgo creciente tanto para celebridades y políticos como para usuarios comunes.

Los expertos señalan, sin embargo, las limitaciones de estas herramientas de detección. Un sistema de escaneo de "semejanza de IA" solo puede analizar el contenido alojado en los servidores de esa plataforma; si el rostro de un usuario se usa indebidamente en otra plataforma o en aplicaciones de mensajería cerradas, estas herramientas no tienen capacidad de detectarlo.

Aun así, la demanda de funciones como esta es alta entre los creadores. Las personas con grandes audiencias, en particular, temen que su rostro se use sin permiso para fabricar respaldos falsos, anuncios fraudulentos o contenido diseñado para dañar su reputación.

La difusión de este tipo de herramientas muestra que las plataformas ahora invierten no solo en sistemas reactivos de denuncia para los problemas de contenido generado por IA, sino también en sistemas proactivos que los propios usuarios pueden ejecutar. Esto ocurre en un momento en que la presión regulatoria y pública sobre las plataformas por este tema se intensifica.

La herramienta de TikTok sigue en fase de prueba limitada y no está claro cuándo podría lanzarse más ampliamente, pero la decisión de YouTube de abrir su propia versión a todos los usuarios adultos sugiere que TikTok podría eventualmente seguir un camino similar.