¿Qué son las aplicaciones 'nudify' y por qué se ordena a Apple y Google eliminarlas?

Las aplicaciones "nudify" utilizan inteligencia artificial para tomar una foto normal de una persona y convertirla en una imagen fabricada que la hace parecer desnuda. Estas aplicaciones se usan para crear imágenes íntimas sin consentimiento, y sus objetivos son desproporcionadamente mujeres y adolescentes.

El fiscal de la ciudad de San Francisco, David Chiu, envió cartas formales a Apple y Google afirmando que ambas empresas saben desde hace tiempo que alojan en sus tiendas aplicaciones que infringen la ley estatal. Las cartas exigen que las empresas retiren esas aplicaciones de sus plataformas.

Según la ley de California, crear y distribuir imágenes íntimas sin consentimiento, ya sean reales o generadas por IA, está explícitamente prohibido. Las cartas de Chiu argumentan que, al seguir ofreciendo estas aplicaciones en sus tiendas, Apple y Google facilitan en la práctica que los usuarios infrinjan esa ley.

La presencia de estas aplicaciones en tiendas oficiales puede parecer sorprendente a primera vista, ya que tanto Apple como Google mantienen políticas estrictas que prohíben el contenido sexual explícito. Pero muchas aplicaciones nudify se registran bajo categorías como "edición de fotos" o "entretenimiento", ocultando su función real durante el proceso de revisión.

Esta no es la primera vez que un gobierno local actúa contra aplicaciones de este tipo. En los últimos años se han reportado casos en escuelas de Estados Unidos y otros países donde estudiantes fueron atacados con estas aplicaciones, y las imágenes resultantes circularon después entre compañeros de clase, incidentes que aumentaron la atención pública y regulatoria sobre el tema.

Los expertos afirman que estas aplicaciones pueden causar un daño psicológico grave, particularmente en casos que afectan a menores. Incluso cuando se sabe que las imágenes son fabricadas, su circulación puede representar una amenaza real para la reputación y la seguridad de las víctimas, con casos que han derivado en procesos disciplinarios escolares e incluso investigaciones penales.

Los procesos de revisión de las tiendas de Apple y Google abarcan millones de aplicaciones, y ambas empresas reconocen que las aplicaciones de manipulación de imágenes con IA se han multiplicado rápidamente, lo que dificulta cada vez más detectar su potencial de abuso de antemano. Las empresas afirman que retiran las aplicaciones una vez que se reportan infracciones, pero los críticos sostienen que ese enfoque sigue siendo mayormente reactivo.

También se están tomando medidas legales a nivel federal en Estados Unidos; en los últimos años han entrado en vigor leyes que penalizan la distribución de imágenes íntimas sin consentimiento, incluidas las generadas por IA. La iniciativa de San Francisco se ve como un intento de hacer cumplir ese marco federal a nivel local.

Aún no está claro cómo responderán exactamente Apple y Google a las cartas, aunque ambas empresas han retirado aplicaciones problemáticas de sus tiendas en el pasado tras una presión pública similar. La oficina de Chiu ha indicado que podría emprender más acciones legales si las empresas no responden.

Este desarrollo forma parte de una tendencia más amplia en la que la responsabilidad de las tiendas de aplicaciones por moderar el contenido se cuestiona cada vez más a medida que las herramientas de generación de imágenes con IA se propagan rápidamente, y muestra a los reguladores intentando que las empresas tecnológicas actúen de forma preventiva y no solo tras recibir denuncias.