Apple endurece reglas de App Store contra imágenes íntimas generadas con IA

Apple actualizó las normas de su tienda de aplicaciones, App Store, para prohibir de manera explícita las herramientas de inteligencia artificial (IA) que generan imágenes íntimas de personas sin su consentimiento. La modificación se produce tras la polémica por la creación de imágenes sexuales falsas con Grok, el chatbot desarrollado por la empresa xAI, de Elon Musk, y meses de presión de reguladores y organizaciones civiles.

Con los nuevos lineamientos, la compañía exige a los desarrolladores prevenir y eliminar este tipo de contenido, además de reforzar los mecanismos de moderación. La sección 1.2 de las Pautas de Revisión de Aplicaciones advierte sobre las imágenes íntimas no consentidas, las infracciones de propiedad intelectual y el acoso anónimo. Las aplicaciones que incumplan estas disposiciones podrían ser retiradas de la tienda si no implementan las medidas necesarias o no corrigen las infracciones notificadas.

Apple también incorporó una disposición específica contra las aplicaciones que utilizan prácticas de «cebo y cambio», es decir, aquellas que se presentan como herramientas inofensivas durante el proceso de revisión y posteriormente activan funciones prohibidas, como la generación de imágenes íntimas falsas. La empresa advirtió que ocultar estas capacidades mediante técnicas de programación puede provocar la eliminación de la aplicación y el cierre de la cuenta del desarrollador.

La decisión llega después de las críticas generadas a comienzos de este año, cuando usuarios de X recurrieron a Grok para producir imágenes sexuales falsas de mujeres, incluidas menores de edad. El caso provocó cuestionamientos contra Apple por mantener disponibles X y Grok en su tienda. En julio, el fiscal de San Francisco, David Chiu, también ordenó retirar 13 aplicaciones capaces de generar imágenes sexuales sin consentimiento, una medida que Apple afirmó haber cumplido.

Las investigaciones sobre este tipo de herramientas han revelado la magnitud del problema. Un informe del Tech Transparency Project identificó decenas de aplicaciones de esta naturaleza disponibles en la App Store y documentó cómo las sugerencias de búsqueda y los anuncios de la plataforma podían dirigir a los usuarios hacia ellas. Además, un estudio de las universidades de Cornell y Georgetown examinó 155 aplicaciones de intercambio de rostros y encontró que el 70 % permitía colocar el rostro de una persona sobre imágenes desnudas sin contar con salvaguardas técnicas.

Con las nuevas disposiciones, Apple reiteró su intención de reforzar la seguridad de su ecosistema digital y endurecer las consecuencias para quienes faciliten actividades ilícitas. La compañía también estableció que las aplicaciones relacionadas con la trata de personas o la explotación infantil serán eliminadas de la App Store y quedarán excluidas de los canales de distribución alternativa, como parte de sus esfuerzos para impedir que estas tecnologías se utilicen para vulnerar la privacidad y la dignidad de las personas.