La organización Tech Transparency Project publicó un reporte en donde señalan que tanto Apple como Google siguen ofreciendo aplicaciones de Inteligencia Artificial que son capaces de generar imágenes de desnudez sin consentimiento dentro de sus tiendas de aplicaciones.
Lo que señala el informe además de ser preocupante o delicado, contradice las propias políticas de ambas compañías, que prohíben explícitamente contenido sexual o herramientas que puedan “desnudar” a personas de forma artificial. Aun así, estas apps siguen disponibles, son fáciles de encontrar y, en muchos casos, están generando ingresos importantes.
Según el informe, basta con escribir términos como “nudify” o “undress” en la App Store o en Google Play Store para que aparezcan múltiples resultados. También, los sistemas de búsqueda de ambas plataformas estarían impulsando este contenido mediante anuncios, sugerencias automáticas y carruseles destacados que facilitan su descubrimiento.
Alrededor de 50 aplicaciones han sido identificadas
En cifras, el análisis identificó 46 aplicaciones únicas en la App Store y 49 en Play Store relacionadas con este tipo de funciones. De ese total, al menos 18 en Apple y 20 en Google permiten generar imágenes explícitas de mujeres, incluso mediante opciones gratuitas.
Entre los ejemplos mencionados está Best Body AI-Fashion Editor, una app que aparenta ser de edición de imágenes, pero que incluye funciones para manipular cuerpos con resultados sexualizados.
Tienes que leer: DJI Osmo Pocket 4 ya es oficial y esperamos que pronto llegue a México
Uno de los puntos más preocupantes es la clasificación por edades, en donde de acuerdo con el reporte, 31 de estas aplicaciones están marcadas como aptas para menores, lo que aumenta el riesgo de exposición a este tipo de contenido. En conjunto, todas estas apps acumulan aproximadamente 483 millones de descargas y han generado más de 122 millones de dólares en ingresos, lo que también deja ver que existe una demanda significativa.
En enero de este mismo año, el mismo grupo ya había documentado cerca de 50 aplicaciones por tienda con funciones similares. En ese momento, incluso se mencionó el caso de Grok, desarrollado por xAI, que fue señalado por generar deepfakes sexuales, incluidos algunos que involucraban menores.
Tras ese primer informe, ambas compañías reaccionaron parcialmente, porque Apple eliminó entre 28 y 31 aplicaciones, mientras que Google retiró al menos 31. Sin embargo, el nuevo análisis demuestra que el problema persiste y que nuevas apps han ocupado rápidamente su lugar.
Ahora, en la respuesta actual, Google aseguró haber suspendido siete aplicaciones adicionales y señaló que las clasificaciones por edad dependen de la Coalición Internacional de Clasificación por Edades. Apple, por su parte, eliminó al menos 15 apps tras este nuevo reporte. Aun así, ninguna de las dos empresas ha explicado a fondo por qué sus sistemas de revisión no detectaron estas funciones desde el inicio ni cómo es que siguen siendo promovidas dentro de sus propias plataformas.
Por ahora, el problema sigue activo y mientras estas apps continúan disponibles y generando ingresos, la presión sobre Apple y Google para reforzar sus controles no parece que vaya a disminuir pronto.
Te podría interesar:
-Apple presiona a xAI por Grok tras escándalo de imágenes sexualizadas en X
-Huawei Pura X Max busca el nuevo plegable con una pantalla más amplia que nunca
-Amazon Leo presenta su antena de alta velocidad para aviones comerciales
