Apple está buscando moderar el contenido de Inteligencia Artificial de una de las plataformas más relevantes de la actualidad. De acuerdo con una carta enviada a senadores de Estados Unidos y que ha sido revelada por NBC News, la compañía advierte a xAI que podría retirar la app de Grok de la App Store si no implementaba controles más estrictos para frenar la generación de imágenes sexualizadas.
El conflicto surge desde enero del 2026, en donde el uso de Grok dentro de X se disparó en medio de una ola de contenido problemático. Durante apenas 11 días, el sistema generó cerca de tres millones de imágenes sexualizadas, muchas de ellas creadas a partir de fotos públicas manipuladas.
Reportes citados por legisladores estadounidenses señalan que alrededor de 23 mil de esas imágenes involucraban menores y más de un millón correspondían a mujeres cuyos rostros fueron alterados para colocarlas en situaciones explícitas sin su consentimiento.
El caso encendió alarmas inmediatas entre organizaciones de derechos digitales, grupos de protección infantil y colectivos feministas, que exigieron a plataformas como Apple y Google tomar medidas más firmes. La preocupación surge porque el fenómeno deja ver lo fácil que puede ser usar herramientas de IA para generar contenido abusivo.
Tienes que leer: Huawei Pura X Max busca el nuevo plegable con una pantalla más amplia que nunca
Ante la presión pública y mediática, Apple optó por actuar desde dentro y con sus propias manos, la empresa contactó de forma privada tanto a xAI como a X para exigir cambios en la moderación de contenido. En ese proceso, rechazó al menos dos actualizaciones de la app de Grok por considerarlas insuficientes frente a sus lineamientos, que prohíben contenido sexual explícito generado sin consentimiento, especialmente cuando puede implicar explotación o daño a terceros.
La advertencia compromete a la empresa de corregir las fallas o Grok podía ser eliminada por completo de la App Store. Este tipo de medidas no son nuevas para Apple, que históricamente ha mantenido un control estricto sobre el contenido permitido en su ecosistema, especialmente en temas relacionados con seguridad, privacidad y protección de usuarios vulnerables.
Un cambio temporal
La respuesta de xAI llegó con una tercera actualización que finalmente fue aprobada. Apple reconoció que la app había “mejorado sustancialmente”, lo que permitió que permaneciera disponible. Por su parte, X también aplicó cambios importantes, en donde primero restringió el acceso al generador de imágenes a usuarios de pago y posteriormente bloqueó por completo la creación de imágenes sexualizadas, alineándose con las políticas de las tiendas de aplicaciones.
Sin embargo, el problema no desapareció del todo, pues a pesar de los nuevos filtros, algunos usuarios han encontrado formas de esquivarlos, generando contenido sugestivo o no consentido que, aunque menos explícito, sigue generando preocupación.
Por lo que Grok tendrá que seguir afinando sus errores hasta cumplir con los cambios que ha demandado Apple para no eliminar la aplicación de la App Store.
Te podría interesar:
-Amazon Leo presenta su antena de alta velocidad para aviones comerciales
-Sam Altman sufre segundo ataque a su residencia; arrestan a 2
-Xiaomi no sólo estrena teléfono. Conoce su tablet, su smartwatch y más
