La IA la cual es encargada de detectar y denunciar todo el material multimedia considerado como material de abuso sexual infantil (CSAM), ha bloqueado la cuenta de un padre después de que este tomara una foto de una infección en la ingle de su hijo para enviársela a su médico, según informo The New York Times.
.jpg)
TE PUEDE INTERESAR: Te decimos cómo conseguir videojuegos gratis para tu computadora en Steam
Mark, el padre de familia señalado por Google, envío la imagen a petición de una enfermera en febrero de 2021 durante la pandemia del COVID 19, fecha en la que algunos centros de salud de Estados Unidos mantenían las visitas restringidas.
Tras la valoración de dicha imagen a través de una videollamada, la enfermera pudo recetar antibióticos destinados a curar la infección, la cual se encontraba en la zona genital del pequeño.
Tras el suceso, Google notifico a Mark dos días después, en la cual la compañía advertía de haber detectado contenido perjudicial la cual era una grave violación de las políticas de Google y podría ser ilegal. De inmediato, las cuentas del padre fueron bloqueadas.
Además, Google, envío el reporte al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) para su posterior investigación.
.png)
Mark indico que los bloqueos de sus cuentas provocaron que perdiera acceso a todos los servicios y plataformas enlazados con su usuario. Entre ellos, a su correo electrónico, contactos, imágenes o, incluso, número de teléfono, pues utilizaba Google Fi, la OMV de la compañía.
Dicho caso es una prueba más de los inconvenientes del sistema de detección de abuso infantil que compañías como Google o Apple planean utilizar para evitar este tipo de acciones.
Google, aseguro a The Verge que el equipo de expertos encargados de revisar las imágenes también realiza consultas con los pediatras para identificar casos en los que los usuarios puedan estar buscando asesoramiento médico.
