ChatGPT hace esfuerzos por tener control parental tras el caso del adolescente Adam Raine

Recientemente OpenAI anunció una serie de medidas que buscan reforzar la seguridad de los adolescentes que utilizan ChatGPT, tras enfrentar críticas y demandas relacionadas con incidentes fuertes que involucran a jóvenes usuarios. 

Las iniciativas forman parte de un plan de 120 días que la compañía realiza en conjunto con expertos en salud mental y especialistas en atención a adolescentes, con el objetivo de reducir riesgos y garantizar un uso más responsable de la Inteligencia Artificial.

La actualización surgirá dentro de su más reciente modelo GPT-5, y el problema sucede tras el caso del adolescente Adam Raine, quien lamentablemente atentó con su vida tras hablar sobre autolesiones y sus planes con ChatGPT, y no solo eso, el modelo le proporcionó información al respecto. Hasta el momento, la familia ya ha presentado una demanda de homicidio culposo contra OpenAI.

Por otro lado, semanas más tarde, se registró que Adam sufrió un suicidio vinculado a delirios paranoides que supuestamente están relacionadas por interaciones prolongadas con el chatbot.

¿Qué hará OpenAI?

Uno de los cambios más importantes será la implementación de controles parentales, y están programados para lanzarse el próximo mes. Con esta función, los padres podrán vincular su cuenta con la de sus hijos adolescentes y supervisar de manera más directa la interacción entre ellos y ChatGPT.

Tienes que leer: DJI Mic 3, ¿de verdad es útil para los creadores de contenido?

Entre las herramientas disponibles estará la disponibilidad de configurar las reglas de comportamiento adaptadas a la edad del joven, además, habrá una opción de desactivar funciones sensibles como la memoria y el historial del chat. 

Una de las funciones más innovadoras en esta actualización y podría resultar muy útil, será poder obtener notificaciones automáticas en caso de que el sistema detecte señales de mal estado en el usuario como angustia o tristeza extrema para que los padres puedan intervenir de inmediato. La medida funcionará para que se logre actuar a tiempo.

El panorama es complicado y delicado, pero este se puede agravar si no se hace nada al respecto. El uso cotidiano de las herramientas de IA por parte de menores de edad abre ciertos riesgos en donde es muy difícil tener el control absoluto. 

Mayor razonamiento en casos sensibles

OpenAI quiere atender las preocupaciones, sobre todo ante la demanda que enfrentan por la familia californiana, ya que exponen que ChatGPT facilitó y alentó la planificación de Adam con su vida. GPT-5 será mejorado con mayor capacidad de razonamiento y solidez para que estas conversaciones con crisis emocionales y conductas de riesgo puedan ser dirigidas de una forma más sensible y capaz. 

Para ello, la compañía también presentó un modo de estudio, diseñado para fomentar el pensamiento crítico en estudiantes y brindar un entorno más seguro de aprendizaje. La función será un buen apoyo académico, pero también un espacio que logra ser controlado. 

La innovación y la responsabilidad deben estar a la par

El caso del joven Adam es una consecuencia de no poder tener el control o conocimiento absoluto sobre la función de los nuevos chats de IA, además, expone las limitaciones de los modelos en contextos de crisis y abre un debate sobre la verdadera responsabilidad que tienen las empresas tecnológicas frente a la salud mental de sus usuarios más jóvenes. 

Entonces, como parte de esta estrategia, OpenAI conformó su consejo de expertos con más de 250 profesionales de 60 países. El equipo deberá integrar y orientar la implementación de política de seguridad y evaluar la efectividad de estas nuevas herramientas, también podrán sugerir ajustes para futuras actualizaciones.

Cualquier chatbot potenciado con Inteligencia Artificial debe estar programado para entender que la interacción es con seres humanos, entonces, crear conciencia en un máquina quizás no es una idea tan descabellada, aunque abriría más debates. 

 

Te podría interesar:

-Instagram deja personalizar su sección de Mensajes Directos, ¡hasta carpetas podrás tener!

-Amazon ofrece Belleza Premium en su catálogo, ¿sabías?

-LG presenta aspiradoras con Inteligencia Artificial