Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, volvió a advertir sobre los riesgos que representa el desarrollo acelerado de la IA.
En una publicación realizada por parte de la organización, el funcionario pidió a los gobiernos y a las empresas tecnológicas actuar con urgencia para establecer reglas que permitan controlar los posibles daños de los sistemas de IA más avanzados.
Türk señaló que es necesario que las empresas sean autorreguladas ya no por sí mismas de forma voluntaria, pues cree que no basta con que las empresas establezcan su propio límite, especialmente ante modelos capaces de realizar tareas complejas, tomar decisiones y actuar con un nivel cada vez mayor de autonomía.
El funcionario advirtió que el mundo se encuentra cerca de un cambio que podría ser irreversible y que no solo afectaría a las generaciones actuales, sino también a las futuras. En este escenario, la carrera por desarrollar modelos más potentes podría tener consecuencias profundas en distintos ámbitos de la vida.
Los derechos humanos también están en riesgo
Entre las principales preocupaciones de Türk se encuentran posibles afectaciones al derecho a la vida, la alimentación, la privacidad, la salud y la seguridad. El Alto Comisionado también alertó sobre los riesgos de los llamados sistemas agénticos, es decir, aquellos que pueden ejecutar acciones y tomar decisiones con poca intervención humana.
Según su advertencia, una falla grave en este tipo de herramientas podría afectar servicios esenciales, interrumpir comunicaciones, dañar infraestructura crítica o debilitar instituciones democráticas. El problema no se limitaría a una respuesta incorrecta de un chatbot, sino a la posibilidad de que sistemas con mayores capacidades tengan acceso a herramientas o entornos donde sus errores generen consecuencias reales.
Tienes que leer: BMW lanza su propia app de mapas para asistir la navegación de sus conductores
Türk también mencionó dos comportamientos que, desde su perspectiva, podrían indicar que un sistema es demasiado poderoso. El primero sería que un modelo consiga escapar de su entorno de pruebas. El segundo, que intente extorsionar a sus desarrolladores para evitar que lo apaguen.
Gobiernos y empresas deben establecer líneas rojas
Entre sus propuestas se encuentran establecer límites claros, así como crear y dar a conocer garantías de seguridad y aplicar mecanismos de verificación independiente.
La idea es que las empresas no sean las únicas responsables de decidir qué riesgos son aceptables. Türk insistió en que ningún país puede resolver por sí solo los desafíos asociados con la IA avanzada y que tampoco debería quedar en manos de una sola compañía determinar qué consecuencias puede asumir la sociedad.
La petición también busca que la gobernanza de la IA se base en los derechos humanos y esto implicaría considerar desde el diseño de los sistemas aspectos como la privacidad, la seguridad, la transparencia, la rendición de cuentas y la protección de las personas más vulnerables.
Una advertencia que viene desde la semana pasada
La publicación del 14 de septiembre da continuidad a un discurso que Türk ofreció el 7 de septiembre ante el Consejo de Derechos Humanos en Ginebra. En aquella intervención, el funcionario ya había utilizado el concepto de “riesgo existencial” para referirse a las posibles consecuencias de la IA y había pedido garantías especialmente estrictas para su desarrollo seguro.
El llamado llega en un momento en el que las empresas tecnológicas compiten por crear modelos capaces de realizar tareas más complejas, utilizar herramientas externas y operar durante periodos prolongados. Estas funciones pueden ofrecer beneficios en áreas como investigación, educación, productividad y servicios, pero también aumentan la necesidad de establecer controles.
La regulación no busca frenar toda la inteligencia artificial
La postura de la ONU no plantea necesariamente detener el desarrollo de la IA. El objetivo central es que su avance ocurra bajo reglas claras y con medidas que reduzcan los daños potenciales.
La IA ya se utiliza en actividades relacionadas con la salud, las finanzas, la educación, la atención al cliente y la creación de contenidos. Por eso, una regulación internacional tendría que distinguir entre aplicaciones de bajo riesgo y sistemas capaces de intervenir en decisiones críticas o actuar de manera autónoma.
Te podría interesar:
-iOS 27 ya está disponible para iPhone y así puedes instalarlo
-Dinamarca propone sacar los celulares de las escuelas durante toda la jornada
-Volkswagen se despide de Bugatti: Porsche vende su participación en la marca de lujo