Este fue el mensaje que enviaron los fundadores de las empresas tecnológicas líderes en el mundo, mediante una carta que decía así: Pedimos a todos los laboratorios de IA que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4.
Firmada por, entre otros, Elon Musk, Steve Wozniak (co-fundador de Apple), Jaan Tallinn (co-fundador de Skype) y Max Tegmark (MIT), así como por más de 1.000 personalidades del mundo tecnológico, pone en tela de juicio los rápidos avances de los sistemas de inteligencia artificial. En concreto, aquellos que supongan una capacidad superior a la de GPT-4.
Falta de planificación. La carta deja claro, en primer lugar, que el desarrollo en sistemas de IA puede representar un cambio profundo en la historia, siempre y cuando se gestione y planifique de forma adecuada. Los firmantes afirman que ni siquiera los creadores de estos sistemas, a día de hoy, son capaces de entender o predecir de forma fiable su comportamiento.
TE PUEDE INTERESAR
Nuevo dispositivo de Motorola con CONEXIÓN SATELITAL al celular desde cualquier parte
Los sistemas contemporáneos de IA están llegando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Debemos automatizar todos los trabajos? ¿Debemos desarrollar mentes no humanas que con el tiempo nos superen en número, inteligencia, obsolescencia y reemplazo?
El ojo puesto en GPT-4. La carta no alude a una pausa completa en el desarrollo de la IA, sino a aquellos sistemas con más capacidad que GPT-4. Piden un paso atrás en la carrera hacia modelos impredecibles y cada vez con más capacidades emergentes. El punto principal es que el desarrollo actual debe centrarse en conseguir que los potentes sistemas de vanguardia actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales.
Cabe destacar que el 27 de marzo, la Policía Europea advirtió de que las redes criminales pueden usar este tipo de herramientas en su beneficio. Se ponía sobre la mesa los efectos en materia de desinformación que puede suponer el uso de estas herramientas, empleándose para crear textos aplicados al phishing o con otros fines maliciosos.
