Anthropic anunció la creación del Proyecto Glasswing, una iniciativa en la que se unió con 12 empresas para combatir vulnerabilidades tecnológicas luego de que un modelo de Inteligencia Artificial (IA) fuera tan peligrosa que decidieran no publicarlo.
A través de un comunicado, Anthropic explicó que observaron su modelo Claude Mythos Preview, enfocado en ciberseguridad y que fue capaz de detectar miles de vulnerabilidades de alta gravedad, incluyendo en algunos de los principales sistemas operativos y navegadores web.
“Dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura”, explicó. Ante la posibilidad de posibles consecuencias altamente perjudiciales para la economía, la seguridad pública y seguridad nacional, es que Anthropic decidió crear el Proyecto Glasswing.
TIENES QUE LEER: El cifrado de WhatsApp es “un fraude”: Musk y fundador de Telegram
Las empresas que se unieron, y cuyos sistemas contaban con graves vulnerabilidades de ciberseguridad, son Amazon Web Services, Apple, Cisco, Google, The Linux Foundation, NVIDIA, Microsoft, Broadcom, Crowdstrike, JPMorgan Chase y Palo Alto Networks. Estas compañías “utilizarán Mythos Preview en sus labores de seguridad defensiva. Anthropic compartirá sus aprendizajes para que toda la industria se beneficie”.
Asimismo, amplairon el acceso a más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica, permitiéndoles usar el modelo para analizar y proteger tanto sistemas propios como de código abierto. Anthropic destinará hasta 100 millones de dólares en créditos de uso de Mythos Preview a dichas iniciativas, así como 4 millones de dólares en donaciones directas a organizaciones de seguridad de código abierto.
“Ninguna organización puede resolver estos problemas de ciberseguridad por sí sola: los desarrolladores de IA de vanguardia, otras empresas de software, investigadores de seguridad, responsables del mantenimiento de software de código abierto y gobiernos de todo el mundo tienen un papel fundamental que desempeñar”, añadió.
La labor de defender la infraestructura cibernética mundial podría llevar años; sin embargo, consideró que es probable que las capacidades de la IA de vanguardia avancen sustancialmente en los próximos meses. “Para que los ciberdefensores salgan victoriosos, debemos actuar ahora”, remató.
Y si bien los riesgos de los ciberataques potenciados por IA son graves, considera que hay motivos para el optimismo, ya que las mismas capacidades que hacen que los modelos de IA sean peligrosos en manos equivocadas los convierten en una herramienta invaluable para detectar y corregir fallos en software importante, así como generar nuevo software con muchos menos errores de seguridad.
TE PUEDE INTERESAR:
- Investigan a LinkedIn por recolectar datos personales sin consentimiento
- Hombre lanza coctel molotov a casa de Sam Altman; policía lo arresta
- WhatsApp quiere que veas los estados sin salir del chat y ya lo está probando
