La compañía tecnológica estadounidense Anthropic ha asegurado que su nuevo modelo de inteligencia artificial conocido como Claude Mythos Preview es demasiado potente para su lanzamiento público, informó este martes The New York Times.
La empresa con sede en San Francisco anunció el martes que pondrá su nueva IA a disposición de un consorcio de más de 40 empresas tecnológicas, entre ellas Apple, Amazon y Microsoft, que lo utilizarán para detectar y corregir vulnerabilidades de seguridad en programas de ‘software’ críticos.
«El objetivo es tanto crear conciencia como brindar a las empresas responsables una ventaja inicial en el proceso de protección de la infraestructura y el código, tanto de código abierto como privado», explicó Jared Kaplan, director científico de Anthropic.
«Punto de inflexión»
Por su parte, Logan Graham, jefe de un equipo de Anthropic que prueba nuevos modelos para detectar capacidades peligrosas, calificó dicho sistema como «el punto de partida de lo que creemos que será un punto de inflexión en la industria, un momento decisivo para abordar las necesidades actuales».
Los ejecutivos de la compañía aseguran que Claude Mythos Preview ya es capaz de realizar investigaciones de seguridad autónomas, incluyendo la búsqueda y explotación de las llamadas vulnerabilidades de día cero en programas de ‘software’ críticos, fallos desconocidos incluso para los desarrolladores.
Los investigadores de ciberseguridad que han tenido acceso a Claude Mythos Preview han calificado el modelo como un riesgo significativo para la ciberseguridad. «Demuestra lo que ahora es posible para los defensores a gran escala, y los adversarios inevitablemente intentarán explotar las mismas capacidades. Lo que antes llevaba meses, ahora se logra en minutos con la IA», señaló Elia Zaitsev, director de tecnología de CrowdStrike.
