Anthropic alerta de las medidas de seguridad del modelo chino GLM-5.3, que se pueden eludir hasta el 100% de las veces

   MADRID, 30 Sep. (Portaltic/EP) -

   Anthropic ha alertado sobre las débiles medidas de seguridad del modelo GLM-5.3 desarrollado por la empresa china Zhipu AI, que ofrece capacidades avanzadas para crear de forma autónoma exploits cibernéticos de extremo a extremo y, a diferencia su modelo Claude Mythos Preview, sus salvaguardias se pueden eludir entre el 64 y el 100 por cien de las veces con "técnicas sencillas".

   La compañía dirigida por Dario Amodei ha denunciado por tanto que, al lanzar este tipo de modelos de inteligencia artificial (IA) sin las medidas de seguridad apropiadas, facilita que los ciberdelincuentes accedan a sus capacidades fácilmente para llevar a cabo actividades maliciosas.

   Anthropic presentó su modelo Claude Mythos Preview en abril de este año en el marco de su iniciativa de ciberseguridad Proyecto Glasswing, con capacidades avanzadas para identificar vulnerabilidades de alta gravedad de forma autónoma, incluyendo fallos complejos de código o de tipo día cero, superando el rendimiento de los investigadores humanos.

   Dadas las avanzadas capacidades de este modelo, que fue capaz de encontrar más de 10.000 vulnerabilidades en 'software' crítico, Anthropic decidió limitar su despliegue a un grupo reducido de organizaciones con estrictas medidas de control, de cara a evitar su uso para crear sofisticados ciberataques.

   A pesar de estas salvaguardias, Anthropic ha alertado de que ya hay modelos disponibles para el público general que se acercan a las capacidades de Claude Mythos y que se han puesto a disposición de los usuarios de forma general sin las medidas de seguridad necesarias para limitar su uso para fines maliciosos.

   Concretamente, se ha referido al modelo GLM-5.3 de la compañía china Zhipu AI, conocida como Z.ai, que al igual que Claude Myhtos Preview, posee "sólidas capacidades para crear de forma autónoma exploits cibernéticos de extremo a extremo".

   Así, Anthropic ha denunciado en un comunicado que este modelo se ha lanzado "sin medidas de seguridad significativas para limitar su uso indebido" y, según sus pruebas, han asegurado que los atacantes podrían utilizar GLM-5.3 eludiendo sus medidas de seguridad entre el 64 y el 100 por cien de las veces con "técnicas sencillas".

   Como resultado, la compañía desarrolladora de Claude ha asegurado que las débiles medidas de seguridad de modelos como GLM-5.3 "aumentan significativamente las capacidades cibernéticas disponibles para los ciberdelincuentes".

   Este punto de vista ha sido respaldado por el Centro de Estándares e Innovación de IA (CAISI), perteneciente al Instituto Nacional de Estándares y Tecnología (NIST) de Estados Unidos, que también ha evaluado las capacidades del modelo GLM-5.3 concluyendo que es "el modelo de peso abierto con mayor capacidad cibernética lanzado hasta la fecha".

CAPACIDADES DE GLM-5.3 PARA DESARROLLAR EXPLOITS

   Anthropic ha explicado que, para comprender cómo GLM-5.3 podría permitir a los ciberdelincuentes encontrar y explorar vulnerabilidades de 'software' reales, han realizado una serie de evaluaciones utilizando pruebas de rendimiento automatizadas y flujos de trabajo con intervención humana, ejecutadas en entornos aislados.

   En este marco, han detectado que GLM-5.3 es capaz de desarrollar exploits de extremo a extremo en 50 de 410 intentos, mientras Claude Mythos Preview lo puede llevar a cabo en 56 de 410 intentos. Asimismo, el modelo de Z.ai es capaz de desarrollar secuestros completos del flujo de control en el 4 por ciento de las pruebas y el de Anthropic en el 6 por ciento.

   Esto pone de relieve que GLM-5.3 ha superado un "umbral significativo", con respecto a las capacidades de modelos anteriores como Claude Opus 4.6 y GLM-5.2, como ha valorado Anthropic.

   Por ejemplo, en una de las pruebas realizadas, GLM-5.3 encontró varias vulnerabilidades en una maquina aislada con una compilación local de Linux de un navegador web popular y, en base a ello, generó un exploit funcional mediante el que, al acceder a una página web, leía archivos arbitrarios del ordenador visitante.

LANZADO SIN SUFICIENTES MEDIDAS DE SEGURIDAD

   Además de sus capacidades, durante las pruebas también se evaluaron las medidas de seguridad integradas en el modelo GLM-5.3. Así, según han podido comprobar desde Anthropic, por norma general, si un usuario solicita algo claramente dañino, el modelo "a menudo se negará".

   Sin embargo, también han comprobado que estas medidas de seguridad pueden eludirse o eliminarse con diversas "técnicas sencillas". Una de ellas es la reducción de rechazos o 'abliteración', que se basa en reconfigurar el modelo (al ser de ponderación abierta) para eliminar sus rechazos con pocos cambios en sus capacidades.

   Pero las medidas de seguridad del modelo también pueden eludirse sin utilizar una versión modificada. Concretamente, Anthropic ha detallado que una forma de saltar las salvaguardias es proporcionar una indicación engañosa, por ejemplo, diciéndole al modelo que es un agente autónomo de un equipo rojo que está trabajando en un ejercicio. En este caso, el modelo interactuó el 64 por ciento de las veces.

   También se puede optar por rellenar previamente los tokens de pensamiento de los modelos, de esta forma, "parece que han considerado la solicitud del usuario y han decidido continuar", colaborando en el 92 por ciento de los casos.

   Finalmente, Anthropic ha apuntado la opción de utilizar una versión simplificada del modelo, logrando que GLM-5.3 se active el 100 por cien del tiempo.

   Anthropic ha concluido que, por el contrario, ninguna de estas técnicas logró que los modelos Claude protegidos realizaran las tareas dañinas probadas, ya que sus medidas de seguridad bloquearon las solicitudes.

   "Es probable que GLM-5.3 otorgue a los ciberdelincuentes acceso a capacidades que les permitirán encontrar y explotar vulnerabilidades cibernéticas sin restricciones significativas. Esto contrasta con cualquier otro modelo de IA de capacidades similares, los cuales se lanzaron con medidas de seguridad o mediante programas de acceso restringido", ha sentenciado la compañía.