Cisco y Hugging Face han anunciado que van a ampliar su colaboración, con el objetivo de reforzar la seguridad de modelos de Inteligencia Artificial (IA) en la cadena de suministro, así como la del ecosistema de estos modelos.
Para ello, ambas compañías implementarán, a través de Cisco Foundation AI, una plataforma de escaneo unificado que se encargará de analizar todos los archivos públicos cargados en Hugging Face para detectar si en ellos hay o no malware. Entre ellos estarán tanto los modelos de IA como otros tipos de archivos. Esta solución que desarrollarán ambas partes está impulsada por una versión mejorada del motor ClamAV, que está equipada con diversas capacidades de detección personalizadas.
Si se tiene en cuenta que Hugging Face añade, de media, un nuevo modelo de IA cada 7 segundos, y que en la actualidad aloja alrededor de 1,9 millones de modelos, se pone de manifiesto que esta colaboración de la compañía con Cisco es un paso notable para mejorar la seguridad de los modelos de Inteligencia Artificial para los desarrolladores de todo el mundo.
Con esta alianza, al combinar el papel de Hugging Face en la Inteligencia Artificial de código abierto con las capacidades avanzadas de detección de malware de Cisco, será posible que ambas entidades faciliten una verificación más rigurosa de los modelos.
También podrán identificar las vulnerabilidades de manera más temprana, además de mejorar el intercambio de inteligencia frente a amenazas. Como resultado, mejorará la confianza, además de la seguridad de la infraestructura dedicada a la Inteligencia Artificial.
El motor antivirus centrado en los riesgos de IA ClamAV, gracias a su evolución, ahora es capaz de detectar código malicioso en modelos de IA, lo que se ofrece gracias a esta colaboración de manera gratuita. Además de cubrir el malware tradicional, ClamAV ya puede detectar riegos de deserialización en formatos de archivos de modelos comunes, como .pt y .pkl, y hacelo en milisegundos, y no en minutos como hasta ahora. Esta función ya está disponible para los usuarios de ClamAV.
Según Julien Chaumond, Director de tecnología de Hugging Face, en la compañía están encantados de asociarse «con Cisco Foundation AI para ayudar a proteger a los usuarios de Hugging Face. Llevamos varios años escaneando archivos con ClamAV, el escáner de detección de malware gratuito y de código abierto de Cisco Talos. Con la nueva actualización de ClamAV, ahora podemos ofrecer una protección completa contra el malware tradicional y las amenazas específicas de los modelos de IA, todo ello con una sola herramienta. Agradecemos a Cisco que se haya convertido en nuestro socio para analizar todos los archivos cargados en Hugging Face. Al combinar nuestro liderazgo en IA de código abierto con la amplia experiencia en ciberseguridad de Cisco, estamos capacitando a organizaciones y personas de todo el mundo para que adopten la IA con confianza«.
