La IA ya está presente, de una manera u otra, en nuestras vidas y por descontado, en los negocios. Sin embargo, el reto de integrar esta tecnología en los procesos y que gobernar la IA cumpla con todos los requisitos de seguridad está sobre la mesa. Y es que la brecha entre la gobernanza percibida y la visibilidad operativa real aún es muy grande en las empresas españolas.
Las empresas ven las ventajas de adoptar la IA en su negocio. Sin embargo, son pocas las que lo aplican de una manera ordenada, eficiente y segura, pese a que su sensación sea otra. Este es el resultado de un estudio Red Hat a responsables tecnológicos en España. La mayoría de los CIO españoles consultados (85 %) expresa una gran confianza en que sus agentes de IA funcionan de manera segura y conforme a la normativa, respaldados por mecanismos de control y supervisión.
El 37 % de los encuestados asegura confiar plenamente en las barreras de seguridad probadas, la monitorización continua y los sistemas automatizados de intervención. Otro 48 % manifiesta una “confianza razonable” en tener bajo control la seguridad y el cumplimiento, aunque reconoce pequeñas lagunas en sus medidas de control y supervisión.
No obstante, estos datos aparentemente optimistas encubren una falta de visibilidad ya que solo el 30 % de los encuestados afirma conocer con precisión los flujos de datos dentro de su organización, así como los lugares donde estos se almacenan y procesan. Además, solo el 22 % cuentan con una visión exhaustiva de su cadena de suministro de software y de sus dependencias directas e indirectas. Por último, apenas un tercio (28 %) evalúa de forma continua los riesgos derivados de los proveedores de IA más allá de la fase inicial.
Además, en entornos de producción, el intercambio de datos sin supervisión entre plataformas empresariales, servicios en la nube y modelos externos de IA puede generar riesgos. El 47 % de las organizaciones españolas reporta pequeñas carencias en la visibilidad de los flujos de datos; el 22 % ya ha implementado funciones de IA sin comprender del todo estos flujos; y el 1 % tiene con una visión muy limitada de dónde se almacenan los datos.
Ante el reto de gobernar la IA
Y es que gobernar la IA es un reto en sí mismo de largo alcance donde los partners tecnológicos deben ser aliados con los que trabajar. Un espacio donde los proveedores deben ofrecer soluciones, estrategias y mecanismos para que esta tecnología sea beneficiosa para el negocio y no una puerta de entrada a riesgos y descontrol de la información.
En este sentido, Julia Bernal, mediterranean region leader y country manager para España y Portugal, Red Hat afirma:
“Para gobernar la IA con eficacia, lo primero es tener visibilidad total. Las organizaciones deben rastrear los flujos de datos, los componentes de software y el ciclo de vida de los agentes antes de escalar. Al mismo tiempo que acelera la productividad, la IA multiplica los riesgos de vulnerabilidad. Para mitigarlos, es fundamental contar con una cadena de suministro de software segura y una gestión abierta de parches respaldada por la comunidad abierta“.
No solo gobernar la IA es una cuestión de visibilidad, eficacia y seguridad. También es fundamental en entorno europeos, como el nuestro, donde el Reglamento General de Protección de Datos (RGPD) y la Ley de IA de la Unión Europea, entre otras normativas, proponer un marco que las empresas deben cumplir para garantizar una trazabilidad de datos verificable a lo largo de todo su ciclo de vida.
Ante la marabunta de información alrededor de la IA, los partners vuelven a convertirse en agentes que traducen todo este ruido y deben poner orden, sosiego y planificación en esta adopción.
