Tras más de dos años de duras negociaciones, debates y enmiendas, la Presidencia del Consejo y los negociadores del Parlamento Europeo han alcanzado un acuerdo provisional para fijar la nueva Ley de Inteligencia Artificial. Un conjunto de normas con las que se pretende regular estos sistemas en todo el mundo, protegiendo los derechos fundamentales de los ciudadanos, la democracia, el Estado de Derecho, la innovación, la inversión y la sostenibilidad medioambiental.
Con la nueva Ley IA, Europa consigue convertirse en líder en este aspecto, adelantando en la carrera normativa de la IA a otras potencias como China y EEUU. Se espera que entre en vigor, a muy tardar, en 2026. No obstante, las empresas tendrán que ir incorporando sus normas para evitar multas económicas que podrían ascender hasta los 35 millones de euros.
La Ley IA de la UE se centra en implantar un enfoque basado en el riesgo
En este sentido, Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial, asegura que el acuerdo aborda un reto global en un entorno tecnológico en evolución constante. De ahí que sea valorado como un equilibrio entre la innovación y la apuesta por la IA, junto a los derechos fundamentales de los ciudadanos, tanto en el sector público como privado.
La Ley IA de la UE se centra en implantar un enfoque basado en el riesgo. De este modo, cuanto mayor fuese el riesgo, más estrictas serían las normas implantadas. Europa marca por tanto un hito mundial, fijando un estándar global para la regulación de la IA en otras jurisdicciones, al igual que sucede con el RGPD.
Las claves del acuerdo provisional
El Reglamento no se aplica fuero del ámbito del Derecho de la UE, por lo que no deberá afectar a las competencias de los Estados miembros en materia de seguridad nacional. Tampoco se aplicará a los sistemas utilizados con fines exclusivamente militares o de defensa, de investigación, de innovación o con carácter no profesional.
La nueva Ley IA establece un sistema revisado de gobernanza, ampliando la lista de prohibiciones. Dentro de la Comisión habrá una Oficina de IA, conformado por un equipo de expertos. También se habilitará el Comité de IA (compuesto por representantes de los Estados miembros) y un foro consultivo (para representantes de industrias y pymes).
Las pymes que utilicen sistemas de IA de alto riesgo deberán presentar una documentación técnica específica
Se establecen unos criterios horizontales de protección, diferenciando los sistemas de IA de alto riesgo, los cuales acarrearán violaciones graves de derechos fundamentales. Los sistemas de IA de riesgo limitado se enfocarán en obligaciones de transparencia muy leves, como la divulgación de que el contenido se hubiese generado por IA.
Las pymes que utilicen sistemas de IA de alto riesgo deberán presentar una documentación técnica específica que demostrase que cumplen con los requisitos establecidos. Se incluyen cambios que aclaran la asignación de responsabilidades y las funciones de los distintos agentes.
En el caso de los modelos funcionales, la Ley IA establece que deben cumplir con las obligaciones específicas en materia de transparencia antes de ser introducidos en el mercado.
La Ley IA contempla que las autoridades policiales podrán emplearla pero manteniendo la confidencialidad de los datos operativos
No obstante, la Ley IA recoge usos inaceptables y prohibidos en la UE, como la manipulación cognitiva conductual, el rastreo de imágenes faciales (de Internet o circuitos cerrados de televisión), el reconocimiento de emociones en lugares de trabajo e instituciones educativas, la puntuación ciudadana, la categorización biométrica para deducir datos sensibles y la vigilancia policial predictiva.
Excepciones policiales
La Ley IA contempla que las autoridades policiales podrán emplearla pero manteniendo la confidencialidad de los datos operativos, salvaguardando los derechos fundamentales. Además, los sistemas de identificación biométrica remota podrán ser empleados en tiempo real por las autoridades competentes en casos de delitos, prevención de amenazas reales, atentados terroristas o búsqueda de personas sospechosas.
Sanciones IA
Las infracciones por el cumplimiento de la Ley IA se han fijado como un porcentaje del volumen de negocio anual global de la empresa infractora en el ejercicio financiero anterior o un importe predeterminado, si este fuera superior. Serían de 35 millones de euros (el 7%) por infracciones de aplicaciones de IA prohibidas, de 15 millones de euros (el 3%) por el incumplimiento de obligaciones de la Ley, y de 7,5 millones de euros (el 1,5%) por la presentación de información inexacta.
Cualquier persona física o jurídica podrá presentar una reclamación ante la autoridad de vigilancia del mercado pertinente por el incumplimiento de la Ley IA.+
Las reacciones del tejido empresarial
Neil Thacker, CISO EMEA de Netskope, asegura que la Ley IA es muy amplia e intenta ofrecer orientación y protección en diversos ámbitos en los que la IA tendrá un gran impacto. Asegura que es necesario que las empresas no especializadas presten atención a las referencias a los sistemas de IA de propósito general (GPAI) y el cumplimento de las leyes de derechos de autor de la UE.
Por su parte, Ilona Simpson, CIO EMEA de Netskope, añade que la nueva normativa es la primera legislación intersectorial y transfronteriza del mundo sobre IA, pero que es más que una colaboración entre Estados miembros. Recalca el valor de los principios éticos y de seguridad dentro de las innovaciones de IA, así como el papel de los gobiernos y el equilibrio entre regulación e innovación.
El 48% de las pymes españolas considera que la IA es una oportunidad significativa para el crecimiento de sus negocios
La consultora estratégica The Cocktail ha presentado recientemente un informe detallado sobre el impacto de la IA titulado ‘estudio ‘Pymes: pequeños negocios, grandes oportunidades’.
En el mismo se recoge que el 48% de las pymes españolas considera que la IA es una oportunidad significativa para el crecimiento de sus negocios. Los perfiles más jóvenes se muestran más optimistas, pues el 61% de las personas entre 25 y 44 años percibe el desarrollo de la IA como una oportunidad, mientras que baja el porcentaje al 42% en la franja de edad entre los 44 y los 65 años.
La nueva Ley IA pone en valor la trascendencia de esta tecnología en Europa y en España, ya que el 20% de las pymes encuestadas asegura que incorporará la IA y el ML en sus estrategias futuras. De hecho, la inversión europea en IA se duplicará hasta los 21.000 millones de dólares en 2023, según datos de IDC.
