La irrupción y el desarrollo de la Inteligencia Artificial (IA) está proporcionando grandes ventajas en el tejido productivo de las empresas. La eficiencia y la capacidad resolutiva de estas herramientas permiten obtener resultados más precisos e inmediatos. Gracias a su capacidad para procesar datos a gran escala se puede, por ejemplo, tener acceso a un número elevado de casos clínicos e investigaciones sobre una determinada patología para realizar un diagnóstico más preciso o incluso en la industria agroalimentaria se pueden emplear para agilizar la detección y control de plagas en las cosechas.
Si bien, con la entrada en vigor del Reglamento de Inteligencia Artificial (“RIA”) en febrero de 2025 existe una vorágine de conceptos y obligaciones en materia de IA pendientes de conocer para hacer un uso responsable.
Además, hay que tener en cuenta que no todos los sistemas de IA se regulan de la misma forma, ya que el nivel de cumplimiento normativo es proporcional al índice de impacto que estas herramientas ejercen en la vida de las personas. Al mismo tiempo, su regulación, se encuentra condicionada a si dichos modelos se desarrollan y ponen al servicio de los demás a cambio de una contraprestación.
En este sentido, de entre los sistemas de IA que están generando gran interés en la actualidad nos encontramos con los sistemas de IA de “Código Abierto”. Este tipo de IA posee un código fuente accesible a cualquiera para que pueda utilizarlo, modificarlo o distribuirlo. Este tipo de modelos de IA pueden ser realmente útiles, no solo para el ámbito académico, sino también para startups, ya que los desarrolladores de estas herramientas podrán disponer de estos sistemas, modificarlos y compartir diversidad de conocimientos que les permitan generar y mejorar su propia IA.
Por esta razón, los sistemas de IA libres o de códigos abiertos no están sujetos a un cumplimiento tan exhaustivo del RIA, salvo cuando:
- Se introducen en el mercado.
- Se ponen al servicio de los demás como sistemas de alto riesgo.
Además, con carácter general cuando los sistemas de IA de Código Abierto son de uso general, es decir, están entrenados a través de un gran volumen de datos autosupervisados a gran escala y poseen la capacidad de realizar una amplia variedad de tareas, no están obligados a respetar todas las exigencias del RIA.
Para mayor detalle, en la siguiente tabla describiremos las exenciones y obligaciones a las cuales están sujetas la IA de Código Abierto:
Tabla 1. Exenciones y obligaciones de los sistemas de IA de Código Abierto
|
Exenciones |
Obligaciones |
|
Proporcionar información sobre las capacidades del sistema. |
Disponer de directrices que garanticen el cumplimiento de la normativa europea en materia de derechos de autor. |
|
Información sobre el acceso técnico. |
Tener un resumen del contenido empleado para el modelo de IA. |
|
Documentación técnica del modelo |
|
|
Información sobre el proceso de entrenamiento |
|
|
Información sobre los resultados de las pruebas. |
|
|
Mantener actualizada la documentación del sistema. |
Como se puede observar, el que el RIA sea más flexible con este tipo de sistemas, facilitaría el desarrollo tecnológico y la capacidad de investigación, si bien, esto también podría conllevar sus riesgos como, por ejemplo, cuando en el proceso de entrenamiento y uso de los sistemas de IA de Código Abierto se emplean datos personales.
Este interrogante ya ha sido expuesto por la Autoridad Británica de Protección de datos (“ICO”) valorando dichas conclusiones la Agencia Española de Protección de Datos (“AEPD”) a través de su publicación en su página web titulada “Abordando conceptos erróneos de la Inteligencia Artificial”, en el mismo aclara una relación de malentendidos que deben ser evitados en el empleo de IA de Código Abierto, recopilando a continuación los que consideramos más importantes:
Ilustración 1. Aclaración conceptos erróneos de la IA
En definitiva, la flexibilidad en la regulación de la IA de Código Abierto tiene sus efectos positivos al facilitar la investigación y creación de nuevos sistemas de IA. Sin embargo, hay que tener en cuenta que, en el momento en que estas herramientas traten datos personales, se deberán respetar los principios y obligaciones previstos en la normativa vigente en materia de protección de datos personales.
Además, será necesario valorar qué obligaciones de la RIA deberán aplicarse −aun siendo dicha norma más tolerante con este tipo de IA− para mantener controlado el ciclo de vida y los fines respecto de los cuales se manejan dichos datos personales, debiéndose controlar aspectos como el origen de la información, mantenerla actualizada, someter a pruebas y evaluación dicha información.
