En la apasionante carrera por la innovación, el poder ejecutivo está buscando el premio: lleva varios años de gobierno destinando recursos a potenciar la participación de las instituciones. En esta ocasión, el tema candente es la inteligencia artificial (IA) y la apuesta de la ahora exministra de Asuntos Económicos y Transformación Digital1 ha consistido en elaborar un Real Decreto que aspira a ser una prueba práctica de lo que será el Reglamento Europeo de IA. Una iniciativa loable, que, sin embargo, queda manchada por la sombra de la duda: ¿es un verdadero impulso para España o más bien una herramienta política?
Se trata del Real Decreto 817/2023, publicado en España el 10 de noviembre de 2023, que introduce un marco normativo controlado (sandbox) para dar seguridad jurídica a proyectos basados en sistemas de IA que puedan suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas.
Este Real Decreto está impregnado de una influencia e intención política que queda patente en la elección de los órganos de supervisión, la ambigüedad en los criterios de valoración y la influencia de otros documentos, en principio inocuos, elaborados por el ejecutivo.
Parece deliberado que el órgano designado como competente (identificado a secas en el artículo 3) designe, a su vez, a otros dos órganos2 para la instrucción del procedimiento en el artículo 7. ¿De dónde salen estos órganos? ¿Desde cuándo existen? ¿Cuáles son sus funciones? Y, sobre todo, ¿por qué no se sabe nada de ellos?
Además de los interrogantes que suscita la decisión de no asignar estas funciones a un solo órgano, está la elección de no designar a la experimentada Agencia Española de Protección de Datos. Igualmente, es difícil entender que no se haya designado como autoridad de supervisión a ningún organismo especializado en ética, como, por ejemplo, OdiseIA o AMETIC, dado que su contribución podría ser valiosa en este contexto. Es cierto que el Real Decreto prevé la posibilidad de invitar como observadora a cualquier autoridad competente que pueda ser relevante, pero, de nuevo, esto deja al arbitrio de la SEDIA qué escenarios necesitan una supervisión ética y cuáles no; y quién es invitado a observar. El objeto de esta observación, además, es emitir meras alertas, sin detallar consecuencias adicionales.
Por otro lado, el Real Decreto esboza unos criterios generales de valoración de las solicitudes y deja para la convocatoria su concreción definitiva, lo que genera incertidumbre. Examinados estos criterios, resulta forzoso preguntarse qué significa, exactamente, «explicabilidad» y transparencia del algoritmo de IA. ¿Es una cuestión técnica o está relacionada con su posible impacto social? ¿A quién tiene que poder ser explicado? Dicha ambigüedad deja un margen considerable para interpretaciones, que deberá ser salvado en cada convocatoria.
Otro criterio de valoración examinará el nivel de concordancia del proyecto con la Carta de Derechos Digitales del Gobierno de España, un documento axiológico, sin carácter normativo, también elaborado por la SEDIA. Este mecanismo convierte las prioridades del ejecutivo, inicialmente no vinculantes, en posibles consecuencias en caso de alejamiento, a través de la potestad reglamentaria. En la práctica, implicará la revisión de los «derechos instrumentales» de nueva creación descritos en la Carta, ya que podrían convertirse en requisitos para los proyectos que busquen participar en el sandbox.
Por último, cabe destacar la temporalidad del sandbox, que tiene una vigencia de hasta 36 meses o hasta que la normativa europea sea aplicable en España. Si la Unión Europea (UE) hubiera logrado alcanzar un acuerdo sobre la forma definitiva del Reglamento de IA conforme al calendario previsto, el sandbox habría dejado un margen muy corto de reacción a las empresas de sistemas de IA de alto riesgo para aprovecharlo -3 meses y 20 días-. No obstante, dado que no parece que vaya a alcanzarse un acuerdo en la UE sobre el texto definitivo a corto plazo, el sandbox puede ser de utilidad para el impulso de la empresa tecnológica puntera en España.
En conclusión, hay que creer que el Real Decreto 817/2023 es una respetable iniciativa para respaldar proyectos de IA en España. Sin embargo, la elección de los órganos de supervisión, la ambigüedad en los criterios de valoración y su relación con otros documentos facultativos elaborados por el ejecutivo plantean preguntas legítimas sobre la intensidad de la injerencia política en un ámbito mayormente jurídico: preguntas que deben ser planteadas a fin de crear las condiciones de posibilidad adecuadas para un desarrollo robusto de la IA en España.
Un artículo de Inés Cano, asociada de ALEDRA Legal.
Publicado en El Derecho
- Ahora llamado Ministerio para la Transformación Digital y de la Función Pública, encabezado por José Luis Escrivá. ↩︎
- La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) designa a la Subdirección General de la Inteligencia Artificial y Tecnologías Habilitadoras Digitales, y a la Oficina del Dato. ↩︎
