En marzo, el Consejo de Ministros aprobó el Anteproyecto de Ley para el buen uso y la gobernanza de la Inteligencia Artificial. Este documento, aún en fase de tramitación previa su validación definitiva por el Gobierno, incluye una sección clave sobre la identificación biométrica de personas en espacios públicos.
Pero antes de entrar en su contenido, ¿qué dispone la norma europea? Naturalmente, la Unión Europea (UE) aspira a proteger una esfera de privacidad y libertad individual, que es el núcleo de un modelo de sociedad donde las personas tienen la oportunidad de equivocarse, volver a intentarlo, y mejorar, sin estar estrictamente limitadas por circunstancias predefinidas. Por ello, el Reglamento (UE) 2024/1689 de Inteligencia Artificial (RIA), artículo 5, prohíbe ciertas prácticas con sistemas de IA, por considerarlas incompatibles con nuestro orden social. Por ejemplo, se quiere impedir que se utilice esta tecnología para manipular subliminalmente a las personas, o para explotar sus vulnerabilidades, o para predecir el riesgo de que una persona física cometa un delito basándose únicamente en las características de su personalidad.
En esa lista de prácticas prohibidas se encuentra también el uso de sistemas de IA para identificar personas por sus rasgos biométricos en espacios de acceso público en tiempo real. La excepción de esta prohibición tiene sus circunstancias muy reguladas: el artículo 5.1. h) sólo autoriza esta práctica cuando prevalece un bien mayor -“y en la medida que sea estrictamente necesario”-. En concreto, cuando el propósito es salvar a víctimas de secuestro, trata o explotación sexual; cuando el propósito es encontrar a personas desaparecidas, o prevenir una amenaza específica, importante e inminente para la vida o seguridad física, como en caso de un terrorismo; o cuando el propósito es localizar o identificar a un sospechoso de haber cometido un delito determinado, investigar un procedimiento penal o ejecutarlo.
Este último escenario es el que presenta el margen más amplio. Los delitos determinados que autorizan ese uso de la IA son: terrorismo; trata de seres humanos, explotación sexual de menores y pornografía infantil; tráfico ilícito de estupefacientes o sustancias psicotrópicas; tráfico ilícito de armas, municiones y explosivos; homicidio voluntario, agresión con lesiones graves; tráfico ilícito de órganos o tejidos humanos; tráfico ilícito de materiales nucleares o radiactivos; secuestro, detención ilegal o toma de rehenes; delitos que son competencia de la Corte Penal Internacional; secuestro de aeronaves o buques; violación; delitos contra el medio ambiente; robo organizado o a mano armada; sabotaje; y participación en una organización delictiva implicada en uno o varios de los delitos enumerados en esta lista.
Además, para que se pueda utilizar la IA en estos casos, el artículo 5.1. h) RIA exige que en el Estado miembro en que se cometa el delito, se castigue con una pena o medida de seguridad privativa de libertad “cuya duración máxima sea de al menos cuatro años”. La redacción podría ser más clara, pero, en España, algunos de los delitos listados aparentemente ya quedarían excluidos, como son los de medio ambiente y el homicidio involuntario, cuyas penas en abstracto no superan el límite previsto. Y en cuanto a los delitos de lesiones, queda indefinido cuándo pueden ser considerados graves; esta falta de concreción podría provocar arbitrariedades en la apreciación de la gravedad o levedad de los actos delictivos.
Defectos en el anteproyecto de ley
Ahora bien, ¿qué dice el anteproyecto sobre esto? Desde un punto de vista formal, el artículo 10 adolece de algunos leves defectos. Para empezar, hace referencia al “artículo 5 de esta Ley”: debe tratarse un error mecanográfico porque dicho artículo del anteproyecto no guarda relación con el asunto del que se trata. Por lo demás, el artículo 10 del anteproteyecto no añade nada a lo establecido por el RIA, de modo que, de acuerdo con las exigencias de una buena práctica legislativa, debe ser eliminado por completo.
El artículo 11 del anteproyecto también adolece de este defecto en algunas de sus partes. Hay cuestiones que son obvias en nuestro ordenamiento y no necesitan especificación, como que cada uso de este método esté limitado a un fin y sujeto a autorización judicial. Esto es evidente, porque las causas que justifican el método de investigación son comisiones de delitos, y en nuestro ordenamiento, las medidas restrictivas o lesivas de derechos fundamentales en el marco de una investigación de delitos siempre deben ser autorizadas por un juez, artículos 502, 544 bis y siguientes, 546, 574, 579, 588 bis a) y b), y concordantes, de la Ley de Enjuiciamento Criminal.
En cuanto a cuestiones de fondo, el artículo 11 atribuye la concesión de las autorizaciones para este tipo de uso a los juzgados de lo contencioso-administrativo. Esta decisión del legislador no es del todo irrazonable, dado que la regulación actual atribuye a los juzgados del orden contencioso administrativo la competencia para autorizar la entrada en domicilios y restantes lugares cuyo acceso requiere el consentimiento de su titular.
Sin embargo, tampoco es completamente razonable, por dos motivos: primero, porque la causa que justifica el uso de sistemas de IA en estas circunstancias es garantizar la seguridad física de las personas en casos de amenaza específica, importante e inminente; y sobretodo, porque la causa final es la investigación de delitos cuya competencia es de los órganos judiciales penales, entre otros. Por tanto, lo razonable sería que la competencia se atribuyera a los juzgados del ámbito penal, como anteriormente, ex artículo 90.3 de la Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial (LOPJ), que indica que las Secciones de lo Penal enjuiciarán las causas por delito que la ley determine. Y, en todo caso, si ha de atribuirse esta competencia a los juzgados de lo contencioso administrativo, se echa en falta también la previsión de la modificación de la normativa de atribución de estas que, cabe suponer, se articulará en el texto final.
Otra cuestión de fondo a destacar del anteproyecto es que no se haya previsto la intervención de la figura del Ministerio Fiscal en el proceso de autorización; cierto es que no está prevista en los procesos actuales de autorización de entrada de la ley de la jurisdicción contenciosa administrativa, pero sí tendría sentido en un marco de investigación de delitos y resguardo de los derechos fundamentales. En cualquier caso, la falta de previsión específica de la intervención del Ministerio Fiscal en el correspondiente procedimiento de autorización “viene dando lugar a prácticas no uniformes en los órganos judiciales” como se recoge en Informe de la Memoria Anual de 2023, entre otras. Y, como se sostiene en dichos informes, por “una interpretación sistemática e integradora de la propia Ley de la Jurisdicción Contenciosa Administrativa, que contempla la intervención preceptiva del Ministerio Fiscal en el procedimiento especial de protección de los derechos fundamentales”.
Por último, debemos llamar la atención de la posibilidad que se recoge en el anteproyecto de comenzar el uso antes de solicitarse la autorización judicial: entendemos que debería quedar mejor regulada, de forma que garantice y asegure la mitigación de los riesgos, objetivo al que aspira el propio RIA.
Inés Cano Gozalo y Almudena Solana López, abogadas de act legal Spain
Publicado en vozpópuli.