Suscríbete

prueba

Requisitos para participar en el ´Sandbox` español para Sistemas de IA

El Real Decreto 817/2023, de 8 de noviembre, establece un entorno controlado de pruebas –Sandbox– para el ensayo de sistemas en materia de Inteligencia Artificial. Se da un nuevo paso en materia de regulación. 

Madrid, 22 de noviembre.  Publicado en el BOE el pasado 9 de diciembre, el RD 817/2023, de 8 de noviembre,  pretende establecer a través del Sandbox un entorno controlado de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial que puedan suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas.

Asimismo, regula el procedimiento de selección de los sistemas y entidades que participarán en el entorno controlado de pruebas.

Requisitos para poder participar en Sandbox

• Está abierto a aquellos proveedores de IA y usuarios residentes en España, o que tengan un establecimiento permanente en España o, bien, que sean parte de una agrupación de entidades, donde el representante de la agrupación o apoderado único sea integrante de ésta agrupación, donde el representante de la agrupación o apoderado único siendo integrante de ésta, sea la entidad solicitante y cuyo domicilio o establecimiento principal se encuentre necesariamente en territorio español.
• Podrán acceder en calidad de usuario participante las personas jurídicas privadas y administraciones públicas y entidades del sector público institucional que hagan uso de un sistema de Inteligencia Artificial de alto riesgo, sistemas de propósito general, o modelos fundacionales, siempre que el correspondiente proveedor de IA acceda conjuntamente al entorno con el usuario participante.

Quedan excluidos los siguientes sistemas de IA:

• Sistemas de IA comercializados o puestos en servicio para actividades militares, de defensa o seguridad nacional, cualquiera que sea la entidad que desarrolle esas actividades.
• Sistemas de IA que se sirvan de técnicas subliminales que trasciendan la consciencia de una persona con el objetivo o el efecto de alterar efectivamente su comportamiento de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios físicos o psicológicos a esa persona o a otra.
• Sistemas de IA que aprovechen alguna de las vulnerabilidades de un grupo específico de personas debido a su edad o discapacidad o una situación social o económica específica con el objetivo o el efecto de alterar efectivamente el comportamiento de una persona de ese grupo de un modo que provoque o pueda provocar, con probabilidad razonable, perjuicios físicos o psicológicos a esa persona o a otra.
• Sistemas de IA que tengan el fin de evaluar o clasificar personas físicas durante un período determinado de tiempo atendiendo a su conducta social o a características personales o de su personalidad conocidas o predichas.
• Sistemas de IA de identificación biométrica remota «en tiempo real» para su uso en espacios de acceso público con fines de aplicación de la ley. 

Dicho Real Decreto establece el procedimiento de solicitud y el de adjudicación, entre otros aspectos.

Autor: José Domínguez, miembro del Consejo Asesor de IA+Igual.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

es_ESSpanish
Scroll al inicio