La propuesta de Reglamento sobre Inteligencia Artificial de la UE pretende cubrir todas las brechas en relación con la aplicación de esta tecnología.
Fuente: Canal de YouTube Actualidad IP & IT
Es un hecho que, en el mundo de hoy, la inteligencia artificial va ganando cada vez más espacio. Por esto, como toda nueva tecnología, necesita ser regulada. De ahí que la Unión Europea se haya puesto manos a la obra y ha presentado recientemente la propuesta de Reglamento sobre Inteligencia Artificial que regirá en este territorio. A propósito de ello, aquí vamos a analizar los puntos más destacados que hemos encontrado en el texto.
Para empezar, en el artículo 4 se establecen aquellas prácticas expresamente prohibidas por vulnerar los derechos fundamentales básicos. Se prohíbe, así, la utilización de la inteligencia artificial para la vigilancia masiva indiscriminada. Igualmente, para sistemas de puntuación de crédito social basado en el comportamiento de los individuos o en rasgos de su personalidad, tal como está implantado en China desde hace algún tiempo.
Sin embargo, hay excepciones para este tipo de prácticas como que pueden ser realizadas siempre que exista una regulación expresa al respecto. O que las desarrolle una autoridad pública con el objetivo de proteger la seguridad, pero bajo las salvaguardas necesarias para evitar entrar en conflicto con otros derechos y libertades.
Fuente:Photo by Possessed Photography on Unsplash
Los sistemas de inteligencia de alto riesgo
El segundo punto a destacar es que se introduce el concepto de sistemas de inteligencia artificial de alto riesgo y se defines cuales son, alcanzando a todos los sectores. Este listado se irá actualizando con el tiempo.
En el apartado 3 del artículo 6, se describen qué se debe tener en cuenta para determinar si un sistema de inteligencia artificial es de alto riesgo. Y son los siguientes: la vida de las personas, un impacto negativo en la sociedad, afectar a servicios esenciales y afectar a oportunidades financieras, de educación o profesionales. Del mismo modo, el acceso a servicios públicos o a cualquier otra asistencia pública y la afectación adversa a los derechos fundamentales.
Asimismo, el reglamento establece unos requisitos de cumplimiento que los sistemas de inteligencia artificial de alto riesgo deben cumplir. Para lo cual tendrá que tenerse en consideración la finalidad del sistema de inteligencia artificial en relación con la gestión de riesgos establecida.
Estos requisitos abarcan la obtención de datos para generar modelos predictivos, su entrenamiento en cuanto a la documentación y el mantenimiento de registros. También incluyen la transparencia del sistema para que los usuarios puedan entender cómo funciona el procesamiento de la inteligencia artificial.
De igual modo, se regulan los deep fakes, habiendo que informar expresamente a los usuarios cuando se haga uso de esta tecnología. Y la necesidad de incluir la supervisión humana de la inteligencia artificial. Además deberán cumplir con los estándares de robustez de seguridad más altos de la industria.
Fuente: Photo by Przemyslaw Marczynski on Unsplash
Obligaciones de la propuesta de Reglamento sobre Inteligencia Artificial de la UE
De otro lado, los proveedores de sistemas de inteligencia artificial de alto riesgo deberán cumplir también con una serie de obligaciones. Como planificar y aplicar una estrategia adecuada en relación con la gestión de los sistemas, plasmar en una documentación técnica todas las cuestiones relevantes, incluyendo el propósito de los datos que procesa. Además, deberá informarse a las autoridades competentes de todos los riesgos y brechas de seguridad. A su vez estas autoridades podrán requerir que los proveedores compartan esta documentación interna.
También se crea la European Artificial Intelligence Board que será el órgano encargado de llevar a cabo la supervisión del cumplimiento uniforme del Reglamento. Así como de estudiar el mercado para la identificación de los sistemas de inteligencia artificial de alto riesgo.
Cada Estado deberá designar al menos una autoridad nacional para llevar a cabo las labores de supervisión. Y, por último, las acciones previstas tendrán que ser efectivas proporcionales con la finalidad disuasoria.
Finalmente, la propuesta de Reglamento sobre Inteligencia Artificial de la UE establece las sanciones aplicables. Las más altas son para las prácticas expresamente prohibidas en el artículo 4, o por compartir información falsa incorrecta o incompleta con las autoridades. También para el incumplimiento de la obligación de cooperar con las autoridades. Pudiendo alcanzar hasta los 20 millones de euros o incluso un 4 por ciento del total de la facturación anual mundial.
Autor del vídeo referenciado:
