Del 11 de septiembre de 2019 al 31 de diciembre de 2021, el CAHAI [Comité ad hoc sobre inteligencia artificial (Ad hoc Committee on Artificial Intelligence)] del Consejo de Europa examinó la viabilidad de establecer un marco jurídico específico para el desarrollo, diseño y aplicación de la inteligencia artificial que tuviera como referencia las normas del Consejo de Europa sobre derechos humanos, democracia y estado de derecho; todo ello, sobre la base de llevar a cabo amplias consultas con múltiples partes interesadas y teniendo en cuenta el trabajo realizado por otras organizaciones internacionales y regionales. Como resultado, el CAHAI concluyó su actividad a finales de 2021 presentando el informe Possible elements of a legal framework on artificial intelligence, based on Council of Europe’s standards on human rights, democracy and the rule of law.
Con el fin de su mandato, el testigo del CAHAI lo recogió el CAI [Comité sobre inteligencia artificial (Committee on Artificial Intelligence)] del 1 de enero de 2022 al 31 de diciembre de 2025; periodo en el que se adoptó el Convenio nº 225 que, desde el 1 de enero de 2026, se encuentra depositado en el sustituto del CAI: el CDNET [Comité Directivo para las Nuevas y Emergentes Tecnologías Digitales (Steering Committee for New and Emerging Digital Technologies)].
En todo ese proceso, el Comité de Ministros del Consejo de Europa tomó la decisión de permitir que, en la redacción del tratado a lo largo de múltiples rondas de negociaciones, participaran 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay), la Organización para la Seguridad y la Cooperación en Europa (OSCE), la Organización para la Cooperación y el Desarrollo Económicos (OCDE), la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) y la Unión Europea; en especial, su Agencia de los Derechos Fundamentales (FRA) y el Supervisor Europeo de Protección de Datos (EDPS) con el objetivo de garantizar la compatibilidad del Convenio con el Derecho de la Unión y su coherencia con el «Reglamento de Inteligencia Artificial» [Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial]; y, además, cerca de 70 representantes del sector privado, la sociedad civil y el mundo académico que participaron como observadores para que -entre todos- se elaborase este pionero instrumento jurídico, convencidos de que los sistemas de IA ofrecen una oportunidad sin precedentes para proteger y promover los derechos humanos, la democracia y el estado de derecho.
De hecho, fruto de ese consenso, un elemento tan significativo como es la definición de los sistemas de inteligencia artificial contenida en el Art. 2 del Convenio no es ni siquiera propia del Consejo de Europa sino la que redactó la OCDE en su Recomendación OECD/LEGAL/0449, de 22 de mayo de 2019, que se revisó el 8 de noviembre de 2023: Un sistema de IA es un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de los datos de entrada que recibe, cómo generar información de salida como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos reales o virtuales. Una vez implementados, los distintos sistemas de IA presentan diversos niveles de autonomía y varían en su capacidad de adaptación.
Los 36 artículos del Convenio se estructuran en 8 capítulos con el objetivo ya señalado de garantizar que las actividades, durante el ciclo de vida de los sistemas de IA, sean plenamente coherentes con los derechos humanos, la democracia y el Estado de Derecho; excluyendo las relacionadas con la protección de los intereses de la seguridad nacional. Los Estados parte que se adhieran a este acuerdo tendrán que aplicarlo aprobando las medidas legislativas, administrativas o de otro tipo que implementen sus disposiciones, con un enfoque gradual y diferenciado, en función de la gravedad y la probabilidad de los efectos adversos que puedan surgir:
- El capítulo I contempla una serie de disposiciones generales (objeto, propósito, definición y ámbito de aplicación del acuerdo);
- El II enfatiza la obligación de adoptar medidas para respetar los Derechos Humanos, la integridad de los procesos democráticos y el respeto al estado de derecho;
- El III enumera los principios fundamentales que deben implementarse en las actividades desarrolladas en el ciclo de vida de los sistemas de inteligencia artificial [la protección de la dignidad humana y la autonomía individual (Art. 7); transparencia y supervisión, incluyendo la identificación del contenido generado por la IA (Art. 8); rendición de cuentas y responsabilidad por los efectos adversos que resulten de estas actividades sobre los derechos humanos, la democracia y el estado de derecho (Art. 9); igualdad y no discriminación (Art. 10); privacidad y protección de datos personales (Art. 11); fiabilidad de los sistemas de IA (Art. 12); y seguridad en las innovaciones, permitiendo establecer entornos controlados para el desarrollo, la experimentación y las pruebas (Art. 13)];
- El Capítulo IV contempla adoptar medidas y cláusulas de salvaguardia para proteger los DDHH si resultasen violados por el desarrollo de estas actividades, mediante un conjunto de medidas destinadas a garantizar la disponibilidad de vías de recurso accesibles y eficaces;
- El V se centra en la evaluación y mitigación de los riesgos y efectos adversos, que deben aplicarse con continuidad, para garantizar que los sistemas de IA no se utilicen para minar las instituciones y procesos democráticos, incluido el principio de separación de poderes, el respeto de la independencia judicial y el acceso a la justicia;
- El VI en la implementación de la Convención; y
- Los Capítulos VII y VIII prevén establecer un primer mecanismo de seguimiento en el seno de una Conferencia de las Partes (COP), compuesta por representantes de éstas, que se consultarán periódicamente con el fin de facilitar el uso y la aplicación efectivos del Convenio y un segundo mecanismo de cooperación internacional entre las Partes y en sus relaciones con terceros países, para alcanzar el objetivo del Convenio; finalmente, concluye con las habituales disposiciones sobre la entrada en vigor, proceso de enmiendas, etc.
 |
| La exsecretaria general del CdE muestra el Convenio en 2024 |
La entonces secretaria general del Consejo de Europa, Marija Pejčinović, declaró en aquel momento que este Convenio Marco sobre Inteligencia Artificial es el primer tratado mundial de este tipo que garantizará que la Inteligencia Artificial respete los derechos de las personas. Es un respuesta a la necesidad de una norma jurídica internacional, respaldada por Estados de distintos continentes que comparten los mismos valores, para aprovechar los beneficios de la Inteligencia Artificial, a la vez que se mitigan sus riesgos. Con este nuevo tratado, pretendemos garantizar un uso responsable de la IA que respete los derechos humanos, el Estado de derecho y la democracia (*).
Más info: Naciones Unidas y el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial.
No hay comentarios:
Publicar un comentario