El Grupo de Trabajo de IA Confiable del Cluster de Inteligencia Artificial de la Comunidad de Madrid ha presentado el Decálogo de la IA Confiable, una iniciativa que reúne diez principios fundamentales para orientar el diseño, el desarrollo y el uso responsable de sistemas de inteligencia artificial.
Pablo Haya, director de Business and Language Analytics en el Instituto de Ingeniería del Conocimiento (IIC), ha participado en el trabajo que ha dado lugar a este decálogo, orientado a facilitar una aplicación responsable, ética y práctica de la inteligencia artificial en las organizaciones.
La publicación del decálogo coincide con una nueva etapa en la aplicación del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act. Desde el 2 de agosto de 2026, la Comisión Europea y las autoridades nacionales han comenzado la fase general de aplicación, supervisión y ejecución del Reglamento, que recuerda construir una IA confiable requiere ir más allá del cumplimiento estrictamente normativo.
Bases para el decálogo de la IA confiable
El decálogo de la IA Confiable se ha elaborado a partir de la síntesis de diferentes marcos internacionales de referencia. Entre ellos se encuentran las directrices éticas de la Unión Europea, los principios de inteligencia artificial de la OCDE, el AI Playbook del Gobierno del Reino Unido y otras aportaciones especializadas sobre el desarrollo responsable de esta tecnología.
El Grupo de Trabajo ha analizado estos marcos para identificar sus principales puntos de convergencia, como la transparencia, la robustez, la equidad y la supervisión humana. Además, ha incorporado otras dimensiones complementarias relacionadas con el valor social, la sostenibilidad y la responsabilidad operativa.
Decálogo para una IA confiable
El objetivo del decálogo es ayudar a convertir los grandes principios de la IA responsable en criterios comprensibles y aplicables durante todo el ciclo de vida de los sistemas IA: desde la definición del caso de uso y la selección de los datos hasta su puesta en producción, supervisión y evaluación continua.
01. Valor y propósito. La IA debe generar valor real para la sociedad, promoviendo el bienestar, la sostenibilidad y el progreso inclusivo.
02. Centralidad en la persona. La IA debe respetar la dignidad, autonomía y derechos fundamentales, reforzando (no sustituyendo) la capacidad humana.
03. Legalidad y alineamiento normativo. Todo sistema debe cumplir con la legislación vigente y los marcos regulatorios aplicables.
04. Equidad y no discriminación. Debe garantizarse un tratamiento justo, evitando sesgos y discriminaciones injustificadas.
05. Transparencia y explicabilidad. La IA debe ser comprensible, comunicando su funcionamiento, limitaciones y criterios de decisión.
06. Privacidad y gobernanza del dato. El uso de datos debe ser legítimo, seguro y controlado, asegurando calidad e integridad.
07. Responsabilidad y rendición de cuentas. Las organizaciones deben asumir la responsabilidad explícita sobre el comportamiento, impactos y resultados de la IA.
08. Control humano significativo. Las decisiones relevantes deben estar sometidas a supervisión humana adecuada al riesgo.
09. Robustez, seguridad y resiliencia. Los sistemas deben ser fiables, seguros y resistentes a fallos a lo largo de todo su ciclo de vida.
10. Gestión del riesgo y mejora continua. La IA debe monitorizarse, evaluarse y adaptarse continuamente para prevenir impactos negativos.
El trabajo del Clúster por una IA ética y transparente
El Clúster de Inteligencia Artificial de la Comunidad de Madrid reúne a empresas, startups, universidades e instituciones con el propósito de impulsar el conocimiento, la colaboración público-privada y el desarrollo de proyectos innovadores relacionados con la inteligencia artificial. El IIC forma parte de este Cluster de IA de la Comunidad de Madrid.
Dentro de las actividades están los grupos de trabajo, concebidos para identificar retos compartidos, definir proyectos, desarrollar soluciones y casos piloto, elaborar estudios y participar en propuestas y convocatorias de ámbito nacional y europeo.
En concreto, el Grupo de Trabajo de IA Confiable centra su actividad en el reto de desarrollar sistemas éticos, transparentes, explicables, respetuosos con la privacidad y capaces de reducir posibles sesgos. El grupo cuenta con profesionales procedentes del ámbito tecnológico, empresarial, académico y jurídico, lo que permite abordar la confianza en la IA desde una perspectiva multidisciplinar.
El IIC está comprometido con el desarrollo de una inteligencia artificial confiable, explicable y orientada a generar un impacto real en las empresas y en la sociedad. Además de desarrollar soluciones IA, el IIC se preocupa de incorporar criterios de transparencia, gobernanza del dato, supervisión humana y control de los posibles sesgos algorítmicos en sus proyectos de IA.
