ZARZA Somos ZARZA, la firma de prestigio que esta detras de los grandes proyectos en tecnología de la información.
Escuchar "#95. Sistema de Gestión de Inteligencia Artificial: UNE-ISO/IEC 42001"
Síntesis del Episodio
En este podcast contamos con la intervención de Carlos Mario González Arango, Técnico Unidad de Negocio Certificaciones TIC en EQA España
#Certifica #Podcast
#inteligenciaartificial #ia #sistemasdegestión #iso42001
---------------------------------------------------------------------------------------
00:19 Introducción
00:55 ¿Qué es la norma UNE-ISO/IEC 42001 y por qué se considera un hito en la regulación y gestión de la inteligencia artificial?
02:10 ¿A qué tipo de organizaciones se dirige esta norma y qué aspectos de la IA abarca un sistema de gestión certificado?
02:55 ¿Cómo se relaciona la UNE-ISO/IEC 42001 con otras normativas como el AI Act de la Unión Europea o los sistemas de gestión ISO ya existentes (por ejemplo, ISO 9001 o ISO 27001)?
05:29 ¿Qué ventajas aporta a una empresa o entidad implementar y certificar un sistema de gestión de IA bajo esta norma?
07:11 ¿Cuáles son los principales desafíos a la hora de implantar esta norma y qué pasos iniciales recomiendas para empezar el proceso de certificación?
09:17 Despedida
Bienvenidos a un nuevo episodio de “Certifica”, el podcast de EQA. Hoy hablaremos de uno de los avances más importantes en el ámbito de la gestión tecnológica y la gobernanza responsable: la norma UNE-ISO 42001, el primer estándar internacional que establece los requisitos para un sistema de gestión de inteligencia artificial (IA). Para hablar de ello, hoy nos acompaña Carlos Mario González Arango, Técnico
Unidad de Negocio Certificaciones TIC en EQA España
Buenos días, Carlos Mario, ¿qué tal?, ¿cómo estás?
Pues vamos a comenzar, Carlos, cuéntanos,
• ¿Qué es la norma UNE-ISO/IEC 42001 y por qué se considera un hito en la regulación y gestión de la inteligencia artificial?
La ISO 42001 es la versión española del primer estándar internacional que define un sistema de gestión de Inteligencia Artificial. Esta Norma establece requisitos para implementar. mantener y mejorar continuamente dicho sistema según los principios de la gobernanza, la transparencia, y la ética y la seguridad. Esta norma está muy reciente, en abril del 2025 la parte española, la parte documentos de español está dada por la parte UNE. Es un hito porque es el primer estándar global auditable para un sistema de inteligencia artificial, proporciona un marco sólido, mensurable frente a los desafíos éticos, que son principalmente el tema de la IA, el tema ético, la privacidad, la ciberseguridad y la seguridad del tema de datos, que es muy importante en esta normatividad.
• ¿A qué tipo de organizaciones se dirige esta norma y qué aspectos de la IA abarca un sistema de gestión certificado?
El ámbito de la aplicación de IA es muy amplio, cualquier organización sin importar su tamaño, tipo, sector que desarrolla o provea sistemas de IA está invitada a certificarse en esta norma. Esta norma cubre todo el ciclo de vida de la IA, desde el diseño, el desarrollo, el despliegue, hasta la operación continua, garantizando la evaluación de riesgos, la mejora continua, la gobernanza, la transparencia, la responsabilidad, la calidad, la calidad de la información y la seguridad de los datos.
• ¿Cómo se relaciona la UNE-ISO/IEC 42001 con otras normativas como el AI Act de la Unión Europea o los sistemas de gestión ISO ya existentes (por ejemplo, ISO 9001 o ISO 27001)?
Aquí voy a tocar un punto importante porque se escucha mucho que si yo cumplo con la con la 41001 estoy cumpliendo con el reglamento de la Unión Europea 2024/1689. Vamos a diferenciar una un tema acá.
El reglamento UE, el 2024 /1689, es una regulación, es la primera regulación completa y vinculante a nivel mundial. Enfocada a la inteligencia artificial, establece un marco legal para asegurar que los sistemas de IA en la Unión Europea sean confiables, se protejan los derechos fundamentales, promuevan la innovación al ser una regulación vinculante con obligaciones específicas según el riesgo de IA incluidas las auditorías y las penalizaciones o sea por la parte del reglamento y por la parte de la del sistema de gestión de la 41001 es como una parte de ese reglamento, pero es muy importante. Aunque el sistema de gestión de la 42001 no es obligatoria, proporciona una base operativa para cumplir muchos requisitos de este reglamento, tal como son la gestión del riesgo la gobernanza, la transparencia, el control de datos, la supervisión humana.
Este sistema de gestión no sustituye las obligaciones legales, pero va a facilitar la conformidad y es una ventaja competitiva precursora con otros sistemas de ISO.
¿Qué similitud tiene? Bueno, una muy importante es que tiene la estructura PSA.
Como lo tiene la 9001, como lo tiene la 27001, la 27701. Permite una integración fluida.
Otra parte muy importante que tiene esta norma es que tiene un sistema de controles, que apoyan el tema específico de los riesgos, la trazabilidad, la transparencia y la seguridad de información.
La calidad y la privacidad de los datos que ya están cubiertas con algunas otras normas, como lo dije anteriormente.
• ¿Qué ventajas aporta a una empresa o entidad implementar y certificar un sistema de gestión de IA bajo esta norma?
Aquí hay varias ventajas importantes, primero, la credibilidad y la confianza.
Ha demostrado un compromiso medible y auditable con sistemas de guía responsable, reforzando reputación frente a clientes, inversores y reguladores.
Otra norma competitiva, la mitigación de los riesgos, gestiona sesgos, brechas de privacidad, vulnerabilidades y fallos de forma preventiva.
El cumplimiento anticipado de la normatividad, lo que decía anteriormente, es una “patica”, yo digo que es una patica de reglamento 2024/1689 y futuras leyes que van a venir o sea las empresas van a estar ya anticipadas frente a todo ese tema de cumplimiento. Otro trabajo con ventaja competitiva importante la eficiencia operativa.
Gracias a los protocolos estandarizados y mejores prácticas, se va a optimizar el uso de la IA a nivel de colaboradores, a nivel de empresa, a nivel de clientes, a nivel de proveedores.
Otra ventaja, valga la redundancia, es la ventaja competitiva que nos va a permitir acceder a nuevos mercados y concursos públicos que exigen esta certificación y la mejora continua, ya que este sistema se va a adaptar mejor a la evolución de los sistemas.
• ¿Cuáles son los principales desafíos a la hora de implantar esta norma y qué pasos iniciales recomiendas para empezar el proceso de certificación?
Hay varios desafíos. Primero hay que definir un alcance adecuadamente, delimitar qué sistemas, procesos y unidades van a abarcar para evitar omisiones o sobre extensión. O sea, hay que definir primero inicialmente el alcance de la IA.
Segundo, evidencias y documentaciones. Hay que generar registros sólidos para las auditorías, tanto internas como externas. En esos registros de evidencias, ¿qué tenemos que tener? Todo el tema de riesgos, mitigaciones, operatividad, tecnología.
Otro desafío, coordinar multidisciplinariamente a todo el equipo. Hay que implicar a todas las áreas técnicas, las legales, temas de compliance, negocio, requiere gobernanza clara, un liderazgo claro frente a la IA, ¿para dónde vamos? Hacia una cultura organizacional. Hay que fomentar prácticas responsables frente al sistema de IA con un compromiso principalmente de la alta dirección. Y tenemos que otro desafío que es recursos y tiempo. Es un esfuerzo significativo, es un esfuerzo en humanos,
Es un esfuerzo en adaptación tecnológica y es un esfuerzo en conocimiento, o sea, en que las personas se capaciten frente a este tema.
Quería traer aquí un punto importante es que EQA tiene un curso virtual orientado al sistema de inteligencia artificial 42001, o sea que está a disposición del público en general.
Muchas gracias, Carlos Mario, por participar en “Certifica”, el podcast de EQA.
Para despedirnos, vamos a recordar que en eqa.es están disponibles todos nuestros podcasts y que también en nuestra web está la programación de todos los webinars gratuitos que impartimos periódicamente.
Un saludo,
#Certifica #Podcast
#inteligenciaartificial #ia #sistemasdegestión #iso42001
---------------------------------------------------------------------------------------
00:19 Introducción
00:55 ¿Qué es la norma UNE-ISO/IEC 42001 y por qué se considera un hito en la regulación y gestión de la inteligencia artificial?
02:10 ¿A qué tipo de organizaciones se dirige esta norma y qué aspectos de la IA abarca un sistema de gestión certificado?
02:55 ¿Cómo se relaciona la UNE-ISO/IEC 42001 con otras normativas como el AI Act de la Unión Europea o los sistemas de gestión ISO ya existentes (por ejemplo, ISO 9001 o ISO 27001)?
05:29 ¿Qué ventajas aporta a una empresa o entidad implementar y certificar un sistema de gestión de IA bajo esta norma?
07:11 ¿Cuáles son los principales desafíos a la hora de implantar esta norma y qué pasos iniciales recomiendas para empezar el proceso de certificación?
09:17 Despedida
Bienvenidos a un nuevo episodio de “Certifica”, el podcast de EQA. Hoy hablaremos de uno de los avances más importantes en el ámbito de la gestión tecnológica y la gobernanza responsable: la norma UNE-ISO 42001, el primer estándar internacional que establece los requisitos para un sistema de gestión de inteligencia artificial (IA). Para hablar de ello, hoy nos acompaña Carlos Mario González Arango, Técnico
Unidad de Negocio Certificaciones TIC en EQA España
Buenos días, Carlos Mario, ¿qué tal?, ¿cómo estás?
Pues vamos a comenzar, Carlos, cuéntanos,
• ¿Qué es la norma UNE-ISO/IEC 42001 y por qué se considera un hito en la regulación y gestión de la inteligencia artificial?
La ISO 42001 es la versión española del primer estándar internacional que define un sistema de gestión de Inteligencia Artificial. Esta Norma establece requisitos para implementar. mantener y mejorar continuamente dicho sistema según los principios de la gobernanza, la transparencia, y la ética y la seguridad. Esta norma está muy reciente, en abril del 2025 la parte española, la parte documentos de español está dada por la parte UNE. Es un hito porque es el primer estándar global auditable para un sistema de inteligencia artificial, proporciona un marco sólido, mensurable frente a los desafíos éticos, que son principalmente el tema de la IA, el tema ético, la privacidad, la ciberseguridad y la seguridad del tema de datos, que es muy importante en esta normatividad.
• ¿A qué tipo de organizaciones se dirige esta norma y qué aspectos de la IA abarca un sistema de gestión certificado?
El ámbito de la aplicación de IA es muy amplio, cualquier organización sin importar su tamaño, tipo, sector que desarrolla o provea sistemas de IA está invitada a certificarse en esta norma. Esta norma cubre todo el ciclo de vida de la IA, desde el diseño, el desarrollo, el despliegue, hasta la operación continua, garantizando la evaluación de riesgos, la mejora continua, la gobernanza, la transparencia, la responsabilidad, la calidad, la calidad de la información y la seguridad de los datos.
• ¿Cómo se relaciona la UNE-ISO/IEC 42001 con otras normativas como el AI Act de la Unión Europea o los sistemas de gestión ISO ya existentes (por ejemplo, ISO 9001 o ISO 27001)?
Aquí voy a tocar un punto importante porque se escucha mucho que si yo cumplo con la con la 41001 estoy cumpliendo con el reglamento de la Unión Europea 2024/1689. Vamos a diferenciar una un tema acá.
El reglamento UE, el 2024 /1689, es una regulación, es la primera regulación completa y vinculante a nivel mundial. Enfocada a la inteligencia artificial, establece un marco legal para asegurar que los sistemas de IA en la Unión Europea sean confiables, se protejan los derechos fundamentales, promuevan la innovación al ser una regulación vinculante con obligaciones específicas según el riesgo de IA incluidas las auditorías y las penalizaciones o sea por la parte del reglamento y por la parte de la del sistema de gestión de la 41001 es como una parte de ese reglamento, pero es muy importante. Aunque el sistema de gestión de la 42001 no es obligatoria, proporciona una base operativa para cumplir muchos requisitos de este reglamento, tal como son la gestión del riesgo la gobernanza, la transparencia, el control de datos, la supervisión humana.
Este sistema de gestión no sustituye las obligaciones legales, pero va a facilitar la conformidad y es una ventaja competitiva precursora con otros sistemas de ISO.
¿Qué similitud tiene? Bueno, una muy importante es que tiene la estructura PSA.
Como lo tiene la 9001, como lo tiene la 27001, la 27701. Permite una integración fluida.
Otra parte muy importante que tiene esta norma es que tiene un sistema de controles, que apoyan el tema específico de los riesgos, la trazabilidad, la transparencia y la seguridad de información.
La calidad y la privacidad de los datos que ya están cubiertas con algunas otras normas, como lo dije anteriormente.
• ¿Qué ventajas aporta a una empresa o entidad implementar y certificar un sistema de gestión de IA bajo esta norma?
Aquí hay varias ventajas importantes, primero, la credibilidad y la confianza.
Ha demostrado un compromiso medible y auditable con sistemas de guía responsable, reforzando reputación frente a clientes, inversores y reguladores.
Otra norma competitiva, la mitigación de los riesgos, gestiona sesgos, brechas de privacidad, vulnerabilidades y fallos de forma preventiva.
El cumplimiento anticipado de la normatividad, lo que decía anteriormente, es una “patica”, yo digo que es una patica de reglamento 2024/1689 y futuras leyes que van a venir o sea las empresas van a estar ya anticipadas frente a todo ese tema de cumplimiento. Otro trabajo con ventaja competitiva importante la eficiencia operativa.
Gracias a los protocolos estandarizados y mejores prácticas, se va a optimizar el uso de la IA a nivel de colaboradores, a nivel de empresa, a nivel de clientes, a nivel de proveedores.
Otra ventaja, valga la redundancia, es la ventaja competitiva que nos va a permitir acceder a nuevos mercados y concursos públicos que exigen esta certificación y la mejora continua, ya que este sistema se va a adaptar mejor a la evolución de los sistemas.
• ¿Cuáles son los principales desafíos a la hora de implantar esta norma y qué pasos iniciales recomiendas para empezar el proceso de certificación?
Hay varios desafíos. Primero hay que definir un alcance adecuadamente, delimitar qué sistemas, procesos y unidades van a abarcar para evitar omisiones o sobre extensión. O sea, hay que definir primero inicialmente el alcance de la IA.
Segundo, evidencias y documentaciones. Hay que generar registros sólidos para las auditorías, tanto internas como externas. En esos registros de evidencias, ¿qué tenemos que tener? Todo el tema de riesgos, mitigaciones, operatividad, tecnología.
Otro desafío, coordinar multidisciplinariamente a todo el equipo. Hay que implicar a todas las áreas técnicas, las legales, temas de compliance, negocio, requiere gobernanza clara, un liderazgo claro frente a la IA, ¿para dónde vamos? Hacia una cultura organizacional. Hay que fomentar prácticas responsables frente al sistema de IA con un compromiso principalmente de la alta dirección. Y tenemos que otro desafío que es recursos y tiempo. Es un esfuerzo significativo, es un esfuerzo en humanos,
Es un esfuerzo en adaptación tecnológica y es un esfuerzo en conocimiento, o sea, en que las personas se capaciten frente a este tema.
Quería traer aquí un punto importante es que EQA tiene un curso virtual orientado al sistema de inteligencia artificial 42001, o sea que está a disposición del público en general.
Muchas gracias, Carlos Mario, por participar en “Certifica”, el podcast de EQA.
Para despedirnos, vamos a recordar que en eqa.es están disponibles todos nuestros podcasts y que también en nuestra web está la programación de todos los webinars gratuitos que impartimos periódicamente.
Un saludo,