La presente es una traducción automática generada por DeepL Translate. La traducción automática es una traducción literal del contenido original a otro idioma. Está totalmente automatizada y no implica ninguna intervención humana. La calidad y la fidelidad de la traducción automática pueden variar considerablemente de un texto a otro y entre diferentes pares de idiomas. La UIT no garantiza la fidelidad de las traducciones y no asume ninguna responsabilidad en caso de error. Si tiene alguna duda acerca de la exactitud de la información presentada en las versiones traducidas de nuestras páginas web, remítase al texto oficial en inglés. Puede que algunos contenidos (como imágenes, vídeos, archivos, etc.) no sean traducidos debido a las limitaciones técnicas del sistema.

Gobernanza y evaluación de sistemas de IA para una prestación de servicios confiable


EY (Ernst & Young LLP)

Sesión 177

martes, 8 julio 2025 14:00–14:45 (UTC+02:00) Participación física (in situ) y virtual (a distancia) Sala K, Palexpo Tecnologías emergentes Perspectiva del socio 1 Documento

Las herramientas y productos de IA se adoptan cada vez más en elementos esenciales para la prestación de servicios, tanto en el sector público como en el privado. Para gestionar los riesgos potenciales derivados de este uso de la IA, los responsables políticos, la sociedad civil y los líderes empresariales enfatizan la necesidad de una implementación fiable de los procesos de gobernanza de la IA. Esta necesidad es especialmente importante para los sistemas de IA que, de no ser así, podrían tener un impacto negativo significativo en los derechos humanos. Las buenas prácticas para la gobernanza de sistemas críticos en otros ámbitos (p. ej., ciberseguridad y seguridad informática) han establecido la necesidad de combinar el uso de estándares y marcos de gestión con procedimientos de evaluación fiables que verifiquen la correcta implementación de los procesos de gobernanza e identifiquen posibles deficiencias o mejoras.
En este taller discutiremos el campo de la gobernanza y las evaluaciones de sistemas de IA, identificando los elementos de política que son necesarios para garantizar que la gobernanza y la evaluación de la IA puedan brindar de manera confiable las salvaguardas deseadas para el uso confiable de la IA necesaria para casos de uso de alto impacto.

Revisaremos:

  • Enfoques de políticas actuales (tanto obligatorios como voluntarios) para el uso de la gobernanza de la IA y sus evaluaciones
  • Avances en el establecimiento de normas y requisitos mínimos para la verificación confiable de los sistemas de IA, incluidas las habilidades, la capacitación y la experiencia necesarias de los proveedores de evaluación
  • Desafíos especiales que deben tenerse en cuenta al establecer marcos de gobernanza y evaluación para el uso de la IA en el Sur Global.

En nuestro debate abordaremos cuestiones de política centradas en:

  1. ¿Cuáles son los requisitos mínimos de política para que las evaluaciones de IA proporcionen información confiable sobre la confiabilidad de los sistemas de IA utilizados en aplicaciones de alto riesgo/impacto?
  2. ¿Cómo pueden los marcos de evaluación de la IA respaldar la adopción de la IA como herramienta para alcanzar los Objetivos de Desarrollo Sostenible de 2030?
  3. ¿Cómo pueden los estándares de gobernanza y evaluación de la IA ayudar a reducir la brecha digital global?

La sesión consta de dos partes de treinta minutos cada una. Durante los primeros 30 minutos, el ponente compartirá sus ideas con los participantes y responderá preguntas. En la segunda parte, se invertirán los roles y se pedirá a la audiencia que comparta sus experiencias y casos prácticos, a partir de los cuales los ponentes elaborarán recomendaciones iniciales.

Panelistas
Ms. Anne McCormick
Sra. Anne McCormick Líder global de políticas públicas en tecnología digital EY (Reino Unido)

Anne tiene más de 30 años de experiencia dando forma a un sólido desempeño empresarial y abordando desafíos complejos en materia de negocios, políticas públicas y reputación.

Como Líder Global de Tecnología Digital - Políticas Públicas de EY, Anne lidera el desarrollo y la implementación de la estrategia global de políticas de tecnología digital de EY, con especial atención a la IA, los datos, la ciberseguridad y las tecnologías emergentes. Anne colabora estrechamente con otros líderes y profesionales del sector tecnológico de EY, así como con legisladores nacionales y supranacionales, organismos reguladores, ONG y otras partes interesadas en el ámbito de las políticas digitales.

Antes de asumir este cargo, Anne dirigió la estrategia global de políticas públicas de inteligencia artificial de EY y también se desempeñó como líder de políticas digitales de EY para la UE y EMEIA, trabajando en estrecha colaboración en la Ley de Servicios Digitales de la UE, la Ley de Inteligencia Artificial y los archivos de datos, entre otros temas.

Anne tiene una maestría en Negocios de HEC, París, y una licenciatura en economía, política e historia de Swarthmore College, Filadelfia.

Cómo Anne está construyendo un mejor mundo laboral
Anne ha desempeñado un papel destacado en la configuración del enfoque de EY y el compromiso externo sobre varios temas regulatorios y políticos clave, incluida la soberanía de los datos y las cuestiones de datos transfronterizos, la garantía tecnológica, la Ley de Servicios Digitales de la UE y la Ley de IA.

A raíz de los nuevos desarrollos políticos, Anne ha trabajado con líderes de EY tanto en mercados maduros como emergentes para identificar nuevas oportunidades de negocios y gestionar riesgos complejos relacionados con políticas.


Dr. Ansgar Koene
Dr. Ansgar Koene Líder global en ética y regulación de la IA EY (Bélgica) Moderador

Ansgar Koene participa en el desarrollo de políticas públicas en torno a la gobernanza y regulación de la Inteligencia Artificial (IA). Trabaja con legisladores, reguladores, líderes del sector y otras partes interesadas para promover el uso confiable de la IA en beneficio de las personas, la sociedad y las organizaciones.

Antes de unirse a EY, Ansgar trabajó como científico investigador multidisciplinario con publicaciones académicas revisadas por pares sobre temas que van desde la gobernanza de las tecnologías digitales, la privacidad de los datos, la ética, los estándares tecnológicos, la robótica bioinspirada, la neurociencia computacional hasta los estudios experimentales del comportamiento humano.

Ansgar tiene una maestría de la Universidad Tecnológica de Delft y un doctorado de la Universidad de Utrecht.

Además de su función en los equipos de EY, Ansgar es investigador senior a tiempo parcial (profesor asociado) en el Instituto de Investigación de Economía Digital Horizon de la Universidad de Nottingham, fideicomisario de la Fundación 5Rights, una organización benéfica con sede en Londres para los derechos de los jóvenes en línea y asesor de inteligencia artificial y ética de datos de la ONG AfroLeadership con sede en Camerún.

Ansgar ha dedicado su carrera a conectar a las partes interesadas, superando barreras sectoriales y culturales, para fomentar un mayor entendimiento y cooperación. En los equipos de EY, trabaja para proporcionar a los responsables políticos, líderes empresariales y ciudadanos las herramientas y el conocimiento necesarios para utilizar la IA de forma responsable y fiable.


Ms. Patricia (Trish) Shaw
Sra. Patricia (Trish) Shaw Director ejecutivo Beyond Reach Consulting Limited (Reino Unido) Panelista a distancia

Patricia tiene más de 20 años de experiencia como abogada en datos, tecnología y asuntos regulatorios/gubernamentales y es una
Abogada colegiada en Inglaterra y Gales, y en la República de Irlanda. Durante su trayectoria como abogada, ha...
Trabajó para empresas del índice FTSE50 y para el NHS. Es autora y editora de varias obras sobre derecho y regulación.
Política, ética e IA. Tiene un interés particular en el sesgo algorítmico y la toma de decisiones autónoma en IA de alto impacto.
sistemas, privacidad y equidad, y cómo la IA impacta en el género, la religión y las creencias. Su enfoque se ha centrado principalmente en
áreas donde existe un alto riesgo de impacto en la sociedad, como en finanzas, salud y educación (incluido el impacto en la
futuro del trabajo).

En 2021, Patricia fue incluida en la lista de las 100 mujeres brillantes en ética de la IA™. Patricia también fue nombrada en la lista de Computer Weekly.
incluida en la lista larga de las mujeres más influyentes en la tecnología del Reino Unido en 2021, en 2022, en 2023 y nuevamente en 2024.


Ms. Nandini Chami
Sra. Nandini Chami Director Adjunto y Miembro - Investigación y Compromiso con las Políticas TI para el cambio (India)

Nandini Chami es Subdirectora y Becaria de Investigación y Participación Política en IT for Change, una organización sin fines de lucro con sede en la India dedicada a la investigación, la participación política y el desarrollo de modelos para una economía y sociedad digitales socialmente justas e igualitarias de género. Codirige la investigación y la participación política de la organización para centrar la justicia digital en la gobernanza de la economía digital global y explorar vías alternativas de innovación para una transición digital justa y sostenible en el Sur Global.


Ms. Cheryl Miller
Sra. Cheryl Miller Vicepresidente de Política Digital USCIB (EE. UU.)

Miller tiene una amplia experiencia en los sectores público y privado, habiendo liderado las prácticas de políticas globales de Internet de Meta y Verizon en importantes organismos de normalización internacional, como la Organización para la Cooperación y el Desarrollo Económicos (OCDE), el Foro de Gobernanza de Internet de las Naciones Unidas (IGF) y la Unión Internacional de Telecomunicaciones (UIT), entre otros.

También fue directora adjunta de personal de tecnología e innovación en el Comité del Senado de Estados Unidos sobre Pequeñas Empresas y Emprendimientos.


Temas
Aprendizaje automático Big Data Competencias digitales Economía digital Ética Inteligencia Artificial Pacto Digital Global (PDG) Tecnologías emergentes
Líneas de acción de la CMSI
  • LA C3 logo C3. Acceso a la información y al conocimiento
  • LA C4 logo C4. Creación de capacidades
  • LA C5 logo C5. Crear confianza y seguridad en la utilización de las TIC
  • LA C6 logo C6. Entorno habilitador
  • LA C10 logo C10. Dimensiones éticas de la sociedad de la información
Objetivos de desarrollo sostenible
  • Objetivo 8 logo Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
  • Objetivo 9 logo Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación