Gobernanza y evaluación de sistemas de IA para una prestación de servicios confiable
EY (Ernst & Young LLP)
Sesión 177
Las herramientas y productos de IA se adoptan cada vez más en elementos esenciales para la prestación de servicios, tanto en el sector público como en el privado. Para gestionar los riesgos potenciales derivados de este uso de la IA, los responsables políticos, la sociedad civil y los líderes empresariales enfatizan la necesidad de una implementación fiable de los procesos de gobernanza de la IA. Esta necesidad es especialmente importante para los sistemas de IA que, de no ser así, podrían tener un impacto negativo significativo en los derechos humanos. Las buenas prácticas para la gobernanza de sistemas críticos en otros ámbitos (p. ej., ciberseguridad y seguridad informática) han establecido la necesidad de combinar el uso de estándares y marcos de gestión con procedimientos de evaluación fiables que verifiquen la correcta implementación de los procesos de gobernanza e identifiquen posibles deficiencias o mejoras.
En este taller discutiremos el campo de la gobernanza y las evaluaciones de sistemas de IA, identificando los elementos de política que son necesarios para garantizar que la gobernanza y la evaluación de la IA puedan brindar de manera confiable las salvaguardas deseadas para el uso confiable de la IA necesaria para casos de uso de alto impacto.
Revisaremos:
- Enfoques de políticas actuales (tanto obligatorios como voluntarios) para el uso de la gobernanza de la IA y sus evaluaciones
- Avances en el establecimiento de normas y requisitos mínimos para la verificación confiable de los sistemas de IA, incluidas las habilidades, la capacitación y la experiencia necesarias de los proveedores de evaluación
- Desafíos especiales que deben tenerse en cuenta al establecer marcos de gobernanza y evaluación para el uso de la IA en el Sur Global.
En nuestro debate abordaremos cuestiones de política centradas en:
- ¿Cuáles son los requisitos mínimos de política para que las evaluaciones de IA proporcionen información confiable sobre la confiabilidad de los sistemas de IA utilizados en aplicaciones de alto riesgo/impacto?
- ¿Cómo pueden los marcos de evaluación de la IA respaldar la adopción de la IA como herramienta para alcanzar los Objetivos de Desarrollo Sostenible de 2030?
- ¿Cómo pueden los estándares de gobernanza y evaluación de la IA ayudar a reducir la brecha digital global?
La sesión consta de dos partes de treinta minutos cada una. Durante los primeros 30 minutos, el ponente compartirá sus ideas con los participantes y responderá preguntas. En la segunda parte, se invertirán los roles y se pedirá a la audiencia que comparta sus experiencias y casos prácticos, a partir de los cuales los ponentes elaborarán recomendaciones iniciales.





-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C6. Entorno habilitador
-
C10. Dimensiones éticas de la sociedad de la información
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación