¿Qué significa la proliferación de la inteligencia artificial para la integridad de la información?
Misión de Letonia ante las Naciones Unidas
Sesión 175
El Pacto Digital Mundial introduce compromisos en materia de integridad de la información: acceso a información y conocimientos relevantes, fiables y precisos, esenciales para un espacio digital inclusivo, abierto, seguro y protegido. El Pacto también fomenta el desarrollo de sistemas de inteligencia artificial seguros y fiables. La proliferación disruptiva de la IA exige acciones urgentes para cumplir estos compromisos.
La revisión de la CMSI+20, que concluirá este año, no debe ignorar los recientes desafíos que la IA plantea a la integridad de la información. La CMSI posterior a la CMSI debe abordar estrategias de mitigación para el posible impacto negativo en los derechos humanos, la democracia y el estado de derecho causado por daños involuntarios o el uso indebido de las tecnologías digitales. Para garantizarlo, la CMSI debe mantener y fortalecer su enfoque de transformación digital, basado en los derechos humanos y con la participación de múltiples partes interesadas.
A medida que las herramientas de IA generativa se vuelven más potentes, también se vuelven rápidamente más disponibles y accesibles. La proliferación de la IA conlleva riesgos de fragmentación, manipulación y pérdida de confianza en el espacio público digital. Preocupan especialmente los crecientes riesgos derivados del uso malicioso de la IA, por ejemplo, la manipulación de información mediante tecnologías de audio y vídeo sintéticos cada vez más avanzadas y la microsegmentación algorítmica. Otros riesgos están relacionados con fallos de funcionamiento que pueden causar daños involuntarios, como problemas de fiabilidad debidos a alucinaciones y sesgos sociales y políticos.
A medida que los países avanzan en la adopción de la IA para garantizar el crecimiento económico y la prosperidad, abordar estos riesgos se convierte en una necesidad práctica. Si bien aún se desconoce el efecto total que la IA tendrá en la integridad de la información, ya se pueden implementar algunas estrategias de mitigación de riesgos. En primer lugar, la adopción y la alfabetización en IA deben avanzar de forma paralela. En segundo lugar, tanto los gobiernos como la sociedad civil deben desarrollar capacidades prácticas basadas en IA para detectar, comprender y abordar los riesgos relacionados con la IA, como la manipulación intencionada de la información. En tercer lugar, se necesitan normas internacionales y marcos regulatorios nacionales para garantizar que la IA sea abierta, inclusiva, transparente, ética, segura y confiable.
Como seguimiento del evento del año pasado en la CMSI, este panel de discusión ofrecerá una actualización sobre el estado de la cuestión en materia de creación de capacidades, desarrollos regulatorios e investigación que pueden ayudar a todos los países a aprovechar el conocimiento y la experiencia sobre las formas de apoyar un entorno en línea libre, abierto, seguro y protegido, resiliente a los impactos negativos de la manipulación de la información en la era de la IA.
Los ponentes abordarán las siguientes cuestiones:
• ¿Cuál es la evaluación actual de los riesgos y oportunidades que presentan las tecnologías de IA para la integridad de la información hoy y en el futuro cercano?
• ¿Qué herramientas tienen a su disposición los gobiernos y la sociedad civil para mitigar los riesgos relacionados con la IA para la integridad de la información y garantizar que la IA se desarrolle como una tecnología confiable, transparente y basada en los derechos humanos?
• ¿Cómo pueden los países y otras partes interesadas trabajar juntos para abordar las cuestiones mencionadas a escala mundial, incluso en el marco de las Naciones Unidas?




-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C9. Medios de comunicación
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles