人工智能的普及对信息完整性意味着什么?
拉脱维亚驻联合国代表团
会话175
《全球数字契约》提出了关于信息完整性的承诺——获取相关、可靠和准确的信息和知识,这对于构建包容、开放、安全的数字空间至关重要。该契约还鼓励发展安全、可靠和值得信赖的人工智能系统。人工智能的颠覆性扩散要求我们采取紧急行动,以履行这些承诺。
今年即将结束的WSIS+20审查不应忽视人工智能近期对信息完整性带来的挑战。WSIS+20之后,必须制定缓解策略,以应对数字技术意外损害或滥用对人权、民主和法治造成的潜在负面影响。为确保这一点,WSIS需要维护并加强其基于人权、多利益相关方参与的数字化转型方法。
随着生成式人工智能工具日益强大,它们也正迅速变得更加普及和易于获取。人工智能的激增带来了数字公共空间碎片化、操纵和信任丧失的风险。尤其令人担忧的是人工智能的恶意使用所带来的日益增长的风险,例如,通过日益先进的合成音频和视频技术以及算法微目标定位来操纵信息。其他风险与可能造成意外损害的故障有关,例如由“幻觉”引起的可靠性问题,以及社会和政治偏见。
随着各国纷纷推进人工智能应用,以确保经济增长和繁荣,应对这些风险已成为现实需要。尽管人工智能对信息完整性的全面影响尚不清楚,但一些风险缓解策略现在就可以实施。首先,人工智能应用和人工智能素养需要同步推进。其次,政府和民间社会都需要构建实用的人工智能驱动能力,以检测、理解和应对与人工智能相关的风险,例如有目的的信息操纵。第三,国际规范和国家监管护栏对于确保人工智能的开放、包容、透明、合乎道德、安全、可靠和值得信赖至关重要。
作为去年信息社会世界峰会 (WSIS) 活动的后续,本次小组讨论将提供能力建设、监管发展和研究的最新进展,以帮助所有国家利用知识和经验,建立自由、开放、安全的在线环境,抵御人工智能时代信息操纵的负面影响。
演讲者将讨论以下问题:
• 目前对人工智能技术给当前和不久的将来的信息完整性带来的风险和机遇的评估是什么?
• 政府和民间社会可以使用哪些工具来减轻人工智能相关的信息完整性风险,并确保人工智能发展成为一种值得信赖、基于人权和透明的技术?
• 各国和其他利益攸关方如何在全球范围内,包括在联合国框架内,共同努力解决上述问题?




-
C5。建立使用ICT的信心和安全性
-
C9。半
-
C10。信息社会的道德层面
-
C11。国际和区域合作
-
目标16:促进公正,和平与包容的社会