这是由谷歌翻译生成的机器翻译。机器翻译是将一种语言的原始内容直译为另一种语言。这是完全自动化完成的,无需人工干预。从一类案文到另一类案文以及在不同的语言对之间,机器翻译的质量和准确性可能存在很大差异。国际电联不保证准确性,也不对可能出现的错误承担任何责任。如果对我们网页翻译版本中提供的信息的准确性有任何疑虑和关切,请重新查阅官方英文文本。由于受到系统的技术限制,一些内容(如图片、视频、文件等)可能无法翻译。

人工智能在司法领域的未来:联合国教科文组织启动关于司法人员使用人工智能的调查


联合国教科文组织

会话363

星期三, 29 五月 2024 16:00–16:45 (UTC+02:00) 物理(现场)和虚拟(远程)参与 15号房间, 中国国际会议中心 3 楼 信息通信技术和新兴技术 互动环节 1 文档

司法人员对采用人工智能 (AI) 工具的兴趣日益浓厚,近年来,他们对生成式 AI 工具的使用也越来越多。最近,全球各地的法官、检察官和律师开始使用由大型语言模型 (LLM) 驱动的聊天机器人来起草法律文件、法律简报并在法庭听证会上阐述论点。

然而,对于司法部门的个人或组织如何充分使用这些工具的正式指导却很少。世界上只有少数几个国家发布了关于司法人员如何以合乎道德和负责任的方式采用和使用这些工具的政策、规则或指导方针。

这些工具可以通过促进信息搜索、自动化任务和支持决策过程来帮助法官、检察官、律师、法律管理公务员和研究人员提高工作质量。

尽管人工智能工具可以支持司法部门的核心目标,但司法人员对人工智能系统的疏忽使用也可能损害人权,例如公平审判和正当程序、获得司法公正和有效补救、隐私和数据保护、法律面前人人平等和非歧视,以及公正和问责等司法价值观。

本次会议将讨论:

- 司法领域使用人工智能的挑战和机遇。

- 司法部门必须做好准备应对人工智能对人权的影响。

- 联合国教科文组织关于司法人员使用人工智能的调查结果。

- 观众对制定《法院和法庭使用人工智能系统的指南》做出的贡献。

联合国教科文组织将在本次会议上公布司法人员使用人工智能的调查结果。本次调查收到了来自 96 个国家的 500 多名司法人员关于其使用生成式人工智能的回复。调查中的大多数受访者表示,需要为法官及其各自的机构提供在司法背景下使用人工智能的指导方针。

教科文组织的调查将成为教科文组织《法院和法庭使用人工智能系统指南》的基础,该指南目前正在进行专家和多方利益相关方的磋商。

小组成员
胡安·戴维·古铁雷斯·罗德里格斯博士 副教授 哥伦比亚安第斯大学 远程小组成员

Juan David 目前是安第斯大学的副教授。此前,他是罗萨里奥大学国际、政治和城市研究学院的教授。他的研究重点是公共政策、人工智能、竞争与监管以及自然资源治理。他在博洛尼亚大学和鹿特丹伊拉斯姆斯大学获得法学和经济学硕士 (LLM),之后在牛津大学获得公共政策博士学位。


阿曼达·莱尔女士 人工智能治理助理 加拿大未来协会

Amanda 是一名律师和政治学家,在法律和技术、公共政策和人工智能社会技术研究方面拥有丰富的经验。她的职业生涯专注于弥合新兴技术与法治之间的差距。她的主要研究课题是打击虚假信息的政策和法规、数字和信息素养、公共部门负责任地采用人工智能以及人工智能行业当前面临的道德挑战。


黄志雄教授 总统 国际信息处理联合会(IFIP)

黄安东兼职教授是国际信息处理联合会 (IFIP) 主席。IFIP 是一个信息和通信技术与科学领域的国际组织,覆盖五大洲,会员总数超过 50 万,与 4000 多名学术和工业界科学家有联系,涉及 100 多个技术工作组。IFIP 总部位于奥地利,于 1960 年在联合国教科文组织的支持下成立。黄安东担任 IFIP 人工智能治理工作组主席,负责处理人工智能技术快速部署和数据在工业、社会和政府各个领域的使用所带来的新兴机遇、监管问题和挑战。他最近与 IFIP Springer Nature Switzerland AG 合作出版的作品包括“人工智能的伦理与监管”和“人工智能和自主系统的法律与监管”。

Anthony 拥有丰富的背景,是一名技术专家、创新者、学者、律师和首席信息官,拥有 ICT 和法律双重资格。他是 AGW Legal & Advisory 的负责人,这是一家多学科法律和咨询公司,为许多新兴技术领域提供咨询,包括人工智能、数据治理、数字化转型、网络安全、隐私和数据保护以及知识产权。他曾担任澳大利亚新南威尔士州政府 ICT 咨询小组主席和 ICT 委员会顾问。他曾任澳大利亚创新、工业、科学、研究和高等教育部行业创新委员会委员。他是斯威本科技大学砂拉越校区工程、计算和科学学院信息与通信技术学院的兼职教授。


Irakli Beridze 博士 人工智能和机器人中心主任 联合国区域间犯罪和司法研究所(UNICRI)

Irakli Beridze 博士是联合国犯罪司法研究所人工智能和机器人技术中心主任。在领导多边谈判、与政府、联合国机构、国际组织、私营企业和公司、智库、民间社会、基金会、学术界和其他国际合作伙伴制定利益相关方参与计划方面拥有 20 多年的经验。Beridze 先生就国际安全、科学技术发展、新兴技术、创新和新技术的颠覆性潜力等众多问题向各国政府和国际组织提供咨询,特别是在预防犯罪、刑事司法和安全问题上。他为世界各国政府提供有关人工智能战略、行动计划、路线图和政策文件的支持。自 2014 年以来,发起并管理了首批联合国人工智能项目之一。在联合国大会和其他国际组织发起和组织了多场高级别活动。寻找与传统威胁和风险的协同作用,并确定人工智能可以为实现联合国可持续发展目标做出贡献的解决方案。他是多个国际工作组的成员,包括世界经济论坛全球人工智能理事会、联合国数字合作高级小组、欧盟委员会人工智能高级专家组。他经常就技术发展、指数技术、人工智能和机器人技术以及国际安全等主题发表演讲。他在国际期刊和杂志上发表过大量文章,并经常被媒体引用谈论人工智能相关问题。伊拉克利·贝里泽 (Irakli Beridze) 是支持 IGC 小组平等承诺的国际性别倡导者。他因 2013 年诺贝尔和平奖授予禁化武组织而获得表彰。


Miriam Stankovich 博士 首席数字政策专家 数字加速中心

Miriam Stankovich 在领导数据保护和治理、知识产权和技术法、新兴技术(人工智能、区块链、物联网、虚拟/增强现实和 3D 打印)的监管影响评估以及技术转让方面拥有丰富的研究经验。她还曾担任国际电信联盟、世界银行、世界知识产权组织、国际金融公司、联合国工业发展组织、联合国区域间犯罪和司法研究所、联合国开发计划署、美洲开发银行、非洲开发银行、非洲联盟和欧盟等主要国际组织的高级法律和政策顾问。

她曾是杜克大学法学院的富布赖特知识产权和技术法学者,以及杜克大学公共政策学院发展经济学、知识产权和技术转让方面的世界银行麦克纳马拉学者。她是众多同行评议文章、书籍、专著、书籍章节、法律和政府报告的作者,涉及国际知识产权、技术转让、创新、公共政策和新兴技术监管。


凯特琳·克拉夫特·布赫曼女士 Women at the Table 首席执行官/创始人、包容性算法联盟联合创始人 女性@TheTable

Caitlin Kraft-Buchman 是 Women at the Table 的首席执行官/创始人,也是 <a+>Alliance for Inclusive Algorithms 的联合创始人。< A+>Alliance 成立于 2019 年,是一个由技术专家、活动家和学者组成的全球联盟,他们倡导包容性人工智能和算法平权行动,以便我们在一个机器学习不会将已经存在偏见的系统带入我们未来的世界中更接近实现性别和种族平等。<a+>Alliance 是平等论坛技术与创新行动联盟的领导者。Women at the Table 成立于 2015 年,是一家不断发展的全球性别平等与民主 CSO,总部位于瑞士日内瓦,致力于利用技术、创新和人工智能的棱镜推动女权主义制度变革,并在技术、经济、可持续性和民主治理方面发挥杠杆作用。凯特琳还是国际性别倡导者组织的联合创始人,该组织成立于 2015 年,总部位于日内瓦,在纽约、维也纳、内罗毕、海牙和巴黎设有分支机构,是一个由女性和男性决策者组成的领导网络,致力于打破性别障碍,实现系统变革。


Rachel Adams 博士 导演 非洲负责任人工智能观察站

Rachel Adams 博士是 Research ICT Africa 的首席研究员,她在该中心担任 AI4D Africa Just AI 中心主任、非洲负责任人工智能观察站主任和全球负责任人工智能指数首席研究员。

Rachel 是联合国教科文组织《人工智能伦理建议书》实施专家委员会成员、剑桥大学利华休姆未来智能中心副研究员、伦敦大学信息法与政策中心研究员、约翰内斯堡威特沃特斯兰德大学 Tayarisha:非洲数字治理卓越中心研究员。Rachel 曾担任南非人文科学研究委员会首席研究专家。

Rachel 在人工智能与社会、性别与人工智能、透明度、开放数据和数据保护等领域发表了大量著作。


Prateek Sibal 先生 项目专员 联合国教科文组织,法国巴黎 主持人

Prateek Sibal 是联合国教科文组织通信和信息部门数字政策和数字化转型科的项目专家。在此框架下,他协调该部门在人工智能和数字化转型方面的工作,重点关注司法部门和政策制定者。他的工作涵盖数字技术治理的研究、宣传、政策建议和能力建设。他在巴黎政治学院教授数字治理。


Dr. Tawfik Jelassi
Tawfik Jelassi 博士 传播与信息部助理总干事 联合国教科文组织(法国巴黎)

陶菲克·杰拉西博士于 2021 年 7 月 1 日被任命为联合国教科文组织传播和信息助理总干事。在这一职位上,他负责该组织关于建设包容性知识社会、领导数字化转型、制定信息通信技术在教育中的作用战略以及促进言论自由的计划。

Jelassi 博士拥有纽约大学(美国)信息系统博士学位和巴黎第九大学(法国)研究生文凭。


Jelassi 博士在高等教育、科学研究以及信息和通信技术领域拥有丰富的经验。他曾在欧洲、美国和突尼斯担任过学术、企业和政府领导职务。

除其他外,他曾担任洛桑国际管理发展学院 (IMD) 的项目主任和战略与技术管理教授(瑞士,2015 年 - 2021 年 6 月)。在此之前,他曾担任突尼斯民主过渡政府的高等教育、科学研究和信息与通信技术部长(2014 - 2015 年)。此前的职务包括突尼斯 Ooredoo Telecom 董事会主席、巴黎国立公路与公路学院院长以及欧洲工商管理学院 (INSEAD)(枫丹白露)技术管理系教授兼系主任。


主题
人工智能 人权 数字包容
WSIS行动专线
  • AL C4 logo C4。能力建设
  • AL C5 logo C5。建立使用ICT的信心和安全性

此次高级别活动将重点发布联合国教科文组织关于司法人员使用人工智能的调查结果。该活动旨在讨论司法机构如何在其职能范围内以负责任和合乎道德的方式使用人工智能工具,目标是制定联合国教科文组织关于在法院和法庭中使用人工智能系统的指南。这符合 WSIS 行动方针 C4(能力建设)和 C5(建立使用 ICT 的信心和安全性)。

可持续发展目标
  • 目标5 logo 目标5:实现性别平等并赋予所有妇女和女孩权力
  • 目标16 logo 目标16:促进公正,和平与包容的社会
  • 目标17 logo 目标17:振兴全球可持续发展伙伴关系

本次会议旨在讨论人工智能系统(包括生成式人工智能系统)的益处和风险,并考虑司法人员在这些主题方面的能力建设需求。在此过程中,会议将深入探讨人工智能系统中的算法偏见等风险,包括性别偏见和种族偏见,以及其他形式的歧视。此外,教科文组织关于司法人员使用人工智能的调查结果的发布将为制定指南提供参考,该指南为在国家、地区和全球层面的人工智能治理中如何利用人工智能系统的这些益处和风险提供指导。因此,本届会议与可持续发展目标 5(实现性别平等并增强所有妇女和女童的权能)、可持续发展目标 16(促进公正、和平和包容的社会)和可持续发展目标 17(振兴可持续发展全球伙伴关系)保持一致。