人工智能与全球挑战:道德发展与负责任部署
CCIT / CAST | EC MEDICI 框架 | ICT Watch - 印度尼西亚 | 斋浦尔管理学院诺伊达分校 | Kamusi Project International | 虚拟激进主义 | 拉夫堡大学
会话199
人工智能在全球南方的兴起是一个紧迫的问题,尚未得到绝大多数人的同意或参与。人工智能技术的支持者拥有舞台和资源,可以不受任何限制地向前推进。然而,大多数人仍然对影响他们生活和生计的发展保持沉默。
尽管认识到信息社会世界峰会高级别小组的讨论与大多数人的意见和经验相去甚远,而大多数人又会受到那些他们没有发言权的技术的影响,但该小组仍试图围绕这些紧迫的专题问题,引起那些拥有权力和影响力的人的思考:
- 在多大程度上,追求人工智能是实现全球南方可持续发展目标的正确或必要方法
- 谁控制着对人工智能的追求,以及这种追求在多大程度上是由利他主义还是对权力或利润的追求所驱动
- 人工智能在多大程度上强加了其发展前沿社会的价值观和规范
- 如何才能让这些技术为那些无法控制、也无法选择退出的人带来利益呢?
- 如何保护人们免受人工智能技术的滥用或强制使用?
- 多方利益相关者是否有机会从下层引导人工智能的发展,还是本质上由控制杠杆的人决定?
来源人(按字母顺序排列):
- Alfredo M. Ronchi (EC MEDICI 框架,polimi.it)
- Anuja Shukla(斋浦尔管理学院诺伊达分校,jaipuria.ac.in)
- Donny BU(印度尼西亚 ICT Watch,ictwatch.id)
- Marlyn Tadros(虚拟行动主义,virtualactivism.org)
- 马丁·本杰明(Kamusi 国际项目,kamusi.org)
- Waley Wang (CCIT / CAST,English.cast.org.cn)
- Nick Hajli(拉夫堡商学院数字战略教授)
Alfredo Ronchi 教授,EC MEDICI 框架秘书长。
Alfredo M. Ronchi 是米兰理工大学 (工程学院) 的教授、电子服务专家/顾问、JRC S2D2 (安全、安保、防御、灾难恢复和管理) 负责人、EC-MEDICI 合作框架秘书、联合国教科文组织 IFAP 代表,自 WSIS 成立以来 (2003-/) 一直是其活跃成员。
Ronchi 先生是以下董事会成员:AI&Society 董事会成员 (施普林格·自然)、全球论坛董事会成员 (法国)、世界峰会奖董事会名誉成员 (奥地利)、欧洲教育新社会协会董事会成员 (ENSA 法国)。庆应义塾大学 NoE 成员 (日本)。GD Goenka 大学法学院顾问委员会成员 (印度新德里)。
他曾担任 W3C、ACM、IEEE 和 ITU-WSIS 会议的组织者或项目主席;35 多年来,他组织和管理过国际项目、会议和研讨会。他是 400 多篇论文和多本有关电子文化、电子政务、电子安全和电子服务书籍的作者/撰稿人。
Anuja Shukla 是斋浦尔管理学院 (诺伊达) 的副教授。她拥有超过 12 年的教学经验,发表了超过 24 篇论文。她的研究论文发表在《国际信息管理杂志》、《心理学与营销》、《互动营销研究杂志》、《VISION》和《FIIB》等知名期刊上。她还曾获得 FMS、Symbiosis 和 Amity 的最佳研究论文奖。她的研究兴趣领域包括 eWOM、消费者行为、移动商务、AR/VR 和新兴技术。
https://www.linkedin.com/in/donnybu
Donny BU(先生)于 2002 年与他人共同创立了 ICT Watch,这是印度尼西亚领先的信息和通信技术 (ICT) 民间社会组织 (CSO),通过全国性活动为数字素养奠定了基础。2012 年,他因其专注于网络言论自由和网络行动的社会企业家活动而获得阿育王奖学金。他还是印度尼西亚互联网治理论坛 (ID-IGF) 的共同发起人,该论坛是一个多利益相关方对话的国家平台。他曾在雅加达的几所知名大学教授网络新闻、数字媒体、电子商务和通信技术开发。1999 年,他在印度尼西亚最著名的在线媒体 Detikcom 开始了他的 ICT 记者生涯。他最终担任该公司的副总裁 (VP),直到 2010 年辞职。他走遍了印度尼西亚,与各种校园活动家、民间社会和社区分享他的想法和经验。他积极参与 IGF 和信息社会世界峰会 (WSIS),同时担任 Siberkreasi(印度尼西亚数字素养全国运动)主席,并担任印度尼西亚通信和信息技术部副部长的专家团队。 他的联系方式: dbu [at] donnybu.id
南新罕布什尔大学媒体艺术与传播学教授,虚拟行动主义创始人兼执行董事,该组织致力于研究技术与人权的交叉以及缩小数字鸿沟。
塔德罗斯曾是东北大学中东中心的研究员,也是该校妇女系的访问学者。她在政治学系教授人权和中东研究。此外,她还是哈佛大学人权项目的访问学者。
受过人类学家培训,专注于非洲的国际援助。转而研究计算语言学,运营 Kamusi 以开发语言技术,重点关注边缘化语言,并担任非洲语言学院(非洲联盟)语言技术代表。兼职内容创作者,尤其是有关人工智能、语言技术和语言平等问题的内容,网址为 http://youtube.com/@pirateprofessor
Waley Wang 是一位在人工智能工程和决策智能领域拥有十多年经验的研究员,他自 2017 年起担任 WengeTech.&D2 Intelligence 的创始人兼董事长。现为 Wenge Tech。该公司已发展成为顶级认知和决策智能公司之一。他和他的团队致力于开发企业 AI 产品,包括大型语言模型、多模态模型和领域特定 AI 平台,以提高运营效率和生产力,特别是在媒体、金融、医疗和其他行业。该公司拥有约 800 名员工,为数千家政府和企业用户提供 AI 产品和服务。
Nick Hajli 教授是拉夫堡商学院的 AI 战略专家和数字战略教授。他获得了伦敦大学伯贝克学院的管理学博士学位。Nick 在学术界享有盛誉,在知名期刊上发表了 100 篇论文。他的研究成果获得了 FT50 和 ABS 4 等主要出版物的认可。他获得了多项殊荣,包括被斯坦福大学评为全球前 2% 科学家之一,以及被爱思唯尔评为全球高引用率作者。
- C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
- C4。能力建设
- C5。建立使用ICT的信心和安全性
- C10。信息社会的道德层面
- C11。国际和区域合作
本次会议深入探讨了人工智能 (AI) 和数字技术在全球范围内的广泛影响,明确关注道德考量以及影响文化身份和社会结构的数字鸿沟。会议强调,尽管人工智能有可能彻底改变各个行业,但它也带来了重大风险,包括偏见和侵犯隐私,这些风险可能会对弱势群体产生不成比例的影响。讨论强调,迫切需要制定道德准则和负责任的治理来减轻其负面影响。
在讨论人工智能的全球影响时,讨论提出了对通过互联网传播的内容同质化的担忧,这可能会威胁文化认同。它批评了西方国家的数据在训练人工智能系统方面占主导地位,这可能导致输出反映西方偏见。这种担忧与更广泛的技术公平问题有关,因为该文件还讨论了人工智能在延续现有权力结构方面的风险及其加剧全球南北不平等的可能性。
全球南方国家的多方利益相关者一直积极通过政策和焦点小组讨论来塑造合乎道德的人工智能部署。这些努力旨在确保人工智能符合社会价值观并保障基本权利。讨论重点关注各种主题,包括青年发展、儿童保护、社会参与、语言包容和妇女赋权,反映了理解和指导人工智能影响的全面方法。
最后,文本与信息社会世界峰会 (WSIS) 的行动方针相呼应,强调需要缩小数字鸿沟并确保公平获得信息和通信技术 (ICT)。它主张将可持续发展目标 (SDG) 纳入 WSIS 框架,强调可持续性、赋予边缘化社区权力以及包容性参与数字经济的重要性。会议呼吁采取平衡的方法来发展人工智能,既考虑机遇,也考虑道德挑战,并与 WSIS 的目标产生共鸣,即利用 ICT 的潜力来促进人权、减轻贫困和促进包容性社会。
- 目标4:确保包容和公平的优质教育,并为所有人提供终身学习机会
- 目标5:实现性别平等并赋予所有妇女和女孩权力
- 目标10:减少国家内部和国家之间的不平等
- 目标16:促进公正,和平与包容的社会
本次会议讨论了互联网和人工智能 (AI) 对全球文化、道德和社会规范的广泛影响的几个关键问题,特别强调了对文化身份和安全的影响。讨论强调了与人工智能相关的风险,例如可能侵犯基本权利以及区分人类生成内容和人工智能生成内容的挑战。会议还严格审查了围绕人工智能使用及其社会影响的道德困境,包括用自动算法取代传统的文化监管机构。
此外,会议还将重点介绍人工智能治理如何通过人工智能赋能特定群体,例如青年、儿童、妇女和更广泛的社会,并与多项可持续发展目标 (SDG) 保持一致。例如,他们的举措有助于实现可持续发展目标 4(确保包容和公平的优质教育,促进全民终身学习机会)、可持续发展目标 5(实现性别平等,增强所有妇女和女童的权能)和可持续发展目标 16(促进公正、和平和包容的社会)。
虽然人工智能带来了巨大的好处,但也带来了巨大的风险,需要谨慎管理。本次会议提倡采取平衡的方法来发展人工智能,既要考虑道德层面,又要促进包容性。这与可持续发展目标相一致,强调需要公平地获得技术,解决数字鸿沟问题,确保人工智能进步对可持续发展作出积极贡献,赋予边缘化社区权力。围绕技术殖民主义的对话进一步丰富了这一讨论,质疑外部力量将人工智能技术强加给全球南方国家,从而强调需要当地参与和开发与当地情况相关的技术解决方案。
本次会议还将讨论人工智能如何在制造业、中医和教育等各个领域发挥作用,以提高生产力和社会发展。这一观点强调了人工智能的积极影响,例如提高运营效率和协助决策过程。然而,它也承认人工智能存在诸多挑战,包括人工智能偏见、隐私问题和安全风险,尤其影响妇女和儿童等弱势群体。