人工智能伦理

《建议书》
Global Forum on the Ethics of Artificial Intelligence 2024 - Changing the Landscape of AI Governance (main banner)

出于其独特使命,联合国教科文组织数十年来一直领导国际社会,努力确保科学技术在强有力的伦理规范下向前发展。

在基因研究、气候变化、科学研究等众多领域,教科文组织都制定了全球标准,以最大限度地发挥科学发现的效益,同时减少其风险,确保它们服务于建设更加包容、可持续、和平的世界。它还指明了神经技术伦理、气候工程和物联网等领域的前沿挑战。

AI - Artificial intelligence

人工智能的迅速发展在全球创造了诸多机遇,如促进医疗诊断,通过社交媒体实现人与人之间的联系,通过任务自动化提高劳动效率等。

然而,这些日新月异的变化也引发了深刻的伦理问题。原因在于,人工智能系统可能会固化偏见,造成气候退化,以及威胁人权等。这些与人工智能相关的风险已经加剧了现有的不平等,对边缘群体造成进一步伤害。

Artificial intelligence plays a role in billions of people’s lives

人工智能领域比其他任何领域都更需要道德指南。这些通用技术正在重塑我们工作、互动、生活的方式。世界将以自6世纪前印刷术问世以来前所未有的速度发生改变。人工智能技术为许多领域带来了重大好处,但如果没有伦理道德作为保障,它很可能重现现实世界的偏见和歧视,加剧分裂,威胁基本人权和自由。

Gabriela Ramos
Gabriela Ramos联合国教科文组织社会科学及人文科学部门助理总干事Source
Recommendation on the Ethics of Artificial Intelligence - Key facts

4项核心价值观

4项核心价值观是《建议书》的核心,它们为建设造福人类、个人、社会、环境的人工智能系统奠基。
1
人权和人类尊严

尊重,保护,促进人权、基本自由及人类尊严

2
生活在和平、公正与互联的社会中
3
确保多样性和包容性
4
环境和生态系统蓬勃发展

对人工智能的动态理解

《建议书》将人工智能在广义上定义为能以类似智能行为的方式处理数据的系统。

这一定义至关重要。因为技术的高速变革会使任何固定、狭义的定义变得过时,导致面向未来的政策失去效力。

从人权角度看待人工智能

10项核心原则提出了以人权为中心的人工智能伦理
1. 相称性和不损害

人工智能系统的使用不得超出实现合法目标所必需的范围。应运用风险评估来防止此类用途可能造成的危害。

2. 安全和安保

人工智能参与者应避免和应对可能的伤害(安全风险)以及潜在的攻击漏洞(安保风险)。

3. 隐私权和数据保护

必须在人工智能的整个生命周期中保护和促进隐私。还应建立适当的数据保护框架。

4. 多利益攸关方与适应性治理和协作

使用数据时必须尊重国际法和国家主权。此外,包容性的人工智能治理方法应有各利益攸关方的参与。

5. 责任和问责

人工智能系统应该是可审计和可追溯的。应建立监督、影响评估、审计和尽职调查机制,以避免与人权规范发生冲突以及对环境福祉造成威胁。

6. 透明度和可解释性

人工智能系统的伦理部署取决于其透明度和可解释性。这些方面的水平应适合具体情况,因为其与隐私、安全和安保等其他原则之间可能存在冲突。

7. 人类的监督和决定

成员国应确保人工智能系统不会取代人类的最终责任和问责。

8. 可持续性

应根据人工智能技术对“可持续性”的影响对其进行评估。“可持续性”是一系列不断发展的目标,包括联合国可持续发展目标中规定的目标。

9. 认知和素养

应通过开放和无障碍的教育、公民参与、数字技能和人工智能伦理培训、媒体和信息素养来促进公众对人工智能和数据的理解。

10. 公平和非歧视

人工智能参与者应促进社会正义、公平和非歧视,同时采取包容性方法,确保所有人都能享受人工智能的惠益。

可采取行动的政策

关键政策领域明确了会员国可以在哪些方面引导人工智能技术向着负责任方向发展。

虽然价值观和原则对于建立任何人工智能伦理框架的基础至关重要,最近人工智能伦理问题领域发展则更多地强调超越纲领性原则,制定切实可行的战略。

为此,《建议书》明确了11大关键政策行动领域

Recommendation on the Ethics of Artificial Intelligence - 11 Key policy areas

促进性别平等的“Women4Ethical AI”专家平台

教科文组织推出全新协作平台——“女性参与讲伦理的人工智能”(Women4Ethical AI),旨在支持政府和公司确保女性平等地参与设计和应用人工智能。平台成员还将帮助推进《人工智能伦理问题建议书》中的所有伦理条款。

该平台汇集了来自世界各地学术界、民间社会、私营部门、监管机构的17位领先女性专家。她们将分享研究成果,充实良好实践的知识库。平台将推动非歧视性算法和数据源的进步,并激励女童、妇女和代表性不足的群体参与人工智能领域。

AI for Women

人工智能伦理商业理事会

人工智能伦理商业委员会是教科文组织与在拉丁美洲从事人工智能开发或应用的各行业公司之间的一项合作倡议。

理事会为各公司提供了一个平台,使它们能够聚集在一起,交流经验,并促进人工智能行业的伦理实践。通过与教科文组织密切合作,理事会致力于确保人工智能的开发和应用尊重人权并坚持道德标准。

理事会目前由微软和西班牙电信公司担任共同主席,旨在加强伦理和人工智能方面的技术能力,设计和应用《人工智能伦理建议书》规定的伦理影响评估工具,并为制定智能区域法规做出贡献。通过这些方面的努力,它致力于创造一个有利于所有利益相关者的竞争环境,并促进以负责任和合乎道德的方式使用人工智能。

Artificial Intelligence