中国首次推出人工智能道德规范,确保人工智能处于人类控制之下

中国公布了第一套管理人工智能的道德规范,强调保护用户权利和预防风险,以配合中国到2030年成为全球人工智能领导者的目标。

据网易新闻消息,中国公布了第一套管理人工智能的道德规范,强调保护用户权利和预防风险,以配合中国到2030年成为全球人工智能领导者的目标。

这一规范指出,人类应该有充分的决策权,并有权选择是否接受人工智能服务——人类有权利要求退出与人工智能系统的互动,或在任何时候中止其运作。该文件由中国科技部于上月底发布。

该规范表示,其目标是“确保人工智能始终处于人类的控制之下”。

德国智库墨卡托中国研究所的分析师Rebecca Arcesati说:“这是我们从中国看到的第一份关于人工智能伦理的规范。”

这一题为《新一代人工智能伦理规范》的准则由人工智能治理委员会起草,该委员会于2019年2月在科技部下成立。当年6月,该委员会发布了一套人工智能治理的指导原则,比新发布的规范短得多,也宽泛得多。

Rebecca Arcesati说:“ 中国最终选择了一种重拳出击的模式,国家正在非常认真地思考人工智能将带来的长期社会转型,从社会异化到生存风险,并试图积极管理和引导这些转型。他们的思维具有显著的前瞻性。”

该文件概述了人工智能系统的六项基本原则,包括确保它们是“可控和可信的”。其他原则是改善人类福祉,促进公平和正义,保护隐私和安全,以及提高道德素养。

Rebecca Arcesati表示,新的人工智能准则是“向那些将整个商业模式建立在算法上的科技巨头发出的一个明确信息”。

这一准则旨在让用户对他们与人工智能系统的在线互动有更多控制权,其他国家也在努力解决这个问题。新文件中提到了数据安全、个人隐私和选择不参与人工智能算法决策的权利。

文件说,预防风险需要发现和解决人工智能系统中的技术和安全漏洞,并提高人工智能产品质量的管理和控制。

指南还禁止人工智能产品和服务从事非法活动,以及严重危害国家安全、公共安全或制造业安全的活动。文件指出,它们也不应该损害公共利益。

2017年,中国制定了一项雄心勃勃的计划,以超越美国,成为全球人工智能的领导者。该计划的第一阶段让政府发挥主导作用,表示到2020年,国内产业应与领先的人工智能技术、应用、道德准则和政策框架保持同步。

下一个目标是到2025年有重大的人工智能突破,并在十年后成为该领域的领先国家。

他补充说,铁路将成为两地联系的主要交通要素。

猜你喜欢

参与评论

【登录后才能评论哦!点击 登录