人工智能怎样安全发展?全球首次达成共识
首届全球人工智能安全峰会在英国召开,与会各方共同签署《布莱奇利宣言》
2023-11-03 00:00来源:厦门日报

  综合新华社电、中新网报道 首届全球人工智能(AI)安全峰会当地时间1日至2日在英国布莱奇利园召开。中国、美国、英国、欧盟等多方代表就人工智能技术快速发展带来的风险与机遇展开讨论。

  英国艾伦·图灵研究所、中国科学院、经济合作与发展组织等众多机构,英国“深层思维”公司、美国谷歌公司、中国腾讯公司等知名企业,以及扬·莱坎(中文名杨立昆)、约舒亚·本乔、杰弗里·欣顿等人工智能领域专家出席峰会,重点关注人工智能技术可能带来的风险,同时讨论该技术带来的变革性机遇。

  中国科技部副部长吴朝晖率团参会并在峰会开幕式上发表讲话。与会期间,中国代表团积极宣介中方提出的《全球人工智能治理倡议》,并与相关国家开展双边会谈。

  在开幕式上,由包括中国在内的与会各方共同达成的《布莱奇利宣言》正式发表。这是全球第一份针对人工智能这一快速新兴技术的国际性声明,旨在关注对未来强大人工智能模型构成人类生存威胁的担忧,以及对人工智能当前增强有害或偏见信息的担忧。

  为全球人工智能治理

  提供中国方案

  中方指出,峰会为各国提供了人工智能安全与国际治理议题的重要对话平台与交流合作机会。人工智能治理攸关全人类命运,是世界各国面临的共同课题。发展人工智能,应积极倡导以人为本,加强技术风险管控,并在相互尊重、平等互利的原则基础上,鼓励各方协同共治,增强发展中国家在人工智能全球治理中的代表性和发言权,不断弥合智能鸿沟和治理能力差距。

  在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重原则,通过对话与合作凝聚共识,构建开放、公正、有效的治理机制,共同促进全球人工智能健康有序安全发展。

  中方表示,愿与各方一道就人工智能安全治理加强沟通交流,为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧,切实落实全球发展倡议、全球安全倡议和全球文明倡议,促进人工智能技术更好造福人类,共同构建人类命运共同体。

  近期举行的第三届“一带一路”国际合作高峰论坛上,中方提出《全球人工智能治理倡议》。目前,在全球范围内还没有形成统一的人工智能治理体系和标准规范,而以人工智能为代表的技术治理将是未来全球治理的重要方向,倡议为全球人工智能治理提供了中国方案。

  在国际层面为人工智能

  设立共同行为准则

  英国科学、创新和技术大臣米歇尔·唐兰在开幕式上发表讲话,宣布了《布莱奇利宣言》。

  宣言强调,为了所有人的利益,人工智能应该以人为中心,用值得信赖和负责任的方式设计、开发、部署和使用。

  宣言重点关注两个方面,一是识别共同关注的AI安全风险,建立对这些风险的共同科学和基于证据的理解;二是各国制定各自基于风险的政策,以确保此类风险的安全,酌情开展合作。

  在国际合作方面,宣言呼吁在已有的国际平台和相关倡议框架下进行合作,依据本国情况分级分类监管,在国际层面设立共同原则和行为准则。强调对前沿AI在双边、诸边和多边领域展开多层次科学研究合作,依托已有的国际平台和相关倡议,提供最佳科技以促进政策制定和公共产品的提供。

  在包容性方面,宣言呼吁企业、社会和学界共同参与,并欢迎以发展为导向的方式和政策加强AI能力建设、促进可持续发展并应对发展鸿沟。

  【相关】

  为何选在布莱奇利园?

  布莱奇利园位于英国首都伦敦以北约80公里处,为二战期间英国的密码破译中心,后来作为博物馆对外开放。半个多世纪前,现代计算机科学与人工智能之父、数学家艾伦·图灵在这里发明了第一代图灵计算机。

  有哪些人参加峰会?

  本次峰会邀请了约100名各国官员、人工智能企业代表和专家。英国科学、创新和技术部发布的信息显示,有美国、中国、日本、德国、印度等20多个国家的政府代表,以及联合国、经合组织、国际电信联盟等多个国际组织的代表参会。另有超过80个学术机构、企业和协会组织代表参会。

  【点击】

  人工智能快速发展

  带来哪些风险?

  ●数据隐私和安全

  AI系统通常需要大量的数据进行训练。如果这些数据被泄露、滥用或遭受攻击,可能导致用户隐私泄露,甚至影响个人安全。

  ●算法偏见和歧视

  AI系统中的算法可能存在偏见,导致对某些群体的不公平对待。例如,在招聘过程中,算法可能会因为对某些特征的偏好而歧视某些求职者。

  ●自主武器和军事风险

  随着AI技术在军事领域的应用,自主武器和无人机等设备可能带来更高的战争风险。一旦AI系统出现故障或被恶意利用,可能导致严重的后果。

  ●网络安全威胁

  AI系统的复杂性和依赖性可能使它们成为网络攻击的目标。黑客可能利用AI漏洞入侵系统,窃取数据或操纵系统行为。

  ●人类就业问题

  AI技术的广泛应用可能导致部分工作被自动化取代,从而引发失业问题和社会不平等。此外,对于受影响的工人来说,重新获得技能以适应新的工作环境可能是一项艰巨的任务。据中新网

展开阅读全文