AI安全峰会顺利举办,中美英等28国签署《布莱切利宣言》

来源:爱集微 #人工智能# #监管#
4.7w

集微网消息,人工智能(AI)安全峰会于11月1~2日在英国布莱切利公园举办,28个国家及欧盟的官员、领导人,以及知名科技公司CEO如Elon Musk(埃隆·马斯克)、ChatGPT公司OpenAI的Sam Altman(山姆·阿尔特曼)等共同参加会议。中国科技部副部长吴朝晖率团赴英国参加人工智能安全峰会。

会后,包括中国、美国、英国、欧盟在内的超过25个与会国家和地区签署了一份《布莱切利宣言》,将共同努力,建立人工智能监管体系。

图片来自网络

英国布莱切利公园有重要的历史意义,这里是二战期间盟军破译纳粹密码的主要地点。半个多世纪前,有“现代计算机科学与人工智能之父”之称的数学家图灵也是在此发明了第一代图灵计算机。

中方观点

吴朝晖在峰会表示,中国政府愿意加强在人工智能安全方面的合作,帮助建立一个国际“治理框架”,各国无论大小和规模如何,都有开发和平等使用人工智能的权利。吴朝晖积极宣介中方提出的《全球人工智能治理倡议》并与相关国家开展双边会谈。

中方指出,此次峰会为各国提供了人工智能安全与国际治理议题的重要对话平台与交流合作机会。人工智能治理攸关全人类命运,是世界各国面临的共同课题。发展人工智能,应当积极倡导以人为本,智能向善,加强技术风险管控,并在相互尊重、平等互利的原则基础上,鼓励各方协同共治,增强发展中国家在人工智能全球治理中的代表性和发言权,不断弥合智能鸿沟和治理能力差距。

中方认为,在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重的原则,通过对话与合作凝聚共识,构建开放、公正、有效的治理机制,共同促进全球人工智能健康有序安全发展。

中方表示,愿与各方一道就人工智能安全治理加强沟通交流,为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧,切实落实全球发展倡议、全球安全倡议和全球文明倡议,促进人工智能技术更好造福于人类,共同构建人类命运共同体。

布莱切利宣言

《布莱切利宣言》(以下简称宣言)称,人工智能(AI)带来了巨大的全球机遇,它有潜力改变或增进人类的福祉、和平与繁荣。这一宣言声明,为了所有人的利益,应以安全的方式设计、开发、部署和使用人工智能,使其做到以人为本、值得信赖和担负责任。宣言肯定了国际社会迄今为止在人工智能领域开展合作所做的努力,以促进包容性经济增长、可持续发展和创新,保护人权和基本自由,增进公众对人工智能系统的信任和信心,并充分发挥其潜力。

随着2022年11月OpenAI公司的ChatGPT公开问世,这一人工智能工具凭借成熟的自然语言交流能力引发全球热度,但同时人工智能的风险也不得不令人担忧。一些人认为AI可能在一段时间内达到比人类更高的智能水平,从而导致无限的、不可预料的后果。目前生成式人工智能可以逼真地模拟声音、表情,并创造音视频、图像。目前世界各国已意识到,利用AI篡改内容或生成具有欺骗性的内容,可能会带来很大风险。所有这些问题都至关重要,此次宣言也申明解决这些问题的必要性和紧迫性。

宣言表示,在确保人工智能安全方面,所有行为者应共同发挥作用:国家、国际论坛以及公司、民间组织和学术界等。我们注意到对人工智能的包容,和弥合数字鸿沟的重要性,重申国际合作应努力、酌情吸引更广泛的合作伙伴参与,并欢迎以发展为导向的方法和政策,帮助发展中国家加强人工智能能力建设和利用人工智能在支持可持续发展、缩小发展差距方面的推动作用。

《布莱切利宣言》提出,在各国合作的背景下,以及为了在国家和国际层面的行动提供信息,我们应对人工智能前沿风险的议程重点关注:

1、识别共同关注的AI安全风险,建立一个共享的、科学的、基于证据的共识,以便于识别和理解这些风险,并在AI能力不断增强的情况下维持这种理解。各国家、地区应以更广泛的全球方法来了解人工智能对我们社会的影响。

2、各国家、地区应制定各自基于风险的政策,以确保此类风险的安全,酌情开展合作。目前已意识到各国国情、适用的法律框架有所不同。这包括提高开发人工智能前沿能力的私营企业行为者的透明度,还包括适当的评估指标、安全测试工具,以及发展相关公共部门的能力,加强相关科学研究。

为了推进这一议程,此次宣言决心支持建立一个具有国际包容性的人工智能前沿安全科学研究网络,其中包括新建和补充现有的多边、双边合作,将现有国际论坛等纳入进来,以开放的方式推动更广泛的国际讨论,并继续开展人工智能前沿安全研究。各国将确保以负责任的方式利用技术带来的益处,造福所有人。

各方观点

目前,各国政府和官员正试图与人工智能公司一起规划未来发展道路,限制AI大模型训练所需的数据库,以及对AI生成的内容进行标注。但是人工智能公司担心,在这项技术被充分发挥潜力之前,就会被监管所拖累。

马斯克在峰会表示:“我不知道公平的规则是什么,但在进行监管之前,你必须有洞察力。”他还补充道,“第三方裁判”可以在风险出现时发出警报。

欧盟在AI监管方面,将重点放在数据隐私、监控以及对人权的潜在影响上,此次在英国举行的峰会研究被称为“前沿人工智能”的高性能通用模型带来的所谓“存在风险”。

谷歌Deepmind联合创始人Mustafa Suleyman(穆斯塔法·苏莱曼)表示,他并不认为目前的人工智能前沿模型会造成任何“重大灾难性危害”,但他表示,随着人工智能行业训练出越来越大的模型,提前做好规划是有意义的。

英国数字部长Michelle Donelan(米歇尔·多纳兰)表示,能让这么多关键人物齐聚一堂是一项成就。她宣布未来将再举行两次人工智能安全峰会,一次将于6个月后在韩国举行,另一次将于12个月后在法国举行。

值得注意的是,在峰会期间美国副总统Kamala Harris(卡玛拉·哈里斯)与英国首相Rishi Sunak(里希·苏纳克)进行会面,并于11月1日共进晚餐。美国政府宣布将成立美国人工智能安全研究所,并将与英国展开紧密合作。苏纳克于10月下旬在一场演讲中宣布,英国将成立全球第一所“AI安全研究院”,以严谨评估、测试各类新AI模型与工具的能力和风险,并与世界各国分享成果、为各方拟定政策做出贡献。

集微网了解到,签署《布莱切利宣言》的国家和地区包括:澳大利亚、巴西、加拿大、智利、中国、欧盟、法国、德国、印度、印度尼西亚、以色列、意大利、日本、肯尼亚、沙特阿拉伯、荷兰、尼日利亚、菲律宾、韩国、卢旺达、新加坡、西班牙、瑞士、土耳其、乌克兰、阿联酋、英国、美国。

(校对/孙乐)

责编: 李梅
来源:爱集微 #人工智能# #监管#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...