顶级AI科学家呼吁全球加强AI风险应对措施-德赢Vwin官网网

据《科技日报》5月22日报道，全球范围内的专家已经展开深度探讨，并首次针对先进AI的风险制定全球公共政策，以此奠定AI发展的基础。然而，AI专家们对此表示担忧，认为各国政府需加强对AI风险的管控力度。

在第一届AI安全峰会半年后，第二届峰会于韩国首尔召开，25位世界顶级AI科学家在此次会议上呼吁全球采取更为积极的行动。他们强调，虽然各国政府已经开始讨论AI风险，并试图制定初步指导方针，但这与专家们所期待的快速、变革性的进展还有很大差距。

发表在《科学》杂志上的一篇专家共识文章中，专家组提出了全球应立即采取的政策优先事项。文章作者之一、英国牛津大学工程科学系教授菲利普·托尔表示：“在上届AI峰会上，世界各国已经意识到需要采取行动，现在正是将模糊的建议转化为具体承诺的时刻。”

文章指出，全球领导人需要认真思考，未来十年内可能出现的超越人类能力的通用AI系统。尽管各国政府一直在讨论AI风险，并尝试引入初步指导方针，但这与专家们所期望的快速、变革性的进展还有很大差距。

当前，AI安全研究严重不足，仅有1%-3%的AI出版物涉及相关安全问题。此外，全球尚未建立有效的机制或机构来防止AI的滥用和鲁莽行为，包括如何使用能够独立行动和实现目标的自治系统。

为了在AI快速发展过程中防范极端风险，文章建议各国政府设立可以迅速行动的AI监管机构，并为这些机构提供充足的资金支持。同时，AI领域需要进行更加严格的风险评估，并制定可行的措施，而非仅仅依赖模糊不清的模型评估。

此外，AI研发企业应优先考虑安全性，并证明其系统不会造成伤害，AI开发人员也应该承担起证明安全性的责任。同时，人们还需要制定与AI系统带来的风险水平相匹配的缓解策略，例如制定“自动”政策，当AI达到特定能力里程碑时自动触发。

对于具有超凡能力的未来AI系统，政府必须做好带头监管的准备，包括许可开发、限制其在关键社会角色中的自主权、停止部署部分能力、强制执行访问控制等措施，直至人们准备好充分的保护措施为止。

牢记AI非玩具

卑诗大学AI教授兼强化学习专家杰夫·克伦纳强调，科技如太空旅行、核武及互联网，几年内便从科幻变为现实，人工智能亦如是。“如今我们需面对未来似科幻小说般的危机，务必做好充分准备。”

目前，AI已在黑客攻击、社交操控及战略规划等重要领域取得显著成果，且可能很快引发前所未有的“控制权”争夺战。AI系统有可能为达成某种“不良意图”，欺骗人类信任、夺取资源并影响决策者。为避免人为干涉，它们甚至可在全球服务器网络上复制自身算法。

在此背景下，大规模网络犯罪、社会操控及其他威胁将急剧上升。在公开冲突中，AI系统甚至能自主部署各类武器，包括生物武器。若AI发展失控，恐将导致大规模生命损失、生态破坏、人类边缘化乃至灭绝。

加州大学伯克利分校计算机科学教授斯图尔特·卢塞尔表示：“此篇权威专家共识文章呼吁政府加强监管，而非自行设定行业规范。”

“企业或许会抱怨遵守法规困难，然而‘法规扼杀创新’之论断实属无稽之谈。”卢塞尔指出，“此刻应严肃看待先进AI系统，它们并非玩具。在我们尚未掌握确保其安全之道前，贸然提升其能力无疑是极度危险的行为。”

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

服务器

服务器

+关注

关注
12

文章
9123

浏览量
85318
AI

AI

+关注

关注
87

文章
30726

浏览量
268870
强化学习

强化学习

+关注

关注
4

文章
266

浏览量
11245

AI 推动未来科学晶泰科技共襄未来科学大奖周

的科学家，探讨学科交叉与学术创新，倾力打造兼具权威性、专业性和国际影响力的科学盛会。未来科学大奖由未来论坛于 2016 年创设，被誉为"中国诺贝尔奖"。未来论坛是当前中国极具声望的民间科学

发表于 12-18 09:58 •83次阅读

西湖大学：科学家+AI，科研新范式的样本

研究，创新科研新范式。这一点在西湖大学的科研项目中已得到体现。成立于2018年的西湖大学是由施一公院士领衔创办的、聚焦前沿科学研究的研究型大学，该校鼓励科学家们探索AI与各学科交叉融合，为科研创新提速。为此，西湖大学在浪潮信息

发表于 12-12 15:59 •141次阅读

《AI for Science：人工智能驱动科学创新》第6章人AI与能源科学读后感

幸得一好书，特此来分享。感谢平台，感谢作者。受益匪浅。在阅读《AI for Science：人工智能驱动科学创新》的第6章后，我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细

发表于 10-14 09:27

AI for Science：人工智能驱动科学创新》第4章-AI与生命科学读后感

了传统学科界限，使得科学家们能够从更加全面和深入的角度理解生命的奥秘。同时，AI技术的引入也催生了一种全新的科学研究范式，即数据驱动的研究范式，这种范式强调从大量数据中提取有价值的信息，从而推动

发表于 10-14 09:21

《AI for Science：人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

和数量直接影响到模型的准确性和可靠性。因此，数据获取、处理、分析和质量控制在AI for Science中至关重要。此外，数据驱动的研究范式也促使科学家从传统的假设驱动转向更加灵活和开放的研究方法

发表于 10-14 09:16

《AI for Science：人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

如何激发科学家的创新思维。AI不仅仅是工具，更是一种思维方式，它鼓励我们跳出传统框架，以数据为驱动，探索未知。这种思维方式的转变，不仅促进了科学方法的革新，也为解决全球性挑战提供了新的

发表于 10-14 09:12

名单公布！【书籍评测活动NO.44】AI for Science：人工智能驱动科学创新

！《AI for Science：人工智能驱动科学创新》这本书便将为读者徐徐展开AI for Science的美丽图景，与大家一起去了解：人工智能究竟帮科学家做了什么？人工智能

发表于 09-09 13:54

平衡创新与伦理：AI时代的隐私保护和算法公平

权的保护必须被置于核心位置。随着越来越多的个人信息被用于训练和运行AI系统，如何保护这些信息不被滥用成为了一项艰巨的任务。加强数据加密技术、实施严格的数据访问控制和匿名化处理，都是有效的手段。此外

发表于 07-16 15:07

前OpenAI首席科学家创办新的AI公司

消息在业界引起了广泛关注，因为苏茨克维曾是OpenAI的联合创始人及首席科学家，并在去年在OpenAI董事会上扮演了重要角色。

发表于 06-21 10:42 •517次阅读

NVIDIA和Recursion利用AI超级计算机加快新药研发

BioHive 由 NVIDIA AI 驱动，用于加速医疗领域科学家的工作。在全球超级计算机 TOP500 榜单中，它的排名上升了 100 多位。

发表于 05-16 09:46 •1262次阅读

助力科学发展，NVIDIA AI加速HPC研究

科学家和研究人员正在利用 NVIDIA 技术将生成式 AI 应用于代码生成、天气预报、遗传学和材料科学领域的 HPC 工作。

发表于 05-14 09:17 •406次阅读

香港中文大学教授、IEEE Fellow邢国良出任国科微AI首席科学家

4月22日，国科微宣布正式聘任国际顶级AI专家香港中文大学教授、IEEE Fellow邢国良先生为国科微AI首席科学家，以进一步加强公司在

发表于 04-22 15:49 •506次阅读

全球AI科学家呼吁合作应对人工智能风险

在此份声明中，学者们强调必须联手建立起立体的人工智能安全防线，预防可能在人类寿命周期内带来无法承受的风险。人们须要团结协作，以规避未知技术可能引发的灾难后果。

发表于 03-19 16:04 •957次阅读

电源芯片短路恢复过冲的风险及应对措施

电源芯片短路恢复过冲的风险及应对措施电源芯片是电子产品中非常重要的组成部分，其稳定工作对整个电子设备的正常运行至关重要。然而，电源芯片在使用过程中可能会遇到短路和过冲的风险，给设备带

发表于 02-06 09:46 •2016次阅读

谷歌DeepMind科学家欲建AI初创公司

据知情人士透露，谷歌人工智能部门DeepMind的两名杰出科学家Laurent Sifre和Karl Tuyls正在与投资者商讨在巴黎成立一家新的人工智能初创公司的事宜。

发表于 01-22 14:41 •484次阅读