TechTrends360 科技前沿

聚焦全球科技前沿资讯:AI、芯片、互联网大厂动态,每日更新

人工智能

英伟达捐2.5亿美元算力,助英国AI安全研究

10月14日,英伟达宣布,将在未来五年内向英国提供价值2.5亿美元的加速计算资源,专门用于AI安全研究。这笔以算力而非现金形式交付的投入,将帮助英国强化其在AI风险评估与治理领域的全球雄心。

\n\n

事件详情:每年5000万美元,专攻智能体安全测试

\n\n

据路透社10月14日从伦敦发回的报道,英伟达创始人兼CEO黄仁勋当天宣布,英国每年将获得价值5000万美元的加速计算资源,五年累计2.5亿美元。这些资源将专门用于智能体安全测试(agentic safety testing),帮助英国研究人员为日益强大的AI系统建立更完善的安全防护机制。

\n\n

资源将流向英国多家顶尖学术机构:牛津大学牵头的 BOLD(英国开放式学习与发现实验室),致力于研究让AI系统学会与人类并肩学习、适应与协作的方法;由爱丁堡大学、剑桥大学、牛津大学与伦敦大学学院联合组建的 SOFAIR(基础AI研究科学实验室);以及帝国理工学院的机器人安全项目和伦敦大学学院的相关计划。研究方向覆盖AI智能体安全、机器人控制与开放模型安全。

\n\n

黄仁勋在声明中表示:”AI能力与安全必须同步前进。这就是英国把研究领导力转化为现实解决方案、把科学进步变成惠及每个人的未来的方式。”英国AI大臣卡尼什卡·纳拉扬(Kanishka Narayan)回应称,这笔捐助将帮助确保未来的AI”安全、可靠,并服务于人们的最佳利益”。

\n\n

背景分析:为什么是英国,为什么是现在

\n\n

英国本土并未诞生大模型巨头,但一直在谋求另一条赛道:成为全球AI风险评估与治理的中心。其人工智能安全研究所(AI Security Institute)是全球最早成立的政府支持机构之一,专门负责评估先进AI技术可能带来的风险。据报道,英国政府同时确认,该研究所将获得 OpenAI、Anthropic、谷歌等公司前沿技术在公开发布前的评估权限——要做”裁判”,先得看得见”球”。

\n\n

时机同样关键。近期,Anthropic 与 OpenAI 相继披露了AI智能体出现失控或非预期行为的实例,智能体安全从学术议题变成了现实焦虑,部分业界人士甚至警告其可能对人类构成存在性威胁。本周一,微软总裁布拉德·史密斯在接受采访时表示,英国在牵头制定AI安全指南方面处于有利位置;两天后,英伟达的算力承诺就落了地。

\n\n

值得注意的是,黄仁勋此次正在欧洲巡访,并在伦敦接受了彭博专访,同步释放了一系列与AI安全相关的强硬表态:若有客户被认定在开发不安全的AI软件,他愿意在事先沟通之后停止向其供应芯片;但他同时划定了边界——英伟达的技术属于通用技术,公司在评判他人使用方式时存在限度,”我们不替别人管公司”。

\n\n

对于当前弥漫的安全忧虑与”AI泡沫论”,黄仁勋一并予以淡化:他把安全问题定性为高速增长行业的”成长烦恼”,相信AI软件可以被有效管控和安全部署;他同时重申,AI基础设施的供需失衡将持续数年,”供需最终会趋于平衡,但绝不是今天”。在应对路径上,他提出了”以AI治AI”的思路:加速把防控技术整合进AI系统,让AI本身成为监控者,”我们应该加速AI技术”。

\n\n

影响与展望:算力正在成为安全研究的硬通货

\n\n

这笔捐助最值得玩味的不是金额,而是形式:给的不是现金,是算力。对齐测试、红队评估、大规模行为仿真——今天的安全研究本身就是算力密集型工作。英伟达把最稀缺的生产资料直接交到研究者手里,等于把”能力与安全同步前进”从一句口号变成了具体的资源分配。

\n\n

对英国而言,这是一次国家战略的加码:没有大模型,就做最好的”裁判”。算力加持下的独立评估能力,可能让英国在未来的模型发布节奏、风险评级乃至国际规则制定中拥有更大话语权。

\n\n

对行业而言,悬念在于两点:其一,其他算力巨头是否会跟进,把”捐算力做安全”变成行业标配;其二,评估权限与商业机密之间的边界如何划定——当政府研究所能够提前接触未发布的模型,保密与透明的平衡将被反复考验。

\n\n

接下来值得关注的,是这笔五年承诺的落地节奏,以及英国AI安全研究所基于新算力产出的首批评估结果。在智能体开始替人类订机票、写代码、操作账户的今天,安全测试跑得够不够快,或许和模型跑得够不够快同样重要。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注