news 2026/9/12 11:30:03

谷歌DeepMind双盲评估试点发布 密码学黑盒隔离模型与题库

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
谷歌DeepMind双盲评估试点发布 密码学黑盒隔离模型与题库

谷歌DeepMind于2026年8月27日发布了全球首个前沿AI模型双盲评估试点报告。报告显示,外部机构提供私有题库,Google提供Gemini Flash Lite模型权重,二者均封入基于Google Cloud Confidential Space与NVIDIA H100的可信执行环境。

事实还原

此次试点由新加坡AI安全研究院、MLCommons、OpenMined和AVERI参与。评测方无法看到Gemini Flash Lite模型权重,Google无法看到外部机构的测试题目。双方通过密码学“黑盒”实现隔离,防止模型提前接触题目导致的基准污染。

机制拆解

传统高风险外部评估存在权衡:评估方需提交测试提示,存在模型提供方提前获知题目的风险;或模型提供方提交权重,存在知识产权泄露风险。双盲评估通过Confidential Space实现密码学验证,使双方数据保持私有。评估过程在可信执行环境中运行,输出结果不泄露原始输入。

该方法将外部评估限制在密码学“黑盒”内,避免模型后续利用测试问题优化性能。

产业影响

随着AI模型能力提升,模型提前看到测试问题会人为抬高分数,削弱基准可信度。双盲评估为政策制定者、研究者和企业提供更可靠的能力与安全评估,尤其适用于网络安全或政府相关敏感测试。它减少了零日志协议和合同保障之外的技术漏洞。

战略判断

【分析】该试点若被行业采纳,可能改变现有排行榜方法论,促使更多机构转向密码学隔离方案以维护评估独立性。但其实际推广仍取决于其他模型提供方是否愿意开放类似环境,以及执行环境对计算效率的影响。

此次合作显示,Google在外部评估中引入技术保障,旨在平衡模型保护与评估透明度。未来类似框架或扩展至更多前沿模型评估场景。

本文首发于赢政天下
(https://www.winzheng.com/article/barret-zoph-joins-google),获取更多深度技术内容与资源,欢迎访问官网。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/1 16:36:03

GitHub Actions数据库自动化:服务容器配置与CI实战

后端开发最让人头疼的问题,往往不是业务代码本身,而是“我本地明明能跑,一到 CI 就挂”,尤其是跟数据库相关的环节:测试连不上库、迁移脚本没执行、连接串里的环境变量写错导致整条流水线失败。GitHub Actions 里有一套…

作者头像 李华
网站建设 2026/9/5 21:55:33

2022Java面试八股文:从JVM到Kafka的高频考点全解析

最近这几年,Java面试的“卷”程度大家有目共睹。尤其当你盯着大厂岗位的时候,八股文几乎成了绕不过去的一道坎。很多人觉得八股文就是死记硬背,没什么技术含量,但以我这些年既面过别人也被别人面过的经验来看,八股文本…

作者头像 李华
网站建设 2026/9/2 8:37:37

基于ComfyUI的黑洞图像本地生成与批量调用实战

黑洞的视觉范式,大概是近十年科学可视化里最成功的一次设计输出。从《星际穿越》里那个被戏称“卡冈图雅”的漩涡,到事件视界望远镜公布的第一张真实黑洞照片,再到各种 AI 绘画平台上的生成图,你会发现大家脑子里的“黑洞”几乎长…

作者头像 李华
网站建设 2026/9/1 19:55:53

欢聚时代2017校招C语言笔试B卷解析:核心考点与备考指南

作为一个当年参加过欢聚时代校招、后来也帮着部门筛过不少笔试简历的老Coder,看到“欢聚时代2017校招笔试题目(C 基础类)B卷”这个标题还挺有感触的。2017年的题目放在今天看,可能有些考点细节变了,但C语言基础笔试的核…

作者头像 李华
网站建设 2026/9/1 19:56:21

中学生编程启蒙:Python快速入门,2小时写出自动化搜题工具

中学阶段, 好多学生都被刷题效率不高、错题整理迟缓、反复查找答案耗时这类学习细节给拖住进度了, 实际上, 并非那种高深莫测的代码, 而是能够将重复劳作实现自动化的实用工具, 只需两小时就能上手做出一个简易的搜题小工具。就零基础的学生而言, 编程启蒙最为关键的并非背诵概…

作者头像 李华
网站建设 2026/9/9 3:17:58

【Java全栈中的缓存机制应用】:提升应用响应速度的有效方法

有一种新型的技术岗位叫做全栈增长工程师, 它把全栈开发与增长黑客的理念相结合, 目的是借助技术手段提升产品的用户增长以及活跃度。全栈增长工程师要掌握从前端直至后端的多种技能, 在产品开发进程中, 能运用数据分析跟用户行为研究去制定并执行增长策略。### 基础知识篇全栈…

作者头像 李华