一直以来，大模型行业流行着这么一句话：小作坊用料猛。
最近，有一个小团队, 这个团队鲜有人听闻, 它推出了（扫地僧）, 该事物以M3作为基座, 在等同于AI安全领域奥运会级别的榜单之上, 凭借73.1%的成功率, 成功杀进全球排名前七的位置, 其成绩紧密贴近Open AI, 从而强势地拿下了中国第一的位次。
要知道，可不是什么野榜，含金量早已得到行业认可：
AI网络安全能力评估基准, 是由加州大学伯克利分校（UC）团队打造的, 它包含1507个真实漏洞实例, 这些实例全部来自OSS-Fuzz项目沉淀下来的历史漏洞, 其考察的实战场景是越狱攻击、信息泄露防护。
能在这种榜单上排到这个位置，实力无需多言。
需要留意的是, 以扫地僧为基座的M3, 其总参数量仅仅约为4280亿, 然而, 同GPT等这类竞品比起来, 它们的参数量高达10万亿, 这两者并非处于同一个量级, 可是, 扫地僧却操控着M3实现弯道超车, 并就此演绎出了一场“小钢炮创造惊人成果”的戏码呢。
这让行业不禁追问：M3这个基座本身，到底有多能打？
首先, 画出重点, M3是首个, 将1M超长上下文、原生多模态、前沿这三件事情, 做到同一梯队的开源模型有标点符号。
需明白, 单个点上能力突出并非稀奇之事, 在市面上存在多模态方面表现出色的模型，存在代码能力卓越的模型。但是万一你疯狂叠加优势, 将三个条件组合放在一起施加压力, 那么在市面上具备竞争力的, 差不多就只剩下像GPT等头部厂商推出的旗舰产品了。
可如今呢, 开源的M3达成了这般情况, 毫无疑问是重重拍了硅谷有影响力企业的脸面, 就如同往昔突然出现之际, 致使中国AI呈现出迎来国家命运转折关键节点的那般态势。
我们花了钱（错）, 开了个49圆的会员, 利用它进行了一回畅快的系统实测, 设计了三组场景, 还有多个任务, 首先从视频理解能力开始测试, 往后接着测设计能力, 最后测到工程化系统搭建能力, 就想看看M3究竟是不是名副其实！
多模态能力，是企业级AI照妖镜
先测多模态能力。
于此, 我需率先请诸位思索一个问题, 过往之年度, 行业领域皆在谈论Agent, 然而, Agent为何始终迟迟未能实现大规模的实际应用落地呢?
由于模型一旦踏入真实业务流, 便要同步处理长上下文, 还要理解多模态内容, 最后还得依靠强代码能力着手做事, 任何一处短板, 都会致使“链路断裂”。
特别是那多模态, 其重要性不言而喻, 毕竟, 未来的交互并非单纯的文本形式, 而是呈现为“屏幕截图加上语音再加上视频以及文字”这样多元交叉混合的信息流, 你根本不可能每次都通过手动的方式把视频转化成文字, 然后再提供给AI。
M3有着强悍的原生多模态能力, 这能力是模型进入企业场景时所必要的“眼睛”。
在国内, 属于少数具备视频生成大模型基础的厂商, 它将“视觉理解”, 以原生方式, 集成到语言模型里, 如此举措, 所走的这一步棋, 极具前瞻性。
基于此，我们设计了两层难度递增的视频理解任务。
一开始, 我们给M3一个B站科技类视频, 清晰地要求M3用不超过300字的简洁话语, 归纳视频的关键观点、最终评测结果与关键价值信息, 给出核心结论并附带三条论据, 每一条都得注明精确到秒的时间节点。
留意, 此项设计当中所蕴含的巧妙构思乃是要有画面作依据, 不能够单纯去看字幕, 务必要真实地去瞧视频当中呈现了些什么。
像是画面之中呈现了一个就测试数据方面而言的图表, 字幕其中说到了与之相应的结论, 你需要将这个相互对应的关系找寻出来。
这可不是一桩容易的事儿, 需明白, 在市面上有多项对于视频进行处理的模型, 归根结底而言, 就是将语音转换为文字, 而后当作一篇文章去理解。可画面究竟是怎样的, 跟文字要如何进行对应, 它是不在考虑范围内的。
但我们的要求强度很高，你得真的看懂画面，不是翻译字幕就行。
M3达成了, 它不但产生了契合视频内容的结论, 还罗列出了三个关键画面时间点, 以及论据, 每一条论据都精准对应到了视频的具体时间点, 直接将一条长视频拆分成了能够回溯的证据链。
这对我来说，这是一个提升工作效率的神器。
时常, 我得去看一些行业内、时长较长的视频, 像是发布会、学术讲座、开发者访谈这类, 最费时间的, 往往并非书写, 而是那类视频, 时长一个多小时的物件, 想要去快速寻得关键信息, 要么以二倍速跳着观看, 要么到各处去搜寻其他人所撰写的总结, 依靠他人现成内容。
但当下, M3具备同时进行观看画面、聆听字幕以及从事交叉推理的能力, 随后会给予你一份带有时间戳的结构化剖析, 这就仿佛是它代你阅览了一番, 并且还梳理出了会议要点。
爽哉爽哉！
按照这个思路, 我们再次对难度进行了升级, 给了这个英文的编程教学视频给M3, 要求它做一下事情, 把完整的操作顺序拆分成从Step 1到Step N, 对核心技术术语进行翻译, 给每个步骤标记上时间戳, 最后输出一个能够直接当作教程来观看的中文文档。
可以看到, M3将步骤依时间轴予以罗列, 涵盖数据准备部分, 目标定义环节, 则是以命令式实现, 同时进行范式对比, 之后是React渲染应用, 还有异步并发应用, 包括反模式提醒以及收尾工作, 并且每一行都具备秒级时间范围, 如此这般真的是十分贴心了。
对于自媒体行业的朋友来说，这个能力是真的实用！
毕竟, 我们早就步入了视频时代, 而今, 教程愈发呈现出视频化的态势, 测评亦愈发朝着视频化的方向发展, 发布会同样是愈发倾向于视频化。
工作所需之物, 不少时候是文档, 毕竟视频虽好看, 却不易检索, 不能拿视频开工, 开工需步骤, 需表格, 需链接, 需命令, 需可复制的材料。
所以, 于其间部分就对应着一笔十分庞大的转换成本。而M3身处此地所施行的举动, 便是将这笔转换成本予以消除了。
懒到最后，应有尽有啊。
用M3做网页、仪表盘，是否能打？
倘若M3已然能够将视频之中的核心结论以及论据梳理出来, 那么它可不可以直接进行操作, 把这些内容制作成为一个完整的、可以运行的单文件HTML页面呢?
即刻着手去做, 输入相关要求, 促使M3将视频分析得出的结果转变成包含视频核心结论及带有时间戳论据用于展示的这般一个完整的, 能够直接拿去运行的单文件HTML页面, 这款页面要适配深色模式, 还要拥有良好的视觉效果以及交互体验。
另外, 页面得有呈现固定状态的顶部之处所使用的导航栏, 拥有处于首屏位置的结论卡片, 存在用于论据展示的区域, 每一个论据模块都要加带有6比9比例的截图占位图, 时间戳必须能够支持在点击操作之后跳转到B站相应的时间点, 要具备全局的深色模式, 还要实现能够响应式适配桌面以及平板的效果。
把iQOO 15 Ultra视频结论展示里有着像59.7到59.9 fps、≥33 fps、44.2°C、13:23h这样指标卡呈现在页面里, 且标题区域、结论卡片、指标卡、时间锚点都已摆出的M3所做的深色风格页面的结果拿来看。
甚至，还有“三个时间锚点，回到视频现场看证据”这样的细节。
这样就极为巧妙, 要是刚才那个视频理解相关任务的产物是文本的话, 那么到了此处, M3已将文本组合成网页了。
它着手思索阅读节奏, 考量视觉层级, 对于导航予以研究, 对卡片进行关注, 留意锚点, 还顾及深色模式。有一个视频, 被处理成了一页信息页面, 此页面能够阅读, 能够点击, 也能够回看。
不夸大其辞地讲哈, 放在平常, 要是让一位前端人员去做这个页面的完成程度, 没有大半天的时间是完成不了的。
但现在是你把上一轮的输出粘贴进去，一个，它就给你了。
跨越范围, 从“解读一段内容”过渡为“将这段内容转化成一个具备可交互特性的网页产品”, 期间不存在人工介入的情况。这样的状况我则认定为属AI所展现的神奇之处, 它把往昔需要多个不同角色、历经多个不同环节方可达成的事情, 简化演变成为了好似一条既定流程的流水线似的情形。
然后，我们又得寸进尺，往前走了一步。
同一个视频, 要求M3从画面当中提取量化测试数据, 包括性能、功耗、帧率这类的, 还要从字幕里提取量化测试数据, 之后还要把这些数据输出成结构化JSON, 然后还要基于这些数据生成一个有着深色视觉风格的交互式数据仪表盘。
仪表盘得具备四项将核心指标进行汇总的览示卡片, 并设有一个用于对那些测试进行分类甄选的可下拉型筛选框, 另外还有柱状图所在区域以及趋势对比图组成的双图表区域。当进行分类切换之际, 那些用来展示指标的卡片以及两个图表都要能够在瞬间随着变动而实现及时的联动更新。
我的指令之中有数据提取这一环节, 还有格式规范这一环节, 并且有前端工程这一环节, 另外有交互逻辑这一环节。任何一个环节出现问题, 整个事物就无法正常运转。
看到M3交出来的结果的时候，我确实惊艳了一下。。。
这可不是简简单单写一段能够运行起来的代码了, 而是模型具备这样的能力, 即能够看懂一个视频当中的数据, 将其进行结构化处理, 然后最终做成一个是可以使用的工具。并且, 整个过程十分丝滑顺畅。
此乃极为关键的一种跨越, 网页乃是供人去看的, 看板则是供人来使用的。一个优质的看板, 并非仅仅是漂亮而已, 它理应具备能够筛选的能力, 具备能够对比的能力, 拥有能够助力你去做出判断的能力。
我知道很多人会说，这不就是HTML吗？以前也能生成啊。
没错, 以往同样可以这么做。只是, 这次致使我产生不一样感受的所在之处, 在于它的前面衔接的是视频理解这一内容, 而后边所衔接的是工程化产物这样一种东西。
即是说, 它并非仅仅孤立地书写一个页面。而是, 它进行工作的范畴乃是处在一条链路之中。视频多模态理解, 内容总结, 信息网页, 数据看板, 当这几个环节相互连接起来之后, 其意义便已然发生了改变。
你要清楚, 对于一个模型来讲, 最难的从来都不是在某个单独的点上展示技艺, 而是在连续不断的任务过程中, 不会出现崩溃瓦解的状况, 能够从“总结内容”这个阶段加以提升, 进而发展到“组织界面”这个层面, 然后再进一步提升到“生成交互工具”这个阶段, 整个过程连贯流畅, 毫无阻碍。
M3，做到了。
从零搭建工程化系统，M3能不能当架构师用？
接下来, 再施展一个极具威力的招数, 我们展开测试, 看看M3会不会明白“系统究竟要怎样搭建”这个事情。
简言之, 倘若你告知它你所需求的是怎样的一种工程化方案, 它是否能够将架构、模块、异常处理、配备管理这类事物全部思索明白, 进而给予你一套能够运行的事物呢。
我们设计了两个任务，都是从零搭建一套完整的工程化基础设施。
首先, 存在着自动化模型评测这一事项。其要求M3去撰写一套完整的测试夹具。该测试夹具的功能涵盖众多方面, 其一为读取JSONL格式的测试集, 其二是并发调用官方API, 其三是采用BLEU加语义相似度双指标评分, 其四是在失败后能够自动进行重试, 最后还要生成一个可视化的HTML报告。并且要求此测试夹具具备模块化的特点, 注释要清晰, 异常处理要完善, 还要兼容3.10以上的环境, 所有依赖必须是PyPI公开主流库。
M3给出了一个完整的.py, 有从输入读取的部分, 有进行并发调用的部分, 有开展指标计算的事情, 有生成报告的情况, 该有的模块一个都没少, 并且还给出了运行结果:
约7133字节的文件, HTML报表显示 75% 的通过率, 即6次通过、1次失败、1次错误, 且与.mock数据相符, 它诠释了评分维度, 比如接口契约、并发正确性、重试策略、指标选择、报告可用性、工程化等均被涵盖。
是这样的, M3并非將任务领会成“撰写一个脚本”, 而是在构建一个能够进行验证、可以行得通、具备可扩展性的小型系统, 值得称赞。
难度更高的下一个任务, 是线上稳定性, 以及漂移监控之事。此要求M3去设计出一套完整的, 关于模型线上监控的方案, 其中涵盖主脚本, 还有YAML配置文件。
核心功能是, 每隔30分钟就会自动进行一次探测, 接着向M3发送10条固定的金标准提示词, 之后记录响应延迟, 再记录输出长度, 还记录与上一次同提示词输出的余弦相似度。然后对历史数据计算均值, 并且还计算标准差, 若当前值超出均值加上或者减去3个标准差, 那么就判定为异常漂移, 进而触发SMTP邮件告警, 邮件里需要写明异常指标名称, 还要写清楚当前值, 以及历史均值, 还要明确阈值范围, 最后要写清楚触发异常的提示词。
这是只有运维工程师才能够做出来的事情, 定时任务, 统计检测, 报警机制, 配置管理, 这非常多纷繁复杂但缺一不可地汇聚在一起形成的一整套内容须得在两个文件里顺畅无阻地运行起来, 并且M3十分出色地达成了。
这些任务的共同点是什么？
并非是要让模型去回答一个问题, 它们所做的事情乃是要让模型去设计出一套能够持续进行工作的机制。
那么你能够瞧见, M3它不止能够撰写一个函数、一个页面, 它还能够去明白一个系统究竟应当怎样搭建起来, 它所呈现出来的, 是具备能够看懂、能够拆解、能够执行、能够交付的全链路能力。
而它具备开源的特性, Token Plan的价格是每月49块, 其性价比被拉伸至十五倍的程度。有一个是开源的这样一种模型, 能够达成如此的情形条件, 具备如此效果, 属于颇具良心的表现所在了。
几乎能够确定的是, 在紧接着的半年期间, 这种能力有希望催生出一大批“一人公司”或者“超级个体”, 他们所仅是凭借着创意以及对业务的理解, 而剩余的有关全工程化的脏活以及诸如重体力劳动等累活, 将会全部由AI承担。
M3开源，打的是硅谷巨头的脸
最终, 我要表明, 当处于头部的那些实行闭源策略的厂商都在进行价格提升或者流量限制的时候, 开源的这一举措, 击中了采取闭源模式的行业巨头的关键要害之处。
在众多中小企业的眼里, 在诸多独立开发者眼中, 所谓“接近闭源旗舰的效果”, 加上仅十五分之一的价格, 这便意味着生产流程的重构。
以前对于那种属于“高频低敏”范畴且自己不敢用人工智能去做的任务, 像批量提取视频元数据、进行海量日志分析, 现在, 能够毫无顾忌地将人工智能投入使用了, 随随便便去运用它就行, 再者价格如白菜般低廉, 即便没日没夜地运行一整天, 心里也不会觉得心疼。
而且，“扫地僧”这波出圈，也是神助攻。
以M3当作基座, 于安全榜单占据榜首, 此案例极为精彩, 直接破除了“开源模型不安全且不专业”这般的刻板印象, 为M3迈入金融、政务等有着高合规要求范畴清除了心理阻碍。
当然，这也很打闭源巨头的脸：
当开源模型在长文本方面, 以及多模态方面, 还有代码能力方面, 都全面追平闭源旗舰的时候, 闭源厂商的护城河究竟在何处呢?
如果仅仅是“更稳定”或“更安全”，这个壁垒在快速变薄。
而对我们普通人来说，那自然是大大的利好：
从长久以往来看, 开发者于开展复杂项目之时, 对诸如一系列巨头存在着高度的依赖状况, 然而M3的现身, 给予了国内开发者一个具备“不受制于人状况”特质的高性能基础架构, 尤其是当处于涉及敏感数据的相关场景之中, 开源与国产二者所形成的组合态势, 拥有着巨大的战略价值。
对于创业者来说，最好的时代，已经来了。
