news 2026/6/15 16:53:43

教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

在视觉场景中识别并分割任意物体的能力,是多模态人工智能的重要基础,可广泛应用于机器人、内容创作、增强现实、数据标注等领域。SAM(Segment Anything Model)是 Meta 于 2023 年 4 月发布的人工智能通用模型,提出了针对图像和视频的可提示分割任务,主要支持基于点、框或掩码的提示来分割单个目标。

已推出的 SAM、SAM 2 模型在图像分割领域取得了显著进展,但仍未实现在输入内容中自动寻找并分割某一概念的所有实例。为填补这一空白,Meta 推出最新迭代版本 SAM 3,新版本不仅显著超越了前代模型的可提示视觉分割(PVS)性能,更率先为可提示概念分割(PCS)任务确立了新标准。

SAM 3 在点击提示的视觉分割方面(左图)超越了 SAM 2 并引入了新的可提示概念分割功能(右图)

SAM 3 架构包含一个检测器(detector)与一个跟踪器(tracker),二者共享同一视觉编码器。检测器基于 DETR 框架构建,能够接收文本、几何信息或示例图像作为条件输入。为应对开放词汇概念检测的挑战,研究人员引入了一个独立的「存在头(presence head)」,以此解耦识别与定位过程。

跟踪器则沿用了 SAM 2 的 Transformer 编码器-解码器架构,支持视频分割与交互式优化。这种检测与跟踪分离的设计,有效避免了两项任务之间的冲突:检测器需要保持身份无关性,而跟踪器的核心目标正是在视频中区分并维持不同对象的身份。

SAM 3 架构图

SAM 3 在基准测试 SA-Co 的图像和视频 PCS 任务上取得了 SOTA 结果,性能是前代系统的 2 倍,且在 H200 GPU 上,新版本处理包含超 100 个检测对象的单张图像仅需 30 毫秒。模型还能扩展到 3D 重建领域,助力家装预览、创意视频编辑和科学研究等多场景应用,为计算机视觉的未来发展提供强大动力。

「SAM3:视觉分割模型」已上线至 OpenBayes 公共教程板块,快来开启你的创作之旅吧!

教程链接:

https://go.openbayes.com/pnzQk

查看论文:

https://arxiv.org/abs/2511.16719

Demo 运行

01 Demo 运行阶段

1.登录 http://OpenBayes.com,在「公共教程」页面,选择「SAM3:视觉分割模型」教程。

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

3.选择「NVIDIA GeForce RTX 5090」以及「PyTorch」镜像,按照需求选择「按量付费」或「包日/周/月」,点击「继续执行」。新用户使用下方邀请链接注册,可获得 4 小时 RTX 5090 + 5 小时 CPU 的免费时长!

小贝总专属邀请链接(直接复制到浏览器打开):

https://go.openbayes.com/9S6Dr

4.等待分配资源,首次克隆需等待 3 分钟左右的时间。当状态变为「运行中」后,点击「API 地址」旁边的跳转箭头,即可跳转至 Demo 页面。请注意,用户需在实名认证后才能使用 API 地址访问功能。

02 效果演示

Demo 运行页面提供 Image Segmentation、Video Text Prompting、Video Point/Box Prompting 三个功能,仅支持英文输入。本教程以 Video Text Prompting 为例。

将测试视频上传后,在「Text Prompt(s)」处输入需要识别分割的名词短语,依次点击「Apply Text Prompt(s)」「Propagate across video」以应用提示词,最后点击「Render MP4 for smooth playback」即可生成带有高亮识别目标的视频结果。

一起来看看小贝使用近期热映的《疯狂动物城2 》的预告片段进行的测试👇

教程链接:

https://go.openbayes.com/pnzQk

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/15 16:15:18

浙江某酒店+RWA深度解读:3天5000万升级,入住率从68%到82%的转型之路

浙江一家拥有250间客房的中高端酒店,近期完成了一项创新的资金安排——3天内完成了5000万元的资金规划,用于全面升级智能化系统。他们采用的既不是传统银行贷款,也不是股权合作,而是一种相对新颖的方式:将未来部分客房…

作者头像 李华
网站建设 2026/6/15 16:24:34

独家披露:顶尖量子实验室使用的VSCode连接配置模板(限时公开)

第一章:VSCode 的量子硬件连接配置在现代量子计算开发中,Visual Studio Code(VSCode)已成为主流集成开发环境之一。通过扩展插件和底层API的集成,开发者能够直接从本地编辑器连接到真实的量子硬件设备,实现…

作者头像 李华
网站建设 2026/6/15 3:57:57

AI核心知识47——大语言模型之Data Cleaning(简洁且通俗易懂版)

数据清洗 (Data Cleaning),在大语言模型(LLM)的开发流程中,属于预训练之前的准备工作。如果说预训练是 AI 的“正餐”,那么数据清洗就是“备菜”——把买回来的菜里的烂叶子摘掉、泥土洗净、切好分类,确保 …

作者头像 李华
网站建设 2026/6/11 16:00:48

PMBOK第七版完整学习指南:免费获取中英文PDF资源

PMBOK第七版完整学习指南:免费获取中英文PDF资源 【免费下载链接】PMBOK第七版电子书资源 本仓库提供PMBOK(项目管理知识体系指南)第七版的英文版和中文版PDF电子书,以及详细的目录,方便用户快速查找和学习。新考纲主要…

作者头像 李华
网站建设 2026/6/15 9:01:02

终极指南:企业级AI网关的完整部署与实战应用

终极指南:企业级AI网关的完整部署与实战应用 【免费下载链接】litellm Call all LLM APIs using the OpenAI format. Use Bedrock, Azure, OpenAI, Cohere, Anthropic, Ollama, Sagemaker, HuggingFace, Replicate (100 LLMs) 项目地址: https://gitcode.com/GitH…

作者头像 李华
网站建设 2026/6/15 13:43:54

破茧与重生:AI 编程时代,程序员该何去何从?

我们从国内外开发者社区的真实讨论出发,看看这场 AI 编程革命,究竟正在怎样改变程序员的命运,以及我们如何抓住未来的方向。你还记得,你第一次敲下 Hello World 的那一刻吗?屏幕上那行简简单单的文字,像一扇…

作者头像 李华