news 2026/6/15 19:30:14

【大家的项目】active-call: 纯Rust写的超高性能VoiceAgent框架

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【大家的项目】active-call: 纯Rust写的超高性能VoiceAgent框架

https://github.com/restsend/active-call 欢迎Star

先给大家看看效果:

这次最重要的改进,就是不再依赖onnxruntime处理Silero VAD.

重新手写了Silero VAD的推理(纯Rust实现),性能有了非常高的提升 (大概2.5x提升),并且内存占用非常的低:

VAD Engine

Implementation

Time (60s)

RTF (Ratio)

Note

TinySilero

Rust (Optimized)

~60.0 ms

0.0010

>2.5x faster than ONNX

ONNX Silero

ONNX Runtime

~158.3 ms

0.0026

Standard baseline

WebRTC VAD

C/C++ (Bind)

~3.1 ms

0.00005

Legacy, less accurate

这次还开始引入一个全新的playbook,过去的websocket api过于原始,大家想体验一个voice agent的流程会比较麻烦,干脆给大家提供一个参考方案,可以基于markdown进行扩展:

--- asr: provider: "aliyun" llm: provider: "aliyun" model: "qwen-turbo" tts: provider: "aliyun" vad: provider: "silero" denoise: true greeting: "您好,我是您的AI助理,请问有什么可以帮您?" interruption: "both" recorder: recorderFile: "hello_{id}.wav" --- # Role and Purpose You are an intelligent, polite AI assistant. Your goal is to help users with their inquiries efficiently. # Tool Usage - When the user expresses a desire to end the conversation (e.g., "goodbye", "hang up", "I'm done"), you MUST provide a polite closing statement AND call the `hangup` tool. - Always include your response text in the `text` field and any tool calls in the `tools` array. # Example Response for Hanging Up: json { "text": "很高兴能为您服务,如果您还有其他问题,欢迎随时联系。再见!", "tools": [{"name": "hangup"}] } ---

并且保留了我们最大的技术特色: 唯一一个内置SIP支持的Voice-Agent SDK, 可以直接对接sip 网关,实现Ai与电话的对接。

并且把LLM的流式输出也实现了,可以边思考边讲话

相比Pipecat/Livekit这些Framework, active-call更加专注于语音通话,最核心的就是性能很好, 2C4G很轻松支持200路并发,持续稳定运行个把月没问题

当然还是保留了最基础的Websocket API,允许通过Websocket来控制一个通话,这个当然是比较底层的实现,也是开发者最喜欢的方案。

从通话性能数据来看,现在已经能很便捷的和Ai聊天了 (延迟基本上在800ms以内)

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/15 13:50:48

WaveTools鸣潮工具箱终极指南:从基础配置到深度优化

WaveTools鸣潮工具箱终极指南:从基础配置到深度优化 【免费下载链接】WaveTools 🧰鸣潮工具箱 项目地址: https://gitcode.com/gh_mirrors/wa/WaveTools WaveTools鸣潮工具箱是专为《鸣潮》游戏玩家设计的综合性辅助工具,通过智能画质…

作者头像 李华
网站建设 2026/6/15 12:50:15

抹掉了精益敏捷devops的痕迹

企业在投入大量资源进行敏捷转型后,不仅未能达成预期效果,甚至完全退回旧模式,这种现象确实令人挫败。这通常不是单一原因造成的,而是多个关键环节的系统性失灵。下表梳理了导致转型失败并最终被放弃的常见原因及其典型表现。&…

作者头像 李华
网站建设 2026/6/15 13:48:58

【All in RAG】检索增强生成 (RAG) 技术全栈指南(一)

[TOC](检索增强生成 (RAG) 技术全栈指南 一) 0. 前言 RAG技术(检索增强生成)是大模型应用开发中必用技术之一,本文按照开源项目All in RAG 的目录进行学。 项目文档:https://datawhalechina.github.io/all-in-rag GitHub: https://github.com/datawhal…

作者头像 李华
网站建设 2026/6/15 19:17:18

虚拟串口配置入门必看:手把手搭建通信环境

虚拟串口配置实战指南:从零搭建高效通信链路 你有没有遇到过这样的场景? 手头没有目标硬件,但上位机程序已经写好了,急着要验证 Modbus 协议逻辑;或者 CI 测试流水线跑得好好的,却因为服务器没串口而卡住…

作者头像 李华
网站建设 2026/6/15 12:53:10

芯片验证工程师的写代码能力不是第一位

很多人以为验证工程师就是搭环境、跑仿真。但这只是表面工作。验证的核心在于发现问题,而不是证明设计正确。举个实际的例子:某个FIFO模块在正常读写测试下运行完美,覆盖率也达到了100%。但有个验证工程师在review代码时问了一句:…

作者头像 李华
网站建设 2026/6/15 11:19:05

【c++进阶】再谈虚函数

关注我,学习c不迷路: 个人主页:爱装代码的小瓶子 专栏如下: c学习Linux学习 后续会更新更多有趣的小知识,关注我带你遨游知识世界 期待你的关注。 文章目录深入探索C虚函数:从编译器视角看多态的“幕后魔法”1. 一…

作者头像 李华