
做电销和售后回访的团队,最近两年基本都撞上了一堵墙。一个熟练的人工坐席,一天满打满算打250到300通电话已经是生理极限。而且这里面超过70%是被叫拒接、秒挂或者空号。每天真正能有效沟通的时间,加起来往往不到一个半小时。坐席每天承受大量负面情绪,离职率居高不下,企业每个月都在重复招人和培训,单次有效沟通的获客成本越来越高。
过去很多公司买过早期的电话机器人。那些系统基本都是基于固定话术树和关键词匹配,外加预录音频切片。客户只要稍微说一句不在预设逻辑里的话,机器人就会答非所问,或者直接卡顿两三秒。客户一听就知道是机器,挂机率超过90%。
现在的做法完全不同了。通过将大语言模型(LLM)与流式语音技术深度结合,企业级AI智能外呼系统已经可以做到像真人一样自然对话。系统不仅能识别模糊意图,还能在客户打断时立刻停下来听对方说话。
下面直接拆解这套系统的底层架构设计,以及如何从零搭建落地。
一、 系统全链路架构设计
一套能够真正跑在生产环境中的AI智能外呼系统,必须满足低延迟、高并发和高可用的要求。人与人打电话时,正常的响应停顿时间在300毫秒到500毫秒之间。如果延迟超过800毫秒,对方就会明显感到迟钝;超过1.2秒,客户大概率会再次发问或者直接挂断。
系统整体架构分为四层:
1.通信控制层(CTI/SIP):基于FreeSWITCH或Kamailio构建。负责对接运营商SIP中继线路、管理呼叫信令、执行拨号策略,并将实时通话的双向RTP音频流暴露给业务层。
2.音频与流媒体网关层:使用WebSocket双向管道。将电话侧的8kHz/16kHz音频流实时拉取并转发给AI引擎,同时接收AI合成的音频流推送回电话通道。这一层必须包含低延迟语音活动检测(VAD)模块,用于实现智能打断(Barge-in)。
3.AI大脑决策层(ASR + LLM + TTS):由流式语音识别(ASR)、大语言模型(LLM)和流式语音合成(TTS)级联组成。
4.业务与数据系统层:包含CRM系统、意向标签打标器、黑名单库、号码池管理系统以及人工坐席工作台。
为了直观对比不同技术路线的差异,可以参考下面的对比表格:
| 维度 | 传统人工外呼 | 早期关键词机器人 | 现代级联式AI外呼 (ASR+LLM+TTS) | 端到端语音模型 (Audio-to-Audio) |
|---|---|---|---|---|
| 单人/单并发日处理量 | 200 – 300 通 | 2000 – 3000 通 | 2000 – 5000 通 | 2000 – 5000 通 |
| 平均端到端响应延迟 | 200 – 400ms | 300 – 600ms(固定录音) | 500 – 900ms | 300 – 500ms |
| 上下文理解与容错 | 极强 | 极差(仅靠正则与关键词) | 强(支持复杂业务与追问) | 较强(但业务干预难度大) |
| 多轮打断支持 | 自然 | 不支持或生硬切断 | 支持(依赖流式VAD与状态机) | 原生支持 |
| 业务规则可控性 | 依靠人工质检 | 极高(死板脚本) | 高(提示词+结构化槽位校验) | 较低(存在幻觉与输出漂移风险) |
| 综合单通边际成本 | 1.5 – 3.0 元 | 0.03 – 0.05 元 | 0.08 – 0.15 元 | 0.20 – 0.40 元 |
从生产可用性和工程可控性来看,级联式架构(ASR + 流式LLM + 流式TTS)仍然是目前企业落地最稳健的选择。
二、 核心组件技术选型与延迟预算控制
要保证整套系统的端到端延迟控制在800毫秒以内,必须把延迟指标拆解到每一个组件中。
以下是经过生产实测验证的技术选型与指标基准:
| 环节 | 推荐技术/模型选型 | 目标处理延迟 | 生产调优关键点 |
|---|---|---|---|
| VAD (静音检测) | Silero VAD / WebRTC VAD | 30 – 50ms | 静态阈值容易误判,要结合音频能量自适应动态调整静音窗口(推荐静音切分判定阈值设为 250 – 350ms)。 |
| ASR (流式语音识别) | FunASR (SenseVoice) / 腾讯云流式 / Deepgram | 100 – 180ms | 必须采用流式WebSocket传输;电话音频统一为8kHz采样率,在网关层完成重采样,避免引擎内部二次转换消耗CPU。 |
| LLM (逻辑决策) | DeepSeek-V3 / Qwen2.5-7B/14B (本地vLLM部署) | 150 – 250ms (首字延迟 TTFT) | 放弃单次全量返回,必须开流式输出(Stream=True);输入Prompt控制在800字以内;避免多轮历史全量堆积,定期做滑动窗口裁剪。 |
| TTS (流式语音合成) | CosyVoice / 微软 Edge-TTS / 火山语音流式TTS | 80 – 150ms (首包音频 TTFA) | 采用标点符号流式分块送入TTS,收到第一个完整短句(如逗号、句号)立即开始合成首包音频,不需要等LLM整段生成完毕。 |
| 网络传输与信令调度 | 内网专线 / 局域网机房同区部署 | 20 – 40ms | FreeSWITCH网关与AI推理服务必须放置在同一云厂商的同一可用区,跨地域调用直接会导致延迟超标200ms以上。 |
三、 从零搭建落地步骤(手把手实操)
落地一套企业级AI智能外呼系统,不要一上来就写复杂的业务流,按照以下四个步骤推进效率最高:
第一步:搭建通信基础设施与音频中继
1.先在一台Linux服务器(推荐Ubuntu 22.04 LTS)上安装并配置 FreeSWITCH。
2.配置SIP线路中继(Trunk),将运营商提供的SIP账号、密码和IP绑定到FreeSWITCH的外部网关配置文件中。
3.弃用已经被废弃的 `mod_audio_fork`,推荐采用 Outbound ESL(Event Socket Library) 模式,或者编写一个专门的C++/Go模块捕获电话双向RTP流,通过内部WebSocket与后端业务服务建立双工通道。
4.避坑提示: 一定要在FreeSWITCH中设置严格的信令超时与媒体超时。当遇到运营商线路异常或者网络中断时,能保证通话通道在3秒内主动释放,防止僵尸通道挤占并发通道。
第二步:打通流式中继与智能打断逻辑
打断逻辑是整个系统体验是否真实的分水岭。
1.音频采集与静音判定:当用户说话时,网关持续将音频推送到VAD。如果VAD检测到用户连续说话时长超过 150毫秒,系统立刻判定客户正在发话。
2.执行打断操作:一旦触发打断,系统要立刻做三件事:
•第一,向FreeSWITCH发送指令,停止当前通道的音频播放缓冲队列;
•第二,向TTS服务发送中断信号,停止当前文本块的音频合成计算;
•第三,终止上一次LLM未完成的Token生成进程。
3.这样能保证客户在开口反驳或提问的瞬间,AI机器人能像真人一样立刻闭嘴,不跟客户抢话。
第三步:设计业务状态机与约束提示词
很多人直接把整套业务逻辑交给大模型自由发挥,结果就是AI频繁出现幻觉、答应客户无法兑现的优惠条件,或者在回访中被客户带偏。
在实际生产中,必须使用有限状态机(FSM)结合LLM的方式:
1.定义状态节点:比如分为“开场问候”、“身份确认”、“核心诉求询问”、“异议挽回”、“挂机总结”五个节点。
2.LLM作为意图提取器:大模型的职责不是随意闲聊,而是分析客户刚才说的话,提取关键槽位(如:满意度评分、投诉原因、是否有重新签约意向),并给出下一跳的状态转移代码。
3.输出标准化结构:强制大模型返回固定的JSON格式,包含回复内容与状态跳转标记。例如:
{
"reply_text": "听到您说物流有些慢,我非常理解,我这边已经帮您记录给专员了。",
"current_intent": "complaint_logistics",
"target_state": "logistics_compensation",
"need_transfer_human": false
}
4.如果客户连续两次表达愤怒情绪,或者触发明确的转人工关键词(如“叫你们经理来”、“找真人”),状态机直接触发转人工逻辑。
第四步:对接坐席系统与平滑转人工
当AI无法解决问题或筛选出高意向客户时,需要立刻切入人工坐席。
1.系统向FreeSWITCH发送 `SIP REFER` 指令,或者通过业务层调用API将通话Bridge到坐席分机队列。
2.在电话转接响铃的这几秒内,系统必须通过WebSocket将AI与客户刚才的完整对话文字记录、客户画像标签和核心诉求摘要推送到人工坐席的电脑屏幕上。
3.人工坐席接起电话时,不需要让客户重复描述问题,直接顺着AI的上下文继续服务,整体沟通效率成倍提高。
四、 规避合规风险与真实成本测算
如果只顾技术实现,忽视业务规则和成本控制,外呼项目很快会因为封号或成本失控而停摆。
1. 规避封号与合规红线
•严格遵守外呼时间窗口:根据通信管理规范,严禁在晚上20:00至次日09:00之间外呼。
•频次限制:同一号码同一天内呼叫次数绝对不能超过2次;对明确拒绝的客户,必须立刻加入企业全局黑名单库,至少90天内禁止再次拨打。
•主叫号码池治理:单张电话卡或单个主叫号码每天外呼量必须设置上限(通常建议单号每天不超过80-120通有效外呼),通过多个主叫号码轮循呼出,防止单个号码因为高频呼叫被运营商标记拦截。
2. 真实成本测算与人效收益
以一个50人规模的传统电销及售后回访团队为例进行测算:
•传统纯人工模式:
•人力成本:每人每月综合薪酬加社保按7000元计算,50人团队每月固定支出 350,000元。
•外呼通数:50人每天共完成约 12,500 通电话,按每月工作22天计算,月均外呼总量约 275,000通。
•单通综合沟通成本约为 1.27元 / 通(未计入通信线路费)。
•AI智能外呼结合10人专家坐席模式:
•AI系统处理初筛与标准化回访:每天运行30路并发,日处理外呼量达 30,000通,月均外呼总量突破 660,000通。
•算力与模型成本:单通通话平均时长按45秒计算,ASR费用约0.012元,LLM消耗约1500 Tokens(按深色通用模型API计价约0.003元),TTS费用约0.015元,单通AI计算成本约为 0.03元。
•人工成本保留10位资深坐席承接AI转出的高价值客户,每月支出 70,000元。
•即使加上服务器集群维护、线路月租等费用,系统每月的总支出也稳定在 105,000元 左右。
在这套方案下,企业每个月不仅节省了近 70% 的直接综合支出,而且有效线索的承接和转化全部集中在经验最丰富的坐席手中,整体人效实现了翻倍式的突破。按照上述步骤逐层调试优化,企业完全可以在三周内搭建出一套稳定、低延迟且高度可控的现代化外呼体系。
原创文章,作者:七点互动,如若转载,请注明出处:https://ai.qidianhudong.com/aiyy/ai-assistant/4671.html