
源泉:字母榜
绽开字节、阿里们的多模态才能舆图,每块矿藏都标着"语音”。
近期,就在阿里通义千问团队发布翻译模子Qwen-MT的团结天,字节进取旗下的火山引擎肃肃对外发布了豆包·同声传译模子 Seed LiveInterpret 2.0,后者的模子在多个Benchmark测试中都得回了大幅度最先,但其实该模子的首版发布曾经是昨年的事了。
时隔一年,字节再次将这个模子端出来,并花浪漫气更新换代了一次,字节想作念什么?
咱们可以把时候线串联起来看:字节豆包团队于 2024 年推出了旗舰语音生成基础模子 Seed-TTS,本年1月发布了豆包 Realtime Voice Model(首个端到端语音领路与生成模子),4月开源了中英双语TTS模子MegaTTS3,1个月前则发布了豆包播客语音模子。
当作豆包多模态才能中的热切一环,字节将同声传译补足到了语音才能之中。反不雅阿里,昨年曾经高调推出了新一代端到端语音翻译大模子 Gummy,这回在翻译才能上又进一步。要是将视线再绽开,环视国表里,咱们能看到阿里巴巴、字节、科大讯飞、Grok、OpenAI、Meta都在向语音类赛谈豪恣进入资源。
伸开剩余90%迷惑一众AI厂商纷纷加码语音模子的背后,则是行业对新一代“语义交互”神色的竞争。
一朝冲破“及时语音+及时翻译+及时输出”的技艺体验障蔽,其将径直绽开AI居品的买卖化瞎想空间。
比方AI硬件。新一代AI硬件海浪正对语音翻译技艺产生着热烈的需求牵引。尤其是国内正在打响的“百镜大战”。翻译模子Qwen-MT亮相两天后,阿里在WAIC上肃肃推出了首款AI眼镜。字节也被爆将在年内发布自家的AI眼镜。
不同于电脑和手机等末端硬件的笔墨交互神色,莫得键盘的眼镜,自然便相宜语音交互这一新体式。不外,当下阻止AI眼镜普及的一浩劫点,也恰恰在语音交互体验的不完备上。
从这个角度来说,字节和阿里对语音模子的押注,颇有点给自家AI眼镜打好前站的真谛。
A
那么,语音类赛谈到底正在发生着什么?豆包同传2.0阐扬奈何?
让咱们先来望望这个居品的践诺才能。
同声传译曾经是各式圈子内的“老需求”了,并不清新。不外此模子,仍然迷惑了全网不小的瞩目。这主要在于巨匠通过这次模子的升级,意志到了其背后的“泛买卖价值”。
这款语音模子曾经能够以极低的蔓延、更丝滑的效果,输出与用户音色相一致的英语翻译。一边接管源言语语音输入,一边 0 样本声息复刻用户声息,径直输出目的言语的翻译语音。
咱们来试一试。字节官方提供了体验地址,登录该网址后,逐日有20次体验同声翻译的契机。
咱们以在WAIC2025上进行的AI教父Geoffrey Hinton的演讲为例。
该同传大模子咫尺仅支握中英间转录,咱们先来试试汉文,Hinton挑剔大言语模子的一段汉文翻译:
今天的大言语模子(LLM)可以看作是当年我所构建的袖珍言语模子的后继者,是自 1985 年以来言语技艺演进中的一个热切里程碑。它们以更长的词序列当作输入,摄取更复杂的神经采集聚构,并在特征学习中建树了更精妙的交互机制。
正如我当初规画的小模子那样,LLM 的基应许趣与东谈主类领路言语的神色本体一致:将言语转变为特征暗意,并在多个档次上对这些特征进行精密的整合与重构。这恰是 LLM 在其各个神经荟萃层中所实行的中枢任务。
因此,咱们多情理说,LLM 如简直某种真谛上“领路”了它们所生成的言语。
在这段视频中,你能相称表示地听到,该语音模子对于用户输入的自然言语短句的识别才能相称强,也相称速即。即便仅仅一个很短的休止,模子也能够准确识别到,并笔据这种休止判断奈何翻译。
像是下图,模子会自动笔据语境,而聘用不改革主语,在翻译经由中,模子会笔据高下文自动判断是否需要相通主语:
除此以外,当我输入语音的同期,它也在及时克隆我的音色,自然效果称不上很好,但也如实有一些相通度。
我又测试了一段鲁迅语录,其中可能会有一些语病,你会更彰着地发现该模子在同传经由中的蔓延相称低。像是“有一份热,便发一份光”“无限的远处,多量的东谈主们”中间的节略时候相称的短,几近于连读,而模子也依然觉察出来了:
咱们再来试一试Hinton的英文讲座,这回咱们相称彰着地发现同传模子对于音色的克隆效果大幅着落了,简直莫得相通度。但是在翻译场景下的阐扬,包括低蔓延、准确度、自然的断句等等,依然比较好。
咫尺该模子主要聚焦中英文对话,这点上与 Meta 的SeamlessStreaming 等跨语种模子比拟仍有差距 。Meta 在2023年12月发布 Seamlessstreaming 时,就曾经能够涵盖近 100 种输入言语和 36 种语音输出言语。从"言语粉饰面"这个角度,字节如实还有很长的路要走。
除此以外,在用户体验上两边之间的差距已急剧减弱,下方是官方发布视频:
字节同步发布了基准测试收获,Streamlessstreaming仍旧停留在这张表上,不外SeedLiveInterpret 2.0收获很可以。中英互译平均翻译质地的东谈主类评分达到 74.8(满分 100,评估译文准确率)
比拟之下,其他大多厂商的语音同传翻译居品基本不支握及时的语音复刻,在体验上基本保管在语音输入笔墨输出的交互神色,咱们也就不再多进行类比。
客不雅地说,体验下来,咫尺的模子技艺还存在一些彰着的局限。 在不同言语方朝上的音色克隆阐扬各异较大,技艺的一致性还需要修订。 对于特定边界的专科词汇,翻译准确度还有进步空间。不外,语音复刻诚然略显稚嫩,但也如实带来了更挑升想的交互体感。
B
同传语音模子相对于单纯语音生成来说,难度可能曾经是Next Level了。同传模子需要同期作念三件事:听懂你说的话(语音识别)、翻译成另一种言语(机器翻译)、再用自然的声息说出来(语音合成)。
因此,这波字节语音翻译模子的升级并不仅仅为了作念一个“翻译软件”。它的中枢价值在于"语音交互"才能曾经宣告纯熟,翻译仅仅其中一个欺诈场景。
这是对于“语义交互”神色的竞争。
豆包同传模子2.0的推出,践诺上是字节进取在AI大模子生态布局中的热切一步。追念一下时候线:早在2024年,豆包就发布了初代同传模子,但其时只可输出笔墨翻译限制。
自然,除了字节以外,不管是国内如祖国际,简直通盘基础大模子厂商都把眼神投向了语音模子这个赛谈。可是,生谚语音很浅易,难的是“及时语音+及时翻译+及时输出”,许多大厂都正在攻坚。
比如,只谈及“纯血同传翻译”模子的话,巨匠自然会把眼神转向阿里巴巴。在2024年云栖大会上,阿里高调推出了新一代端到端语音翻译大模子 Gummy,诚然无法及时语音复刻,但也可及时流式生谚语音识别与翻译限制。
其在多个维度中都得回了SOTA级别的阐扬,翻译蔓延以致降到了0.5s以下:
"卖体验"比"卖翻译功能"要更迷惑东谈主。
同传翻译模子2.0背后,巨匠的护理点更多的如故在于语音类模子背后的后劲,而非垂直翻译才能,巨匠的欣喜点并不在于它能把汉文翻译成英文有多准确。
要是,咱们陆续将眼神放宽少许,会发现专攻语音交互模子赛谈的选手,曾经遍布通盘市场了,它们正在从各个角度撬动用户欺诈场景。
像是最近,在公论场和成本场拿回少许声量的“AI六小龙”之一—— MiniMax,也出头出头计议发布了MiniMax-Speech系列模子,稀奇是2025年5月推出的 Speech-02 模子,堪称是"全球第一的TTS语音模子"。
其在酬酢场上得回声量并引起护理的原因,追其根蒂,在于它单次输入支握 200K 字符,支握 30 多种言语,领有超传神的语音克隆体验。
OpenAI的高档语音模式就更无须提了,要是你翻看各式社媒居品,就会发现简直通盘边界的用户都在衔恨“Plus用户的语音名额有点少的同情”,这施展低蔓延、及时语音、拟东谈主性的需求相称高。
只不外,OpenAI作念居品如实有点慢,尚未将手伸向一些明确的欺诈场景,不外倒是投了一批初创企业。像是言语学习语音交互平台 Speak,2024 年年底OpenAI曾参与其 7,800 万好意思元融资,并将本身语音技艺模子融入进去,咫尺这家公司估值曾经冲破 10 亿好意思元了。
Elon Musk也早早布局,他xAI旗下的Grok模子最近也卷入了语音赛谈:7月中旬,Grok欺诈新增了"伴侣模式",上线了一位可互动的3D凭空AI青娥形象 Ani。这个凭空脚色可以用甜好意思的动漫嗓音与用户对话,在日本网友中速即走红,被戏称为"AI女友"。
Grok对语音才能的意志昭着要比其他大厂商超前少许,像是ElevenLabs等初创企业与Grok在脑机接口上的互助,为渐冻症患者替换声息的操作,自可是然为这类模子打了一个大大的告白。
C
多方动向背后,施展业界对于及时语音在AI居品买卖化中的价值造成了共鸣。
最先让咱们追念下AI居品的发展轨迹,在多模态交互中,构建从“语音到语音”的闭环体验在往日两年就被合计是下一个关节目的。往日的AI居品(不管是Chatbot如故AI 硬件)更多停留在笔墨和图像料理层面,但在东谈主类平常交流中,语音才是最自然、最高效的疏通神色。是以,语音交互能带给用户更好更佳更AI的体验经由,而这随机意味着一派“痛点蓝海”。
各大厂抢攻语音模子,恰是为了霸占这一畴昔的蓝海市场,其第一步等于霸占进口。
服气从往日一年的“Chatbot”进口界面争夺战中,许多基础模子厂商都悟得了一个钦慕:单纯笔墨对话的用户体验每高潮1分,背后可能是100分的模子才能进步,10000分的算力、算法、架构的进入。
因为语音交互不像搜索引擎那样存在一个十足的进口,用户可能从任何一个点启动斗殴,然后慢慢民俗这种交互神色,这背后的买卖价值可以说高到难以瞎想。
这场语音赛谈的集体押注,践诺上是各大厂商对畴昔AI欺诈场景的一次集体下注。
从进入2025年以来,AI硬件居品曾经进入“井喷式边界”。各式方式的智能开拓如棋布星陈般瓦解。
从最原初的纯刚需来看,跨国出海或者是会议场景是永恒绕不外的一关。各式翻译企业从机器翻译、神经荟萃翻译再到AI翻译,曾经走过了一关又一关,买卖效果进展闲适,蛋糕作念大贫窭。比拟之下,要是及时语音同传纯熟化,这种体验的买卖价值是纷乱的。
不管是这些硬需求,如故得志用户对于AI畴昔交互体验的“软需求”,都需要一个合适的载体 —— AI硬件,好像许多东谈主对此嗤之以鼻,合计其一都是套壳居品。但现实是,新一代AI硬件海浪对语音翻译技艺产生了热烈的需求牵引。硬件居品相称能够激励市场去琢磨一个市场还存在哪些尚未被发现的逃匿契机。
同期,在国际各个主力AI模子都曾经启动开发不同的收费模式时,反不雅国内,除了AI Agent带来了较为成体系的价钱结构以外,AI基础模子厂商简直是“一派噤声”,无东谈主好意思瞻念说起。正如巨匠常说的:“光靠模子就能盈利,那是作念梦”。
AI也需要一个载体。
2023年以来,从硅谷初创公司Humane推出的可指挥高慢开拓 AI Pin,到国内创业团队研发的 Rabbit R1 ,年收入近1亿好意思金的AI灌音硬件 Plaude、TicNote、再到字节推出的Ola Friend耳机,各式方式的可穿着AI助手恒河沙数。科大讯飞也推出了主打及时多语种同传功能的会议耳机和翻译耳机,AI硬件曾经事实上成为了各家厂商将AI买卖化的“救命稻草”。
OldFriend 这款拼凑被称为AI硬件的居品,可以通过叫醒词 “豆包豆包” 激活其 AI 聊天佑手豆包,从而将体验的支握脚色转变给豆包。但是,这种体验短少真确的颠覆性使用场景。
既然是AI硬件,如故要从AI下手。
当字节晓谕同传大模子2.0发布时,同期提到了该模子将在8月速即进入Old Friend耳机中,为其补足更多的语音交互才能。咱们可以这样领路,语音翻译模子带来的"及时语音交互"体验,正在成为AI硬件居品吸援用户的新战场。
自然,在语音这个大边界内,还存在其他分支赛谈。比如字节、MiniMax前段时候都火出圈的AI播客功能,以及专注脸色随同的语音AI居品。各家AI创业公司正在豪恣挖掘语音交互的后劲,巨匠慢慢发现了AI居品发展下半程的"引爆点"——语音交通市集。
这次字节豆包同传模子的发布、官方速即晓谕该模子将坐窝接入硬件,以及前段时候字节进入浪漫气打造的播客模子等等,都在宣告着国内“语音”市场的后劲才刚刚展现。
“霸占下一代AI居品交互进口之前,先把硬件造出来”是国内深广信奉的朴素买卖钦慕。在此之上,AI厂商们在看到连接有初创企业通过“较差”或者仅仅开源的AI大模子技艺就曾经能发掘出这样多欺诈场景了,细目会抚躬自问:我何乐而不为呢?
尤其是AI及时语音交互赛谈欧洲杯体育,尚且莫得将这项体验好意思满交融到硬件市场的居品出现。当作领有AI原生技艺的字节——这个大厂的标杆之一,启动谨慎商量:语音交互很可能成为下一个改变东谈主机交互神色的关节技艺。
发布于:北京市