西瓜网 字节终于掀桌子了
发布日期：2024-10-10 08:05 点击次数：169
字节进取低调潜行一年多西瓜网，终于憋了一个大招。
5 月 15 日，字节进取初次向外界“倾销”旗下 AI 大模子——其自研豆包“全家桶”官宣将通过头山引擎（字节旗下六伟业务板块之一，其余五块区别是抖音、大立老师、飞书、夙夜光年、TikTok）对外提供工作。
至此，字节进取纵身跳入国内大模子混战，其大模子邦畿镇定浮出水面。
图注：豆包大模子“全家桶”
之是以着手即“王炸”，源于字节照旧跨过模子效果、推理资本、落地难度这三说念最为要害的门槛。
泉源，模子效果对 AI 落地最为要害，惟有大使用量才能打磨出好模子——据火山引擎官方数据，经过一年时刻的迭代，豆包大模子正成为国内使用量最大、诈欺场景最丰富的大模子之一，日均处理 1200 亿 Tokens 文本，生成 3000 万张图片。
此外，字节进取居品和战术副总裁朱骏走漏，豆包平台月度活跃用户达到2600万，已有卓著 800 万个智能体被创建。手脚对照，QuestMobile 数据自大，截止本年 3 月，豆包（字节进取）、文心一言（百度）、天工（昆仑万维）、讯飞星火（科大讯飞）、Kimi 智能助手（月之暗面）位居 AIGC APP月活 TOP5——恐怖的是，豆包上线仅三个月就完成用户量逆袭。
这背后，虎嗅了解到，字节进取在昔时一年通过拆解明确每个部门的 OKR（举例抖音主要负责拉新，而字节挑升负责 AI 居品的 Flow 部门负责拓荒及居品增长）杀青了部门间互不干预，处理了互联网公司连忙扩展所濒临的组织协同问题，是国内逐梦 AI 波澜互联网公司中战术最明晰的一个。
熟女论坛值得一提的是，豆包大模子（原名：云雀）早于 2023 年就在字节里面完成了上线，并基于豆包大模子打造了 AI对话助手“豆包”、AI 诈欺拓荒平台“扣子”、互动文娱诈欺“猫箱”，以及星绘、即梦等 AI 创作器用，并把大模子接入抖音、番茄演义、飞书、剪映等字节进取旗下 50 余个业务，用以栽种遵循和优化居品体验。
“期间在快速演化，但用户中枢的需求莫得改变，比如高效得复书息、使命提效、自我抒发、酬酢文娱等；字节作念了许多探索，寻找适合大模子诈欺的形态，但愿当然交互走入更多东说念主的泛泛生存。”朱骏说说念。
这并非盲目乐不雅，IDC 发布的《2024 AIGC 诈欺层十大趋势白皮书》瞻望，2024 年全球将涌现出卓著 5 亿个新诈欺，相配于昔时 40 年间出现的诈欺数总数，智能化诈欺将呈现爆发式增长，大模子波澜将加快浸透进东说念主们的泛泛生存。
其次，裁减推理资本是大模子快进到“价值创造阶段”的一个要害成分。
举例，腾讯混元大模子接纳搀杂各人模子 (MoE）结构，自研 Angel 机器学习平台，历练速率达到主流框架的 2.6 倍，推理资本比拟业界主流框架下落 70%；OpenAI、智谱大模子也齐在近期裁减了大模子价钱。
不外，当火山引擎总裁谭待布告豆包主力模子（小于等于 32K）推理输入价钱仅为 0.0008 元/千 Tokens 时，照旧难免让东说念主感到慌乱——要知说念，市面上同规格模子的订价一般为 0.12 元/千 Tokens，而豆包主力模子比行业低廉 99.3%。
按这个价钱，8 块钱不错买到豆包模子的 1000万 Tokens，纰漏 1600 万个汉字——其正以“价钱屠户”的姿态打穿大模子市集，被外界戏称“打响大模子市集价钱战第一枪”。
对此，谭待暗示背后有两个原因：“一是能作念到，二是需要这样作念；主力模子比行业低廉 99.3% 在期间上可杀青，将来还有许多技巧裁减资本。”
终末，豆包分散式推理还有搀杂退换，推崇各式种种的异构算力，处理了推理算力的问题，进而把模子推理的资本降到很低。
“以前企业作念翻新追想 ROI 打不正，一来翻新样式 90% 会失败，二来翻新按谋害 100 亿 Tokens 算就要 80 万；现时资本只需要 8000 元，失败也花不了若干钱，但剩下 10% 样式得胜就不错把参加齐赚归来，这无疑能匡助更多企业如释重任，无职守投身 AI 大潮。”谭待说说念。
固然，字节酣畅躬身给企业“搭台”的深档次原因还在于：移动互联网业到了用户、流量趋于见顶的纯属期，监管会更侧重产业互联网的鼓动与成立，这意味着期间走到平台重构生态的要害时期。
正如好意思团独创东说念主兼 CEO 王兴当年商讨 BAT 竞争关系时说的那样，竞争这个词放在沿途说就会变成想维定势，“麦克阿瑟将军在西点军校告别演讲说‘Only the dead have seen the end of war’（惟有故去的东说念主才能看到干戈闭幕）西瓜网，战役仅仅从一个战场变成另一个战场，从一个契机变成另一个契机，总有不停的变化。”
尤其，ChatGPT 横空出世让扫数这个词互联网齐为之躁动，追逐大模子波澜使得互联网又堕入一种混战的暴燥情景，而心有猛虎的公司齐在寻找朝上攀爬的进口——当通用东说念主工智能期间呼啸而来，字节手捏诈欺层及数据层的独到上风，抖音领有丰富的数据素材和弥散的算力资源，必须在快速发展时期浮滑参加（包括期间生态迭代、研发参加等），从而博一张将来的船票。
以下为虎嗅与火山引擎总裁谭待两次（5 月 15 日、5 月 16 日）疏通实录（部分表述因肤浅阅读需要有所更动）：
字节凭什么把价钱打下来？
Q：行业有声息说大模子算力资源罢了，字节为什么酣畅大幅度降价？
谭待：一般说算力资源不够用说的是历练，但今天说的大模子 ToB 办当事人如果推理。作念推理只消期间基础作念得好就不错用各式异构算力逍遥性能、减少延长，还能处理算力瓶颈。豆包分散式推理还有搀杂退换，便是通过退换好各式异构算力处理了推理算力的问题。
其次，处理算力也就处理了资本问题，就能把模子推理资本降到很低。以前企业作念翻新追想 ROI 打不正，一来翻新样式 90% 会失败，二来翻新试错贵（按谋害 100 亿 Tokens 算就要 80 万）；现时试错资本降到 8000 元，失败资本可控，只消剩下 10% 样式能配置不错把参加齐赚归来，这让许多企业如释重任，无职守投身到 AI 大潮。
Q：字节把价钱卷到以厘为单元的廉价，这关于现阶段扫数这个词行业是功德吗？
谭待：固然，许多企业能以更低资本作念各式翻新了，关于作念大模子创业者来说莫得哪个是靠 ToB 赚了许多钱，通过 ToB 工作来把我方的大模子正轮回这个不行了，现时照旧一个突出早期的阶段，要把蛋糕作念大先要作念到普惠，这是最要紧的。
Q：字节能将价钱压到低于同业 99.3%，豆包的性能和资本若何？
谭待：现时模子诈欺落地时，精调是要害，豆包 pro 守旧 128k 可精调。豆包主力模子不错跟扫数主力模子去对比，网上不错看到许多第三方测试，拿豆包 APP 来说，现时月活 2600 万，用的东说念主越多调用量就越大，模子当然就会越好。
至于资本问题，ToB 业务要看恒久，用吃亏换收入不可赓续，字节从来不走这样的路，降价源于期间自信，这个订价是火山对期间有信心，将来还有许多技巧赓续裁减资本。
Q：豆包大模子透顶把价钱打下来了，为什么说“廉价”是对期间的自信？
谭待：泉源，期间上有特别多优化技巧把资本作念低且让效果更好，比如模子结构优化调节；其次在工程上以前齐单机推理，现时是分散式推理，当然能把各式底层算力用得更好，进而大大裁减资本，尤其退换量特别大后，能将不同负载手脚搀杂退换，使资本大幅下落。况兼，OpenAI 也在降价，试想将来大模子在东说念主们泛泛生存每天齐用，廉价是果然庸俗诈欺的前提。
其次，本年大模子能力在显著栽种，作念诈欺变得越发要紧。许多客户齐想去作念大模子尝试，但碍于价钱（AI试错、业务翻新风险高），要濒临特别多省略情味，必须把试错资本降得特别低，才能让全国（企业、个东说念主拓荒者）庸俗用起来。是以，当下最进攻的便是裁减资本。
Q：豆包大模子诈欺于字节里面居品的使用情况若何？
谭待：泉源，同名 APP 豆包（截止本年 4 月，豆包在苹果中国区 App Store 遵循榜名依次一；其安卓市集累计下载量 1.37 亿，在 AIGC 类诈欺中断崖式率先）用户量（月活达 2600 万）评释效果特别好，还有星绘这样的翻新诈欺。
除了 AI 原生诈欺外，抖音、头条、飞书部分功能齐使用了大模子，比如抖音搜索、头条搜索收尾便是用豆包大模子来生成，它还不错进一步追问用户想了解什么信息？包括抖音电商许多营销案牍、导购、助手等等范围齐有诈欺。
除了这些诈欺场景，传统许多用 NLP（当然谈话处理）处理的问题豆包也不错作念得更好，不错为一些业务后台操作带来极大的遵循栽种。
Q：AI落地场景很要紧，火山有哪些客户诈欺场景不错共享？
谭待：手机交互场景太多了，手机搜索、助手AI 等（OPPO 小布助手、荣耀机灵办公智能助手、小米“小爱同学”、华硕豆叮 AI 助手均已接入火山引擎大模子工作）；车机现时也比较多，导航趁机看商圈、餐厅、相近影院，（不肤浅看手机时）模子会告诉车把对应内容找出来完成交互；再比如汽车座舱对模子能力条款不那么高，适合用豆包通用模子 lite，不光推理单价更低，延长也低 50%。
固然，场景落地一方面期间要栽种，像 pro、lite、扮装演出，语音齐有遍及的诈欺场景；另一方面，诈欺生态是一堆东说念主的群体机灵，更好模子、更低资本、更易落地才能茁壮生态，大企业是高代码，但个东说念主拓荒者要的是低代码，必须低门槛这个事情才能作念起来，造成 AI 期间的翻新。
字节蓄力，“火山”爆发？
Q：若何看待互联网巨头在大模子赛说念的狠恶竞争？
谭待：国内大模子现时还不是谈竞争的时候，因为大模子现时照旧在初期，水池有多大鱼才多大，大模子市集才刚刚运行，这个时候沿途把大模子作念好、把诈欺落地作念好、把资本作念低，让更多东说念主和企业受益才是要害，现时远未到狠恶的竞争。
Q：之前周鸿祎和李彦宏关连于开源与闭源的商讨，火山会朝开源照旧闭源发展？
谭待：泉源，关于模子公司来说开源闭源不诟谇黑即白，而是抽象的花式，咱们里面也在商讨，是不是将来某一个版块、某一个尺寸的模子就用开源来作念；其次，企业模子诈欺是开源照旧闭源本色在于背后的需求，是追想安全问题，照旧追想资本问题，照旧追想工作问题等。
Q：互联网大厂在云计较范围竞争狠恶，大模子诈欺到云计较范围会侧重在哪些层面布局？
谭待：云生态包括 IaaS、PaaS、SaaS，AI 大模子自身对云来说是镌脾琢肾，是把数字化往深往广去作念，比如模子推理不错通过云的花式把资本作念到很低，是以从价钱去探讨 AI 是建立一个算力到智能的相干性，把越来越普遍字化需求、生存场景与算力交融。
固然，火山更存眷 ToB 所在：第一，有一些行业很有鸠集性，比如手机、汽车不错通过定约沿途作念好；第二，一些行业不是突出明晰，就和最有目的的企业深度互助；第三，拓荒者特别要紧，面对新期间波澜作念出不同翻新的不是昔时的巨头，而是新的拓荒者，何如把他们工作好，让他们作念出更优秀的 AI 诈欺很要紧。
况兼作念公有云，字节的理念便是要资本低，就像作念电商要优质、廉价雷同，降本增效是写到火山引擎愿景里去的，不知说念其他东说念主有莫得写，这是领悟上的判袂。
Q：字节稀有据上风，在文生视频这方面是否有布局杀青弯说念超车？
谭待：字节有款居品即梦（Dreamina），除了文生图还有一些短视频生得胜能。模子历练一定要期间塌实，本色上不存在弯说念超车；其他模态也雷同，要先把基础作念好，如果基础齐作念不好，那文生图便是一个‘东说念主工智障’——因为它连翰墨齐不可赓续，视频能好到哪儿去？是以莫得弯说念超车，要一步一步塌实去作念。
虎嗅注：事实上，字节进取于 2023 年 11 月已发布视频生成斟酌恶果 PixelDance，提议基于文本指导 + 首尾帧图片指导的期间枢纽，能生成具有高度一致性和丰富动态性的视频；本年 1 月，字节又发布视频生成模子 MagicVideo-V2，效果并列 SVD-XT、Pika1.0、Gen-2（Runway） 等同类模子。
Q：最近 OpenAI（GPT-4o）、谷歌（谷歌I/O大会升级 Gemini 全家桶）接踵公布最新大模子进展，国表里所处阶段及差距若何？
谭待：安份守己地讲 OpenAI 敬佩照旧全球第一，包括 anthropic、Gemini 也作念得特别好，要承认差距；但反过来说有两点，一是咱们的模子在不停进化，一朝进化到某一个档次，就有可能去上头作念诈欺。
为什么（字节）这样久才镇定对外发布豆包？因为豆包到了全国不错庸俗用它去作念诈欺的进程，惟有越来越多的东说念主去作念更多诈欺，反过来又不错驱动期间进步，造成一个正轮回。
前天（5 月14日）OpenAI 发布会，语音作念得好不好对扫数这个词交互体验影响很大，可能模子很明智但讲话像机器东说念主，豆包和全球最佳的居品仍有差距，需要一个追逐的流程，现时追的速率还行，用户量也越来越大。
西瓜网