谁将攻克人工智能推理的“最后一公里”?

从ChatGPT到DeepSeek,大规模模型的进步正在将人工智能技术带入各个行业。特别是以DeepSeek、Qwen、ChatGLM等为代表的开源模型在提升性能的同时不断降低开发和使用门槛,加速了AI技术的民主化和商业化进程,也带动了当今市场对智能计算能力尤其是推理计算能力前所未有的需求。 IDC Futurescape 2025 年全球十大云计算预测显示,到 2027 年,80% 的 CIO 将依赖云服务提供商提供的边缘服务来满足其数据合规性和性能要求,以应对日益增长的生成式人工智能(推理)需求所带来的挑战。随着行业的蓬勃发展,云服务提供商作为“卖水者”正在引领价值重塑。 2025年起,国内云厂商如旗下阿里云、火山引擎、金山云(03896.HK)、优科德(688158.SH)、青云科技全力向AI智能计算转型。资本市场也对前景做出了热烈反应,上市制造业股票出现了令人惊讶的短期上涨。以网宿科技、白山云科技、PPIO等为代表的国内独立边缘云服务商也积极抓住“边缘推理”的机遇,加速战略设计和资本进程。据网宿科技(300017.SZ)10月27日发布的三季报显示,公司2025年第三季度营业利润达到34.92亿元,净利润增长43.6%。边缘人工智能和安全公司正在加速实施。白山云和PPIO也已在香港联交所上市,并计划进军资本市场取得更大成功。人工智能领域的平等权利,推断DeepSeek诞生于2025年,基于算法改进、计算节能和开源技术,大幅降低了AI开发的门槛和创新成本。由于人工智能,公司和个人都在体验更高的效率和新的可能性。典型的例子是“义乌老板娘”,它将DeepSeek等人工智能工具引入到生产设计、多语言客户服务、物流优化等业务环节。全网跨境业务蓬勃发展。与此同时,同易千文、腾讯混元、GLM、Kimi等国内主要大型模型厂商也加快产品迭代,深化开源设计,重塑世界开源大型模型的生态格局。 2025年9月阿里云大会上,同易钱文同步推出涵盖语言、视觉、音频、多模态、代码等领域的七大新模型,形成ng 一个全尺寸和模态的产品数组。其中,Qwen3-Next通过架构创新降低了90%的训练成本,延续了综合人工智能技术的发展趋势。 (来源:AI Generation)开源和低成本加速了模型层面的“平等”。中小型团队无需大量资本投入即可提取小型高性能模型并高效执行。具有可靠的边缘和边缘计算能力。这大大降低了对硬件计算能力的需求,并为推理端应用程序的爆炸式增长奠定了基础。数据显示,截至今年9月,仅同益模型全球下载量就超过6亿次,衍生模型下载量超过17万次。这种转变让企业摆脱了浪费钱的“努力创造奇迹”的AI投资模式,逐渐将重点从训练转向推理。中国的IDC预计,2028年其智能算力将达到2781.9EFLOPS,这一增长得益于推理侧需求的大幅释放。 IDC分析师还指出,从2024年底开始,在边缘完成模型推理以及轻量级模型训练和处理相关事件现在将成为客户的目标。边缘推理:时延极低,成本大幅降低大规模模型“战场”的变化对算力市场格局的影响,本质上与训练和推理的差异化算力需求有关。训练阶段依靠高算力、集中且长期的云资源来完成复杂的计算和迭代。但与通过训练“密集消耗”算力不同,推理具有边缘化、碎片化、实时性、长尾等特点。解决“最后一公里”推理问题成为关键挑战特别是AIGC、代理商、车联网、AR/VR、工业自动化、云游戏等应用场景对实时交互的要求越来越高。市场对具有低延迟和隐私保护功能的人工智能推理的需求正在快速增长。虽然核心云在资源强度方面仍具有优势,但区域间流媒体带来的效率、性能和隐私风险日益成为瓶颈。在成本方面,推理服务的成本与使用直接相关,因为最终用户流量不断增加,每次用户交互都涉及计算能力和带宽的高消耗。边际成本仍然很高,企业迫切需要更便宜、更高效的推理解决方案。在实时性要求和成本压力下,边缘云成为解决人工智能“最后一公里”的关键基础设施。边缘云将数据移动到远程中心通过将计算和存储放置在更靠近数据源的位置,对数据中心进行处理。减少数据往返传输的带宽消耗和延迟,并实现实时推理和分析,保证数据安全,帮助客户降本增效。 (来源:AI Generation) IDC在《中国边缘云市场监测报告》中指出,在人工智能推理场景中,边缘云服务模式具有上线速度快、物理位置分布广泛、靠近最终用户等特点。在某些场景下,尤其是使用多模态模型生成大规模内容时,边缘云服务具有独特的优势。边缘云以其分布式架构和近端推理能力,与核心云推理形成强有力的补充和协同,也带来了新的市场空间和竞争机会。目前,网宿科技、白山云、PPIO等边缘云提供商明确将AI以基础设施为核心战略,推出GPU算力租赁、边缘模型服务等重点产品和服务模式。其中,GPU算力租赁通常采取裸机服务器租赁和容器化实例的形式,为客户提供灵活的按需付费的计算资源,帮助客户在保证业务扩展性和盈利能力的同时减少初始投资。边缘模型服务使用分布式集群架构来实现模型即服务(MaaS)功能。允许在用户边缘附近进行高实时推理。此外,更先进的分析人工智能应用生命周期的增值服务,如模型调优、模型治理和云代理服务,也成为制造商建立差异化竞争优势的关键。随着人工智能应用的普及,驰石咨询预测全球边缘云服务行业市场规模2029年将达到1.458万亿元。其中,中国市场规模将从2024年的810亿元增长,预计2029年将增长至2515亿元,年复合增长率为25.4%。洪水之际,大型渔业市场的扩大必将带来机遇,竞争也将加剧。 2025年10月28日,全球CDN创始人Akamai正式推出分布式生成边缘平台Akamai Inference Cloud。这将人工智能推理能力从中央数据中心延伸到互联网边缘,让人工智能决策更贴近用户,解决延迟、成本和数据主权痛点。从CDN到边缘云再到边缘AI,Akamai的转型之旅也在冲击国内CDN厂商。如果分析国内CDN市场的发展,由于移动互联网流量的爆发式增长,不少CDN公司纷纷进入该市场。但他们也完成了价格战和电子商务限制了适者生存。 CDN企业开始向边缘云转型,在网络、安全、计算等方向拓展能力。简而言之,资源覆盖、技术能力、客户服务、成本控制等等,都是留在牌桌上的资本。随着人工智能推理市场机会的爆发式增长,国内边缘云市场新的竞争开始。制造商的进步背后的逻辑可能是相似的。其中,近期在香港联交所完成二次上市并再次成功进行首次公开​​募股(IPO)的白山云正引起市场的强烈关注。白山云成立于2015年,是业界知名的独立边缘云服务公司。我们打造了集网络服务、安全和智能计算服务于一体的全球边缘云平台和产品体系。公司已服务1000多家企业客户nts。基于成熟的全球边缘云基础设施和独特的异构计算框架,白山云提供智能边缘计算。我们推出了云,提供从GPU IaaS到MaaS的全方位服务,并且专门针对边缘AI推理进行了优化。在该领域,白山云还积累了一系列创新技术,包括服务网关全网调度技术、异构算力灵活调度技术、大规模文件上传优化技术、算力服务单元推理优化技术等重要特色。这些优化让白山云在推理能力上取得了显着的进步。 GPU利用率提升30%,模型响应速度提升100%,模型扩展时间和成本降低94%。 (来源:白山云官网)此外,凭借广泛的节点覆盖和全球网络能力,凭借智能调度,白山云在边缘推理性能和成本控制方面具有独特优势,在抢占人工智能推理“最后一公里”的竞争中占据优势。招股书显示,白山云已在60个国家和地区的290多个城市部署了1500多个全球边缘节点,成为海外资源最丰富的边缘云提供商。计算基础设施部署于东南亚、中东、中亚、非洲、北美、欧洲等国外市场,形成具有毫秒级服务交付能力的全球分布式计算网络。 (来源:白山云官网)基于此,白山云将计算资源动态下沉到用户侧,保证距离用户最近的边缘节点的运算响应始终保持最佳性能,并实现接近的推理。以工业场景为例,白山CLoud 实现了小于 20 毫秒的端到端延迟。同时,白山云将根据全球算力资源储备,监控客户在不同时区的算力使用情况。可根据峰谷变化进行全局跨区域调度,削峰填谷,最大化资源利用率,进一步降低客户的使用成本。此外,本地化的边缘数据处理也满足了金融、政务、国际业务的合规要求。与各大云提供商相比,“独立第三方”的属性让白山云能够为多种企业提供服务支持,可靠性和安全性也成倍提升。这些好处转化为收入。根据公司财报,白山云2022年至2024年的营收分别为21.32亿元、23.91亿元和22.18亿元。其中,智能计算NG和安全服务收入从2022年的1.57亿元大幅增长至2024年的5.17亿元,占总收入的比例从7.4%增加到23.3%。不过,该公司尚未盈利。 2022年至2024年损失分别为1.93亿元、9300万元和1.47亿元。对此,白善云解释称,这主要是由于战略性削减国内市场的低利润业务,以及持续在全球网络扩张和智能计算基础设施方面进行前瞻性的大规模资本投资。这也可能是云提供商租金面临的常见问题。云提供商继续急于设计和投资人工智能新蓝海,同时忍受着剥离或减少低利润业务带来的“痛苦”。然而,市场的激烈竞争依然不可阻挡,最终必须通过持续盈利来体现长期价值。 AI主流时代已到来加速。智能算力作为新型基础设施,已成为各领域智能化转型的核心驱动力。云中、边缘和端点的协作计算能力系统是行业的迫切需求。面对快速增长的推理计算市场,成熟的边缘云服务平台厂商在资源、技术和客户基础上具有优势,但随着新的AI季节的到来,厂商之间的竞争很可能不仅考验短期的市场开拓和投资能力,更考验长期的战略决策和后劲。我们希望并相信这个市场将会爆发式增长,更具活力和价值。 (本文首发于钛媒体APP)
特别提示:以上内容(包括图片、视频,如有)由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注:阿宝网易号是一个仅提供信息存储服务的社交媒体平台,其用户上传和发布的内容(包括图像和视频,如有)。

admin

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注