2025 年 10 月 8 日至 9 日，“亚太科技风向标”新加坡科技周在新加坡海湾金沙会展中心顺利举行。

值得关注的是，Zenlayer 在会上正式推出 Zenlayer 分布式推理平台（Zenlayer Distributed Inference Platform），全球渠道与生态发展副总裁 Ashlee Yang 同步发表题为《突破瓶颈：AI 推理的全球规模化部署》的主题演讲，深度解读该产品如何破解 AI 应用全球规模化落地的核心难题。

推理环节是 AI 应用的生死线

当前，AI 应用市场正处在爆发式增长期，预计 2030 年市场规模将达到 264 亿美元¹。并且随着 Agentic AI 的普及，推理已成为决定 AI 应用体验的核心环节。

Ashlee 指出，如今的 AI 推理具有两个显著特点：

⦁ 持续进行：AI 与用户的每次交互都触发推理，Agentic AI 使推理从单次响应变为多轮思考，显著增加计算复杂度

⦁ 主导成本：对多数模型而言，推理可能占模型全生命周期成本的 80–90%，持续的推理导致计算需求激增，进而影响整体支出。

Ashlee 指出，当前推理环节面临的真正挑战是解决资源协同问题，主要表现在：

• 集中式运行：当推理工作仅在少数数据中心进行时，原本流畅的用户体验会变得卡顿。

• GPU 利用不足：因推理任务难以预判，导致成本高昂的 GPU 常处于闲置状态，不仅造成投资浪费，也带来推理响应时间波动。

• 碎片化部署：当多个大模型并行运作时，AI 应用难以有效协调跨区域的多模型及相关资源，既引发延迟差异，推理性能也难以维稳。

Zenlayer 分布式推理平台：让 AI 推理在全球高效落地

✓  AI 网关，统一接口：接入层作为该平台的第一扇门，通过 AI 网关保障各类推理请求快速进入处理流程。

✓ 编排推理层，高效利用 GPU：通过动态批处理、优先级调度智能调度策略，将推理任务合理分配给计算资源，实现多任务高效并行，减少 GPU 闲置时间。

✓ 优化层，无缝多点部署：通过 GUI （图形用户接口）和 API （应用程序接口）将模型分发至目标区域，且能同步完成更新。

✓ 全球基础设施层，推理随时落地：依托 Zenlayer 覆盖全球 300+ PoPs 的基础设施资源，让边缘推理服务就近启动，实现高达 40% 的延迟优化，助力 AI 应用在全球无忧部署。

Zenlayer 分布式平台已助力一家视频领域的 AIGC 初创企业，在数日内完成全球推理部署，最终实现基础设施成本降低 30%、部署效率提升 40% 的显著成效。

该平台不仅服务于 AI SaaS 与应用提供商，更精准适配需进行实时 AI 交互的媒体、游戏、电商企业，以及高度运用 AI 推理的大型企业。

正如 Ashlee 在演讲尾声强调的，我们仍处于 AI 时代的早期阶段。打造支撑未来 AI 发展的基础设施是战略布局的必然要求。Zenlayer 将持续拓展 AI 就绪型服务矩阵，赋能更多 AI 项目领跑全球，制胜未来。

携手 Zenlayer，助力您的 AI 项目落地全球！

Zenlayer 是世界领先的以超连接为核心的云服务商，覆盖 50 多个国家和地区的 300 多个边缘节点。

基于强大的全球分布式算力平台，Zenlayer为 AI 应用提供快速、高效且可靠的数据传输能力。企业可以通过 Zenlayer 即开即用的算力和网络服务在全球部署和运行实时互动应用，即刻提升其用户数字体验。凭借 10,000+ 全球互联互通、300+ 云连接接入口，以及 180+ Tbps 网络容量，Zenlayer 助力企业在 25ms 之内触达全球 85% 的互联网用户。

免费咨询 Zenlayer AI 解决方案专家，即刻启动您的 AI 项目。