Gemini 企业智能体平台扩展选择：推出基于 Parallel 网页搜索的接地能力

2026 年 7 月 16 日　Guangsha Shi 高级产品经理

扩展接地提供商选择：与 Parallel Web Systems 建立合作

随着生成式 AI 从简单的聊天界面演进为能够执行复杂任务的智能体，例如自动化的「了解你的客户」（KYC）审查、目录数据富化、实时新闻分析以及企业尽职调查，对事实准确性的要求也随之提升到了前所未有的高度。

为了让开发者在将 Gemini 模型「接地」到可验证的实时信息时拥有更高的灵活性，我们今天非常高兴地宣布：Parallel Web Systems 现已成为 Gemini Enterprise Agent Platform（原英文为 Gemini Enterprise Agent Platform，下文统称「Gemini 企业智能体平台」）上原生集成的网页接地提供商。

基于 Parallel 网页搜索的接地（Grounding with Parallel Web Search） 将 Gemini 模型锚定在高质量、实时的网页结果中。它通过提供指向原始来源的精确引用，确保你的智能体能够基于准确且可验证的信息进行决策。该能力现已在整个 Agent Platform 上可用：可通过 Gemini API 调用，可在 Agent Studio 中选择启用，并可通过 Google Cloud Marketplace 订阅，相关用量将计入你现有的 Google Cloud 账单。

「企业希望在一个开放的平台上构建 AI 智能体，并使用最优秀的工具来交付真正的价值。通过在 Gemini 企业智能体平台上加入 Parallel 作为接地选项，客户现在可以使用他们首选的实时网页数据流来让 Gemini 变得更加智能。这帮助他们在现有的 Google Cloud 环境内顺利完成智能体从原型到部署的全过程。」 — Matt Renner，Google Cloud 总裁兼首席收入官

「AI 智能体很快会以前所未有的规模使用网页，它们需要专为自身运作方式而构建的搜索基础设施。我们打造 Parallel 正是为了提供这样的基础设施，而与 Google Cloud 的此次合作将把它原生带到企业构建生产级智能体的地方。」 — Parag Agrawal，Parallel 创始人兼首席执行官

关于 Parallel Web Systems

Parallel Web Systems 致力于构建专为智能体打造的搜索基础设施。其 Parallel Search API 提供结构化、面向 LLM 优化的结果，依托专为智能体负载设计的自研网页索引。通过与金融、法律、科技等行业的众多企业合作，Parallel 正在帮助大规模驱动生产级的自主智能体工作流。

将 Gemini 与 Parallel 网页搜索连接

Agent Platform 上的「基于 Parallel 网页搜索的接地」将 Gemini 模型与 Parallel Web Systems 的搜索 API 所提供的公共网页数据相连接。该服务将 Parallel Web Systems 的网页索引与 Gemini 自身的复杂提示理解与拆解能力相结合，从最相关的搜索结果中提炼洞见，并生成精确到引用标注的高度准确答案。由于 Parallel 网页搜索运行在 Google Cloud 之上，你可以在既有的云环境中获得精简、安全的集成体验，并针对敏感工作负载提供零数据保留（ZDR）选项。

以更灵活的架构解锁复杂场景

将 Parallel 加入生态体系，为客户带来了更广泛的许可与架构灵活性。「基于 Parallel 网页搜索的接地」的一大差异化优势在于其对新用例的广泛适用方式。对开发者而言，这意味着可以自由地执行大规模程序化调用、抽取并缓存网页数据以丰富内部数据集，以及使用其他 LLM 对「基于 Parallel 网页搜索的接地」的结果进行后处理。这种灵活性支持复杂架构的搭建，使企业能够自信地将智能体投入生产，并将 Gemini 的网页接地能力集成到他们现有的技术栈中。

这种扩展的灵活性使开发者能够构建高度专业化的智能体工作流，例如：

• 目录与数据库富化： 抽取并永久存储可验证的网页数据，以填补大规模内部系统的空白。例如，管理庞大产品库存的组织可以抽取并永久存储网页数据，持续丰富商品目录属性；也可以利用搜索数据自动补充和更新庞大的供应商与联系人数据库。
• 自主智能体： 构建能够持续跨系统导航、检索实时信息并执行复杂程序化工作流的智能体。例如，拥有严格合规要求的组织可以构建智能体，自动将内部文档与公共域进行交叉核对，或在无人介入的情况下，对实时网页数据程序化地执行全球合规与风险评估检查。
• 多智能体编排： 构建复杂的多智能体系统，由中央编排器在不同模型之间分配任务。由于「基于 Parallel 网页搜索的接地」允许开发者将搜索结果传递给其他 LLM，他们可以创建在多样化、任务专属的子智能体之间无缝传递上下文与查询的助手，这些子智能体由不同的 LLM 驱动，从而交付高度综合的洞见。

立即开始使用

将「基于 Parallel 网页搜索的接地」集成到你的 Agent Platform 工作流非常简单。该能力已直接嵌入你的工作流。要开始使用，请通过 Google Cloud Marketplace 订阅 Parallel 服务，接受服务条款，并查看定价。购买金额计入你符合条件的市场福利，相关账单合并至你的 Google Cloud 账单。

订阅完成后，进入 Agent Studio。在导航菜单中点击 + 新建（New） 并选择 聊天（Chat）。展开 模型设置（Model settings） 面板，点击 合作伙伴接地（Grounding with Partners） 切换按钮，打开 自定义合作伙伴接地（Customize partner grounding） 菜单。选择 Parallel Web Search 作为你的接地来源，应用配置后，你的 Gemini 模型即可立即生成锚定在可验证、实时网页信息中的回答。

相关阅读

• Introducing Credentio: Open Source C++ Library for C2PA Content Credentials from Google（2026 年 8 月 13 日）
• Build zero-trust AI agents with Google's Agent Development Kit（2026 年 8 月 17 日）

2026 年 7 月 9 日　Ping Yu（Google 软件工程师）　Marko Ristić（Google 软件工程师）　Matthew Soulanille（Google 软件工程师）　Chintan Parikh（Google 产品经理）

我们很高兴地宣布推出 LiteRT.js，它是 LiteRT 的 JavaScript 绑定，用于直接在 Web 浏览器中运行 AI。通过将久经考验的设备端推理库 LiteRT 带到 Web 上，Web 开发者现在可以完全在本地以最高性能运行 ML 和 AI 模型。这意味着用户隐私得到增强、服务器成本为零，并且能为实时体验提供超低延迟。对于已拥有 .tflite 模型的开发者来说，LiteRT.js 让部署到移动端和桌面端 Web 浏览器比以往更加顺畅，它是 TensorFlow.js 在执行 .tflite 模型方面的一次强大进化。

过去的 Web AI 解决方案（如 TensorFlow.js）依赖于性能较弱的、基于 JavaScript 的内核，而现在我们通过 WebAssembly 将原生的、跨平台的运行时及其全部优化直接开放给 Web 开发者。LiteRT.js 通过在浏览器中直接运行你的 .tflite 模型来释放出色性能，它借助 LiteRT 的前沿硬件加速能力，包括用于 CPU 的 XNNPACK、用于 GPU 的 ML Drift，以及即将支持的用于 NPU 的 WebNN。

我们的首发版本提供了上手所需的全部工具，包括全新的 LiteRT.js npm 包 和一个展示真实场景实现的演示集合。

抱歉，你的浏览器不支持此视频的播放。

由 LiteRT.js 和 EmbeddingGemma 驱动的浏览器端向量检索。在此处试用。

LiteRT.js 如何为 Web 开发者带来价值

借助 LiteRT.js，Web 开发者可以将模型集成到他们用 JavaScript 或 TypeScript 编写的应用中，以完全在客户端处理文本生成、目标检测、音频处理等复杂任务。由于 LiteRT.js 与 LiteRT 共享统一的跨平台技术栈，你的 Web 应用会自动受益于面向 Android、iOS 和桌面端开发的最新性能升级、量化改进和硬件优化。

通过利用 LiteRT 的降级流程和运行时，你可以轻松地将来自各种 Python ML 框架的模型进行转换，并在所有主流加速器（CPU / GPU / NPU）上获得原生硬件加速。为了帮助你轻松解锁这些 AI 能力，下面列出 LiteRT.js 的主要亮点：

1. PyTorch 转换与定制化量化

借助 LiteRT Torch，PyTorch 模型可以通过一步完成转换，立即准备好利用先进的浏览器端硬件加速。立即按照 LiteRT Torch 指南 开始上手。

为了进一步优化，AI Edge Quantizer 允许你在不同模型层之间配置定制化的量化方案。这能在保持整体模型质量的同时，实现显著的体积压缩和性能增益。查看 量化 Colab 来亲自体验。

2. 跨 CPU、GPU 和 NPU 的原生硬件加速

LiteRT.js 能够为各种不同的硬件后端提供高性能的 AI 推理。

• CPU：采用 XNNPACK，它是 Google 针对设备端 CPU 加速的高度优化库，提供稳健的多线程支持，并通过放宽 SIMD 构建来提升性能。
• GPU：由 ML Drift 提供支持，它是 Google 面向设备端 GPU 加速的领先解决方案。LiteRT.js 利用 WebGPU 在 Web 上实现前沿的 GPU 加速。
• NPU：利用新兴的 WebNN API（目前在 Chrome 和 Edge 中处于实验阶段）来访问专用 NPU，从而实现高能效、超低延迟的推理。

准备好加速你的 Web 应用了吗？请查阅 LiteRT.js 文档 开始上手。

LiteRT.js 架构概览

性能与真实场景影响

为了展示统一运行时和硬件加速后端的真实影响，我们将 LiteRT.js 与现有的 Web 方案进行了对比评测。在经典的计算机视觉和音频处理模型上，LiteRT.js 带来了显著的加速——在 CPU 和 GPU 推理上，性能领先其他 Web 运行时最高达 3 倍。

注：性能基准测试在受控的浏览器环境中，基于一台 2024 款配备 Apple M4 芯片的 MacBook Pro 进行。由于本地 GPU 能力、热降频以及浏览器驱动优化的不同，实际用户性能可能有所差异。

为了用真实场景的效率来印证这些结论，我们使用 LiteRT.js 在三种不同的 Web 执行后端上对热门 AI 模型进行了基准测试：CPU（通过 XNNPACK）、WebGPU 和 WebNN（通过 Apple CoreML）。对于目标跟踪、音频转写、图像处理等高要求的实时应用，通过 WebGPU 或 WebNN 利用 GPU 或 NPU，相比标准 CPU 执行可获得 5–60 倍的加速，在不牺牲性能的前提下保证更低的延迟。

注：性能基准测试在受控的浏览器环境中，基于一台 2024 款配备 Apple M4 芯片的 MacBook Pro 进行。由于本地 GPU 能力、热降频以及浏览器驱动优化的不同，实际用户性能可能有所差异。

实际效果展示

想亲眼看到 LiteRT.js 的实际效果，可以浏览我们的在线演示。LiteRT.js 的演示代码可在 LiteRT GitHub 仓库 以及 Ultralytics 上获取。

LiteRT Ultralytics YOLO 集成

Ultralytics 是一家专注于构建计算机视觉工具和模型的 AI 公司，最广为人知的身份是 YOLO（You Only Look Once）框架及其系列实时目标检测与图像分割模型的创造者。

我们很高兴地宣布，已在 Ultralytics Python 包中内置了官方 LiteRT 导出支持。你可以轻松地将 Ultralytics YOLO 模型部署到移动端、边缘设备和浏览器上，只需几行代码即可完成从编译到运行的全流程。

抱歉，你的浏览器不支持此视频的播放。

演示：YOLO26 系列实时视觉模型

深度估计

Depth Anything —— 单目深度估计 展示了如何将标准的网络摄像头画面实时转换为可交互的 3D 点云。该演示由 LiteRT.js 通过 WebGPU 驱动，利用 Depth-Anything-V2 模型即时计算深度数据，并将视频像素映射到响应式的 3D 空间中。

抱歉，你的浏览器不支持此视频的播放。

演示：使用 DepthAnything 和 WebGPU 进行单目深度估计。

图像超分

使用 Real-ESRGAN 模型与 LiteRT.js，在浏览器中将图像放大 4 倍。它的工作方式是将 128×128 像素的图块放大到 512×512，然后再重新拼合成最终的图像。

抱歉，你的浏览器不支持此视频的播放。

演示：在一张图像超分网页中放入一张狗狗的图片，将其放大至原尺寸的 4 倍。图片来源

2026/8/18 22:35:02 来源：IT之家 作者：潞源 责编：潞源

IT之家 8 月 18 日消息，据科技媒体 The Verge 今天报道，火狐 Firefox 浏览器的"智能窗口"（Smart Window）模式现已升级，用户可在浏览器的 AI 聊天功能中获取网页信息。

IT之家从原报道获悉，智能窗口现在还可以根据浏览内容自动推荐标签页分组，使用自然语言搜索浏览历史时，还可以直接看到之前浏览过网页的缩略图。推荐的标签页分组还能够识别并关闭重复的标签页，让用户更容易整理和追踪重要内容。

与传统的 AI 浏览器不同，Firefox 更侧重于整理用户浏览过的内容，同时 AI 助手 Exa 也将为找到的信息添加来源引用。

此外，Firefox 未来还将加入类似 Chrome 的近期浏览历程展示功能，帮助用户重新访问之前的浏览会话，以及基于 AI 的在线表单自动填写功能。

相关文章

关键词：Firefox 浏览器、火狐 Firefox、智能窗口、Exa

• Mozilla 宣布正为苹果 iOS 版 Firefox 火狐浏览器引入原生广告拦截功能
• 火狐 Firefox 浏览器 2026 最大改版：Nova 上线 Nightly 版，紧凑模式回归
• Firefox 火狐浏览器更新提速：将效仿 Chrome 与 Edge 每两周发布一次频率
• Mozilla 公告火狐 Firefox 浏览器路线图，推进 2026 最大改版 Nova 落地
• 火狐 Firefox 浏览器 152 稳定版发布：改版设置页面、增强媒体控制、实验性支持 JPEG XL
• 火狐 Firefox 149 浏览器初步集成 adblock-rust 去广告引擎，含拦截 / 标注模式

OpenAI 在其 AI 入侵 Hugging Face 之后公布新的安全调整

OpenAI 正在升级其研究环境、监控以及对齐技术，以避免再次出现安全事故。

by Jay Peters，2026 年 8 月 18 日 UTC 时间 19:28

图片：The Verge

Jay Peters 是一位报道科技、游戏等领域的资深记者。他于 2019 年加入 The Verge，此前在 Techmeme 工作了近两年。

OpenAI 正在公布 安全更新，这是继 7 月份其 AI 突破沙箱环境并 意外入侵了 Hugging Face 之后所采取的应对措施，内容包括对研究环境、监控以及对齐技术的改进。该公司此前已经踩下了 一款新模型 Astra 的刹车，认为它可能具备「关键性」的网络安全能力；同时 OpenAI 表示，在其收紧安全措施期间，对「计划部署的最新模型」的强化学习（RL）训练暂停了两周。该公司「原计划中规模最大的前沿 RL 训练任务仍然处于暂停状态」。

针对其前沿模型研究，OpenAI 现在要求对那些「执行模型生成或来源不信任代码」的工作负载使用更强的沙箱，并增加了更多控制手段，以「将高风险和不受信任的工作负载与互联网隔离」。它还更新了研究环境，以「移除可能存在漏洞的共享服务、削减常驻权限，并改进安全与信任边界」。

作为公司扩展后的监控设置的一部分，OpenAI 表示其目标是在「相关活动被发现后的 30 分钟内」发出警报。如果警报响起后被呼叫的相关人员无法在 30 分钟内「明确判定」该警报是否为误报，「这些团队应暂停相关活动」。

OpenAI 还表示，它正在「在训练流程的更多阶段中应用我们的核心对齐技术」，包括采用能够「更好地识别并抑制不安全行为」的奖励模型，以及训练模型「使其在自身行为、能力以及局限性方面更加诚实」。

相关阅读

• 我们越来越没有理由忽视 AI 安全了

自 Hugging Face 入侵事件被发现以来，Anthropic 和 Meta 也先后发现其 AI 模型入侵了其他组织。

关注此报道中的主题和作者，以便在您个性化的首页信息流中看到更多类似内容，并接收相关邮件更新。

• Jay Peters
• AI
• News
• OpenAI
• Security
• Tech

最受欢迎

1. 马斯克搞砸了 FAA，Palantir 正在收拾残局
2. 配备摄像头的苹果 AirPods 出现在泄露视频中
3. Comcast 正把数百万台路由器变成运动探测器
4. 《土狼 vs. Acme》更加好笑了，因为华纳兄弟探索曾试图扼杀它
5. YouTube 正在改变视频播放量的统计方式以提升数字

[来自广告主的内容

这是原生广告的标题](https://www.theverge.com/)

Cursor 借势 GitHub 不满情绪，推出对标代码托管平台

长期以来，GitHub 一直是绝大多数开发者的首选代码托管平台，这一点几乎无人不知。然而近段时间以来，GitHub 频繁出现广为报道的宕机和性能下降问题。正是在它频频失手的当下，Cursor 正在伺机取而代之。

这家 AI 初创公司现已成为 SpaceX 的正式一员，本周推出了 Origin——一个全新的代码托管平台，旨在覆盖开发者通常使用 GitHub 完成的所有工作：在代码库上协作、浏览与编辑代码、处理拉取请求（即由他人提交、希望合入主代码库的修改），以及将代码存储在仓库中。

对于 Cursor 而言，这似乎是顺理成章的下一步。在此之前，Cursor 的核心业务一直是借助其 AI 代码编辑器销售自动化网页开发服务。Cursor 还表示，Origin 很快也将上线一系列“agent 原生（agent native）”功能，不过目前尚未披露更多细节。公司同时表示，正在围绕 Origin 构建更广泛的“应用生态”，以支撑更大规模的编码工作。

颇为有趣的是，使用 Origin 并不意味着必须弃用 GitHub。事实上，Origin 在设计上就支持开发者与 GitHub 并行使用，并以可互操作的方式在两者之间双向同步代码。

Cursor 在其博客中写道：“你的 GitHub 仓库可以与 Cursor 托管的仓库并存。将 GitHub 连接到 Cursor，选择你的组织，就能看到可以同步的仓库。选中之后，Cursor 就会把它拉进来。”

Origin 的发布恰逢外界对 GitHub 服务质量持续下滑的不满情绪高涨。事实上，就在 Cursor 推出新平台的同一天，GitHub 经历了一次相当漫长的全球性宕机。据报道，该站点的功能降级持续超过六小时，全球错误率接近 20%。

这已经不是第一次发生类似情况了。早在今年早些时候，在一轮又一轮的宕机之后，GitHub 宣布推出一系列新举措以安抚心怀不满的开发者，因为其可用性问题似乎在持续恶化。LeadDev 最近的分析显示，更广义地看，过去一年间该平台共发生 257 次宕机。LeadDev 记者 Charles Humble 写道，此类持续存在的问题已经引发了“高知名度用户的明显流失”。

不过，Cursor 若想真正与 GitHub 抗衡，仍有很长的路要走。根据 GitHub 自己的数据，截至去年 10 月，约有 1.8 亿名开发者使用其平台。这个成立于 2007 年、并于 2012 年被微软收购的平台，依然是全球最大的源代码托管平台。

DeepSeek-R1 系列包含两个模型：DeepSeek-R1-Zero 和 DeepSeek-R1。DeepSeek-R1-Zero 是首个完全通过大规模强化学习（不依赖任何监督微调）训练出的开源推理模型，其在训练过程中自然而然地涌现出大量强大且有趣的推理行为。

DeepSeek-R1 是在 R1-Zero 的基础上进一步引入冷启动数据（cold-start data）所得到的更强版本。它在数学、代码、自然语言推理等任务上取得了与 OpenAI-o1 相当的性能水平。

论文与说明

• 论文（Paper）：DeepSeek-R1：通过强化学习激励 LLM 的推理能力（Incentivizing Reasoning Capability in LLMs via Reinforcement Learning）
• 官方公告（Official Blog）：DeepSeek-R1 正式发布说明

模型与权重

本仓库提供完整的 DeepSeek-R1 推理模型。该模型规模为 671B，并采用 MIT 许可证发布，便于社区进行二次研究与商用部署。

此外，DeepSeek 团队还开源了六个稠密模型，分别基于 Llama 与 Qwen 系列蒸馏而来：

• DeepSeek-R1-Distill-Qwen-1.5B
• DeepSeek-R1-Distill-Qwen-7B
• DeepSeek-R1-Distill-Llama-8B
• DeepSeek-R1-Distill-Qwen-14B
• DeepSeek-R1-Distill-Qwen-32B
• DeepSeek-R1-Distill-Llama-70B

详细评测结果请参考官方论文。

2026/8/19 10:40:00 来源：IT之家 作者：故渊 责编：故渊

IT之家 8 月 19 日消息，OpenAI Codex 团队负责人蒂博·索蒂奥（Thibault Sottiaux）今天在 X 平台发布长推文，回应在 Codex 中调用 GPT-5.6 系列模型后误删部分用户文件的问题。

索蒂奥表示，自几周前开始陆续收到少量 Codex 用户反馈，在 Codex 中使用 GPT-5.6 系列模型后，模型执行了用户未授权的破坏性操作。OpenAI 发现，原本用于清理临时文件的命令却误删了用户文件。

其中一种情况是，Codex 会在临时工作中重用 $HOME 等系统环境变量。这样一来，错误的清理命令可能会指向实际的用户主目录。有些情况下，模型会尝试删除或覆盖临时路径，而没有检查该路径中已存在的内容。IT之家附上相关截图如下：

!

索蒂奥对此回应表示，已添加多层保护措施：

• Codex 现在被明确指示在执行操作之前检查删除目标，创建新的临时目录，避免重新利用系统环境变量，优先执行可恢复的操作，并在范围不明确时停止操作。
• OpenAI 加强了执行检查，增强识别高风险删除命令，并上报审核。如果命令被拒绝，模型将采取更安全的方法。
• OpenAI 提高了意外启用完全访问权限的难度，增加了更清晰的警告，并进一步限制了特别危险的权限组合。
• OpenAI 更新了自动审核功能，以便更好地识别破坏性行为。
• OpenAI 构建了针对性评估模型，用于重现我们观察到的失败案例。此外，我们还添加了专注于这些风险的强化学习任务和评分器，并从训练数据中过滤掉破坏性行为。

相关文章

关键词：Codex，OpenAI

• 不再仅限 API 密钥：Codex 中的 GPT-5.6 Sol 百万上下文能力已可通过 ChatGPT 账号使用
• OpenAI 总裁布罗克曼承认新 ChatGPT AI 桌面应用"有点乱"，目标打造"零标签"
• OpenAI 宣布开源 Codex Security CLI，支持代码扫描、漏洞追踪和自动化安全检查
• OpenAI 突发服务器故障，ChatGPT、Codex 出现宕机
• OpenAI 正重获二级市场投资者青睐，Anthropic 仍是最热门标的
• Mac 用户称 OpenAI Codex 导致电脑卡顿，关闭应用后也无法恢复

首页 IT圈 最会买 设置

• 日夜间 随系统 浅色 深色

• 主题色 黑色

  投稿 订阅

• RSS订阅

• 收藏IT之家

  软媒应用

• App客户端

• 要知App

• 软媒魔方

      [业界](https://it.ithome.com) [手机](https://mobile.ithome.com/) [电脑](https://www.ithome.com/pc/) [测评](https://www.ithome.com/labs/) [视频](https://www.ithome.com/video/) [AI](https://next.ithome.com/) [苹果](https://www.ithome.com/apple/) [iPhone](https://iphone.ithome.com/) [鸿蒙](https://hmos.ithome.com/) [软件](https://soft.ithome.com/)   [智车](https://auto.ithome.com) [数码](https://digi.ithome.com/) [学院](https://www.ithome.com/college/) [游戏](https://game.ithome.com/) [直播](https://www.ithome.com/live/) [5G](https://www.ithome.com/5g/) [微软](https://www.ithome.com/microsoft/) [Win10](https://win10.ithome.com/) [Win11](https://win11.ithome.com/) [专题](https://www.ithome.com/zt/)    搜索          [首页](https://www.ithome.com) > [智能时代](https://next.ithome.com/)>[人工智能](https://next.ithome.com/ai)

中消协：近期 AI 客服相关投诉显著增多

2026/8/16 22:33:15 来源：IT之家 作者：潞源 责编：潞源 评论： 感谢IT之家网友 顺势而为 的线索投递！

IT之家 8 月 16 日消息，中国消费者协会（中消协）本月（8 月 5 日）发布报告指出，AI 客服投诉显著增多，部分平台人工客服难以接通，被消费者形容为玩起“躲猫猫”。

!

据北京卫视近期测试，记者尝试拨打某短视频平台客服电话后发现，AI 客服多次提示人工客服繁忙，直到记者说出 4 次转人工后，相关程序才开始转接人工服务。从播发电话到真正接通人工客服，总共用时近 6 分钟。

同时，部分平台的 AI 客服会通过循环应答、多层跳转等方式，阻碍消费者进入人工服务流程，导致问题无法及时处理。

并且 AI 客服有时会作出费用构成、优惠活动等明确承诺。消费者依此作出购买决定后，经营者又会以 AI 回答不代表公司立场、算法生成内容不具备法律效力为由拒绝履约，引发争议。

IT之家注意到，中消协在《2026 年上半年全国消协组织受理投诉情况分析》中指出，一段时间以来，涉及 AI 客服或通用型 AI 的投诉有所增多，消费者反映的问题主要集中在 AI 客服不实承诺、人工客服接入困难、生成内容失准等方面。

!

《消费者权益保护法》第二十条规定，经营者向消费者提供有关商品或者服务的质量、性能、用途、有效期限等信息，应当真实、全面，不得作虚假或者引人误解的宣传。

经营者自身部署的 AI 客服本身虽然不具有独立承担民事法律责任的主体资格，但其系经营者部署并应用于经营服务活动的重要工具，其输出内容属于经营者提供服务的组成部分。提供 AI 客服的相关经营者应同时建立畅通、便捷的人工客服转接机制。

此外，第三方通用型 AI 答复一般不能代表平台或商家的官方承诺，消费者使用第三方通用型 AI 查询交易关键事项时，务必通过经营者官方网站、官方客服等途径进行二次确认，切勿因轻信第三方通用型 AI 答复，避免不必要的财产损失。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家包含外链的文章均包含本声明。

投诉水文 我要纠错 下载IT之家APP，签到赚金币兑豪礼

相关文章

关键词：AI 客服，中消协，消费者权益保护法，消费者投诉

• 软银与 Sierra 合作在日本推出 AI 客服服务，客户满意度由 74% 提高至 93%
• 阿里发布全新 AI 店小蜜，“AI+ 人”转化率首次超越纯人工
• 高价租、乱扣费、暗藏锁，中消协曝光手机租赁消费陷阱
• 餐厅直播侵权、AI 客服、盲盒“官瑕”难退…… 上海市消保委发布消费预警
• 货不对板、售后延迟推诿，中消协发布盲盒消费提示
• 中消协发布 2025 投诉热点：汽车 4S 店倒闭致承诺无法兑现、旅游出行平台退改难等在列

软媒旗下网站： IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件： 软媒手机APP应用 魔方 最会买 要知

2026年7月14日 Google for Developers 分享

• Facebook
• Twitter
• LinkedIn
• Mail

执行摘要

在专用硬件加速器上部署和服务像 Qwen3.5-397B 这样的混合专家（Mixture-of-Experts，MoE）模型，带来了重大的系统工程挑战。将 400 GB 的权重占用空间加载到高带宽内存（High Bandwidth Memory，HBM）中并实现硬件利用率最大化，需要一套严谨的、基于第一性原理的工程方法论，而非依赖经验的试错式修改。

至关重要的是，随着开放权重模型领域的复杂性日益增长，工程团队无法再承受花费数月时间孤立地优化每个新模型家族。为解决这一可扩展性挑战，我们的性能团队开创了一种模块化、模型无关的优化策略。我们没有将模型视为单体系统来处理，而是将其分解为自包含、独立的构建模块（例如批处理 RPA、分组 GEMM 和 SparseCore 反置换），并辅以硬件感知的成本模型。当新架构出现时，这些预先优化好的模块可以以近乎零的工程摩擦进行移植。这使我们的工程师能够在远早于初步预期的时间点上提供最先进的服务性能，将我们的重心从局部模型优化转移到全局的、平台级的可扩展性上。

本技术报告详细阐述了我们是怎样将这套全局优化实战方法系统地应用于 Ironwood (TPU v7x) 平台上的 Qwen 3.5 MoE 模型。通过利用我们可复用的 JAX/Pallas 内核库，并仅针对 Qwen 3.5 的新组件——例如门控 DeltaNet（Gated DeltaNet，GDN）线性注意力和注意力数据并行——进行调整，我们的团队在解码密集型和预填充密集型工作负载上都实现了显著的性能提升。

下述优化使得我们在 2026 年 4 月至 6 月期间，将解码密集型工作负载的推理性能提升了约 3.1 倍，将预填充密集型工作负载（512 并发层）的推理性能提升了约 4.7 倍。此外，通过将这些模块化优化原生集成到诸如 vLLM 和 SGLang 等开源服务框架中，我们消除了传统的软件障碍，为大规模的全球企业工作负载提供了一条无缝的、生产就绪的迁移路径。

1. Qwen 3.5 架构概览与模型配置

该模型总参数量为 3970 亿，但采用高度稀疏的路由方案，每次前向传递中，每个词元（token）恰好激活 170 亿个参数。这种稀疏配置代表了 4.3% 的路由激活率，使得模型能够提供 4000 亿参数级模型的表达能力和智能水平，同时保持一个远小于 200 亿级参数系统的推理占用空间和执行速度。

官方模型权重和配置可以直接从 Qwen3.5-397B-A17B Hugging Face 仓库 获取。关于 Qwen 3.5 的混合线性注意力与门控组件的全面结构分析，请参阅技术深度剖析文章：Qwen3.5: Nobody Agrees on Attention Anymore (Hugging Face Blog) 和 Gated DeltaNet for Linear Attention (Sebastian Raschka, PhD)。

架构布局与交错设计

该网络总共由 60 层组成，隐藏维度 D=4096，填充后的词汇量大小为 248,320 个词元。Qwen 3.5 没有采用统一的 Transformer 层堆栈，而是采用了一种高度定制的混合布局，由 15 个重复的结构块组成。每个块按 3:1 的比例排列：

• 门控 DeltaNet 层（75% 的层数）：连续 3 层，将门控 DeltaNet（线性注意力）与路由式稀疏 MoE 相结合。
• 分组查询注意力（Grouped Query Attention，GQA）层（25% 的层数）：1 层标准 GQA，与路由式稀疏 MoE 相结合。

这个重复序列可以表示为：

关键数学元素

模型的混合特性整合了三种不同的数学公式：

1. 门控 DeltaNet (Gated DeltaNet, GDN)

标准的自注意力机制会随着序列长度呈二次方扩展（O(S2)），这为长上下文生成带来了计算瓶颈。GDN 通过计算线性注意力来解决这个问题，它使用 64 个线性注意力头来处理值（V），使用 16 个头处理查询和键（QK），头维度为 128。GDN 不构建成对的 softmax 注意力矩阵，而是为每个头维护一个恒定大小的隐状态矩阵（匹配 *dkd*v 键值维度），该矩阵功能上相当于一个循环记忆。

在每个词元步骤 t，状态矩阵使用 delta 规则进行更新：

其中 *qt， kt， 和 v*t 分别是查询、键和值向量，t 是一个学习到的门控参数。在此循环更新之前，会先应用一个因果 1D 卷积（K=4）来捕获局部空间依赖关系。这种循环公式允许上下文窗口在内存中线性扩展（O(S)），保持循环状态占用空间恒定。

2. 分组查询注意力 (Grouped Query Attention, GQA)

为了锚定线性注意力检索，模型在 25% 的层中使用标准 GQA。GQA 全局使用 32 个查询头（*Nq=32）和恰好 2 个键值（KV）头（Nkv*=2），头维度为 256，旋转位置嵌入（Rotary Position Embedding，RoPE）维度为 64。这种极端的 GQA 布局在生成过程中压缩了 KV 缓存占用空间，但引入了严格的硬件级分片限制，详情见第 3 节。

3. 稀疏混合专家 (Mixture-of-Experts, MoE)

前馈网络（Feed-Forward Network, FFN）层被划分成 512 个小专家，中间专家维度为 1024。在执行过程中，路由门控将词元表示进行投影，并通过 soft-max 概率分布选择 top 10 个被路由的专家。关键的是，模型还整合了一个始终执行的共享专家路径，作为公共表示层：

这种原生多模态 MoE 架构通过在海量多模态词元上的早期融合训练范式，原生处理文本、图像和视频输入。上下文窗口原生长度为 262,144 个词元，通过使用 YaRN RoPE 缩放技术可扩展至超过 1,010,000 个词元。

2. 基准测试设置与工作负载配置

为系统地隔离、分析和解决编译器和内核瓶颈，系统工程团队基于现实世界中非对称的工作负载，建立一个严谨的多维评估矩阵。

多维评估矩阵

我们的基准测试扫描覆盖了旨在对独立硬件执行子系统施加压力的非对称工作负载：

1. 预填充密集型工作负载（8K 输入 / 1K 输出）： 特点是长输入提示序列和短词元生成输出。这些工作负载是计算密集型的，严重考验 TPU TensorCore 矩阵执行单元（Matrix Execution Units，MXU）的物理浮点矩阵乘法能力。
2. 解码密集型工作负载（1K 输入 / 8K 输出）： 特点是短输入提示和长时间的逐词元生成阶段。这些工作负载是内存密集型的，因为系统必须持续将所有 400 GB 参数从高带宽内存（HBM）流式传输到执行核心，才能为每个请求生成一个词元。
3. 并发层级： 为了观察系统扩展曲线并识别负载下的硬件排队/内存瓶颈，两种工作负载都在四个并发层级进行评估：64、128、256 和 512 个并发请求。

混合引擎编排与拓扑结构

基准测试在一个企业级单主机集群上执行：

• 加速器拓扑结构： 单个物理主机包含 4 块物理 Ironwood 芯片。每块物理芯片由 2 个逻辑小芯片（chiplet）组成，形成一个由 8 个独立执行核心（设备）组成的逻辑拓扑，这些核心通过高速、亚微秒级的芯片间互连（Inter-Chip Interconnect，ICI）平面连接。
• 推理服务器引擎： 使用 vllm-project/tpu-inference 进行工程实现。对于利用注意力数据并行（Attention DP）的最终优化运行，服务器执行循环配置为每核心 --max-num-batched-tokens=1024 和 --max-num-seqs=64（相比之下，早期张量并行基线中使用的配置为 --max-num-batched-tokens=8192 和 --max-num-seqs=512）。
• 指标追踪：性能以每芯片词元吞吐量（TPS/chip）进行追踪和报告，计算方式为处理的词元总数（输入 + 输出）除以执行时长和物理芯片数（4）。