Skip to content

Chrome 内置本地大模型 (Gemini Nano) 配置与开启指南 ​

本文档提供在 Google Chrome 中开启并使用内置本地大模型(Gemini Nano / Prompt API)的完整技术指南与故障排查方法。


一、 技术背景与原理 ​

Google Chrome 深度集成了端侧大语言模型 Gemini Nano。与传统的云端 API 调用相比,内置本地模型具备以下核心优势:

  • 100% 隐私与离线运行:数据完全在本地设备内存与 GPU/NPU 中推理,无需经过任何第三方云服务器;
  • 零网络延迟与零成本:无需购买或配置第三方 API Key(如 OpenAI / DeepSeek),不消耗网络流量;
  • 高吞吐提炼:为文章摘要、多语言互译、拼写校对等高频任务提供原生硬件加速。

闪电笔记已将 Chrome 内置大模型无缝接入至 AI 服务责任链调度引擎 中,支持一键探测与自动故障转移。


二、 运行前置条件 ​

  1. 浏览器版本:
    • 推荐 Chrome Canary 或 Dev 通道;
    • 或 Chrome 128+ / 130+ 稳定版。
  2. 硬件环境:
    • 空闲磁盘空间:建议至少保留 22GB+(用于下载模型权重包及解压临时文件,实际保留占用约 5GB);
    • 显存与可用内存:建议至少保留 3GB+ 独立/共享显存或内存;
    • 支持平台:macOS(Apple Silicon / Intel)、Windows 10/11、Linux。

三、 详细配置步骤 ​

步骤 1:启用实验特性 Flags ​

在 Chrome 地址栏分别输入以下链接,按要求调整开关:

  1. 开启 Prompt API:
    • 地址栏输入:chrome://flags/#prompt-api-for-gemini-nano
    • 将该项设置为:Enabled
  2. 开启模型硬件优化与性能绕过:
    • 地址栏输入:chrome://flags/#optimization-guide-on-device-model
    • 将该项设置为:Enabled BypassPerfRequirement(绕过设备硬件跑分门槛检测,推荐)

IMPORTANT

关键操作:设置完成后,必须点击 Chrome 窗口右下角弹出的蓝色 Relaunch(重启) 按钮完全重启浏览器。


步骤 2:下载并验证底层模型组件 ​

  1. 在 Chrome 地址栏输入并打开组件中心:
    text
    chrome://components/
  2. 页面中找到 Optimization Guide On Device Model 组件;
  3. 点击其下方的 “检查更新” (Check for update):
    • 若状态显示为 0.0.0.0,说明正在后台从 Google 服务器拉取模型权重;
    • 稍候数分钟直至版本号变为具体日期时间戳(如 2025.8.8.1141),且状态为 Up-to-date;
  4. 验证模型健康状态:
    • 在地址栏打开 chrome://on-device-internals;
    • 检查页面表格中的各项参数(Enabled by feature flag、Enough VRAM 等)是否均为 true;
    • 确认 Assets 列表中的 nano_v3_gpu_component 状态显示为 Ready (100%)。

步骤 3:JavaScript 控制台可用性测试 ​

完成上述步骤后,可在任意页面或闪电笔记侧边栏按 F12 打开开发者工具,在 Console(控制台) 输入以下代码进行验证:

javascript
// 1. 检查模型就绪状态
const capabilities = await window.ai.languageModel.capabilities();
console.log('Gemini Nano 状态:', capabilities.available);
// 期望输出: "readily" 或 "available"

// 2. 发起测试对话
const session = await window.ai.languageModel.create({
  systemPrompt: "你是一个专业的总结助手。"
});
const response = await session.prompt("请用一句话介绍你自己");
console.log('AI 回复:', response);

四、 在闪电笔记中使用 ​

  1. 打开闪电笔记右上角的菜单图标 ···;
  2. 点击 「AI 服务配置」(与网盘同步同级);
  3. 在第一项 「Chrome 本地大模型 (Gemini Nano)」 卡片中点击 “重新检测”;
  4. 当指示灯由黄色未就绪变为绿色:
    • ✅ Chrome 本地内置大模型当前可用且就绪
  5. 点击卡片右上角的 ↑ 将其移动至 #1 优先级;
  6. 以后在编辑笔记或整理文章元数据时,点击 “用AI总结” 即可秒级提炼 260 字内的精炼摘要!

五、 常见排查与 FAQ ​

Q1: chrome://on-device-internals 显示 Ready 100%,为什么应用依然提示未检测到? ​

  • 原因:底层权重已就绪,但向 JavaScript 暴露 API 的开关未打开。
  • 解法:必须确认 chrome://flags/#prompt-api-for-gemini-nano 设为了 Enabled,并且点击了 Relaunch 重启浏览器。

Q2: 为什么 summarizer_small_expert_model_component 显示为 Not Installed? ​

  • 说明:该组件是专用于 Summarizer API 的微调小模型,通常不随主包默认下载。
  • 无需担心:闪电笔记已在架构上重构优先适配通用的 nano_v3_gpu_component(即 window.ai.languageModel / Prompt API),只要通用文本模型处于 Ready 即可 100% 正常提炼文章摘要。

Q3: 为什么 chrome://components/ 一直下载失败或显示 0.0.0.0? ​

  • 排查:
    1. 检查磁盘剩余空间是否大于 22GB;
    2. 检查网络是否能正常访问 Google 官方组件服务器(若处于受限网络环境需开启全局代理)。