Chrome 中的 Gemini Nano 即将面向所有用户推出。我试了下不加入 EPP 现在也可以在 Canary 控制台中体验。参数比较小,有概率不会按原指令执行输出,会话需要手动管理(否则上下文会混乱)。但速度和性能占用上还可以。Prompt API目前还支持音频和图片多模态输入。
Chrome 中的 Gemini Nano 即将面向所有用户推出。我试了下不加入 EPP 现在也可以在 Canary 控制台中体验。参数比较小,有概率不会按原指令执行输出,会话需要手动管理(否则上下文会混乱)。但速度和性能占用上还可以。Prompt API目前还支持音频和图片多模态输入。
本文指出 Gemini Nano 已从 Chrome 137 版本开始在有限场景下无标记推送,预计年底前全面开放。它是浏览器内置的小型模型,首次调用 LanguageModel.create() 时会自动下载,体积约 1.5-2.4GB,相当于 4-6B 参数的 4-8bit 量化版本。文章重点介绍了如何通过其 API 实现提示词调用与 JSON 结构化输出,并提醒开发者注意指令遵循能力较弱、会话默认有状态等实际限制。
本文将 Prompt API 定位为最灵活、最值得 AI 工程师关注的接口,对应官方文档 https://developer.chrome.com/docs/ai/prompt-api。它支持通过 LanguageModel.create() 创建会话,并传入 initialPrompts 实现系统角色与示例对话。文章演示了用其完成 JSON Schema 约束输出、情感分析等任务,同时指出该 API 目前仍需手动开启 flag。
文章详细说明 LanguageModel API 是当前访问 Gemini Nano 的核心方式,通过 LanguageModel.create() 可创建带下载进度监听的会话。会话默认拥有约 6k token 上下文,支持 initialPrompts 注入系统提示与示例,还可通过 clone() 实现无状态调用。文中给出 JSON 结构化输出、情感分析等实用代码示例,并提醒注意必填字段不严格遵守、会话状态管理等坑点。
本文将 Function Calling 视为 Prompt API 的重要能力,作者通过在 initialPrompts 中嵌入 JSON schema 的方式实现结构化输出,用于提取姓名和年龄等字段。示例展示了如何构造 system prompt 并调用 prompt 方法获取 JSON 结果,同时指出模型指令遵循不佳,必填字段可能被忽略。文章还演示了克隆会话以实现无状态调用的方法,以避免默认状态带来的副作用。
本文提到 simple-chromium-ai 是一个可直接引用的封装库,用于简化 LanguageModel API 的使用并规避状态管理等坑。作者提供了通过 unpkg 地址动态加载该库的代码示例,展示 initialize 和 prompt 调用,以及利用 responseConstraint 传入 schema 实现结构化返回。
本文介绍在浏览器环境中无需 npm 或构建步骤即可使用 wrapper 库的方法,即采用 ESM 的动态 import 语法从 unpkg 加载 simple-chromium-ai。示例代码需搭配 script type=module,并在 localhost 或 CSP 宽松的站点运行,以直接调用 initialize 和 prompt 等功能。
文章回顾早期 window.ai 接口曾被过度宣传,催生了多个第三方 shim 库,但实际落地版本远不如预期简洁。目前该接口已不再是主流用法,开发者需改用 LanguageModel API。文中特别提到早期 shim 如 xander 和 chromeai 均已停止维护,提醒读者不要依赖旧方案。
本文将其归类为早期 window.ai 的复制品 shim 之一,与 xander 同属已停止维护的项目。由于 Google 实际发布的接口与早期承诺差异较大,这些 shim 已失去实用价值。作者建议开发者直接使用官方 LanguageModel API,或参考新维护的包装库以简化调用。
本文指出 Google 发布的 Gemini Nano 及 Prompt API 文档风格不易理解,因此作者自行重写以适应自身思路。文章说明 Chrome 137+ 开始逐步无标记推送该模型,并对比早期 window.ai 的过度承诺与当前实现差异,强调需手动开启 flag 并下载约 1.5-2.4GB 模型。
文章主题围绕 Chrome 137 及以上版本展开,说明 Gemini Nano 正在该浏览器中逐步推送。用户需升级到 137+ 版本,并在 chrome://flags 中手动开启 Prompt API 相关开关才能使用。文中强调这是浏览器原生 AI 能力的重要落地,开发者可直接在网页环境中调用本地模型,无需额外安装。
可左右滑动查看