浏览器里直接用:网页版入口与 WebGPU 本地推理
网页版是最省事的形态:不装任何东西,打开浏览器就拥有桌面端的全部功能——角色、故事、图生、群聊、世界书一个不缺。
网页版的两种模型路线
- 云端模型:默认路线,任何现代浏览器(Chrome、Firefox、Safari、Edge)都能用,算力在服务器上;
- 浏览器本地推理(WebLLM):在支持 WebGPU 的浏览器里,网页版可以把模型下载到浏览器本地跑——官方文档指名的兼容浏览器是 Chrome、Edge、Opera 这类 Chromium 系。模型跑在浏览器里,消息同样不出设备。
WebGPU 路线的现实预期
- 浏览器本地推理对显存/内存的要求与桌面版同量级,但稳定性和速度普遍不如桌面版(浏览器沙箱的调度开销摆在那里);
- 适合"公司电脑不让装软件,但浏览器能用"的场景,或者临时在别人机器上用;
- 真想长期本地跑,还是装桌面版,见下载桌面版。
网页版独有的一条注意
从网页版连接 LM Studio 等本地外接模型时,要在 LM Studio 侧打开 CORS(跨源共享),这是浏览器安全模型决定的额外一步,配置细节见接 LM Studio 实战。
同步与多端
登录账号后,网页版与移动端共享云端聊天记录与订阅状态——手机上没聊完的段落,回办公室浏览器里接着聊。本地路线的数据(桌面版的本机模型与本地聊天)不参与这套同步,见隐私与数据边界。
到这里三条形态都讲完了。剩下的都是硬核内容:采样参数。