断网能不能聊:离线模式与那个可疑的本地端口
断网能不能聊? 能——只要模型在本地。官方桌面页把"可离线"列为核心卖点,FAQ 还教了一个验证办法:断开网络后照常聊天,对话不受影响即为真本地。
离线使用的三个前提
- 模型已下载:本地推理不查云端,但下载模型、浏览在线角色库、用云端模型都需要网络;
- 走本地模型路线:聊天时选的是本机模型而非云端档;
- 角色已保存在本地:自建角色存在设备上,离线照样能开聊。
沙漠荒岛梗来自官方文案——"被困荒岛前记得先下好模型"。
为什么应用会要"网络权限"
这是新用户最容易被吓到的点:一个宣称百分百本地的软件,防火墙却弹窗要联网。真实原因是:
- 应用启动时会在本机拉起一个随机端口的本地服务器(官方文档举例形如 localhost:9841);
- 界面通过请求这个本地端口与模型进程通信,好处是模型吃满 CPU / GPU 时界面依然流畅;
- 因此只需要放行内部网络请求,不需要放行公网。防火墙提示里选"专用网络"或"内部"即可。
云端功能与离线的关系
图像生成目前依赖云端模型,离线状态下不可用;文本转语音在移动端 1.1 版加入本地合成后可以离线出声。功能是否依赖网络,可以按"模型在哪"来判断:模型在本地则离线可用,模型在云端则必须联网。
理解了这一点,下一站去底层引擎看看本地推理是怎么跑起来的。