HammerAI 中文文档 下载 App

回复长度上限与 MLock:两个影响稳定的开关

参数区里还有两个常被忽略的开关,它们不改变文风,但直接决定回复会不会被腰斩和应用会不会崩。

Max Response Tokens:单条回复的天花板

典型症状与处方:

MLock:内存锁

MLock(Memory Lock)控制模型占用的内存是否锁定:

你的情况建议
内存宽裕、追求稳定开
内存贴着模型下限跑关,让系统自己腾挪
聊着聊着闪退先关 MLock 再排查

两个开关的联动

回复上限、MLock 和上下文长度三者在内存账本上是连坐的:上限越大、上下文越长,内存峰值越高。配置低的老机器这三项全保守,见上下文长度与记忆与显存对号表。