是否有聊天模版

[guoguo1314]

您好，您们除了有生成模式，是否还有聊天模式，如果有，聊天模版是什么呀？

[Pan-Yuqi]

您好，我们暂不支持多轮对话的格式。
但你可以参考 Chat Template 这个简单模板来进行历史信息拼接，同时输入clear清空上下文。

[guoguo1314]

好的，您好，您们这个模板没有使用“eos_token_id”这些特殊token来停止生成chat内容，而是使用的是max_new_token来控制的吗？

[Pan-Yuqi]

你好，请参考我们的 hf checkpoint，我们提供了 generation config，包括 {"eos_token_id": 100257}，调用 model.generate() 时传入参数即可。

[guoguo1314]

您好，您有邮箱吗？我邮箱发给您关于聊天模板的信息。

[Pan-Yuqi]

您可以联系yuqi_pan@outlook.com