LLMs 配置
输入“/”快速插入内容
LLMs 配置
LLMs 配置
用户988用户9882024年5月29日修改
1.
Warning: model not found.
代码块
Warning: model not found. Using cl100k_base encoding
A：对应 LLM 支持 openai 的 ap i兼容模式，但是因为对应不能从接口结果里得到 token 使用统计，直接使用 tokenizer 计算时，由于不是 openai 对应的模型名导致。使用单独的 token 统计逻辑。不影响后续进程推进，如果遇到进程问题，请关注后续具体 error 的内容
2.
openai.types.completion_usage.CompletionUsage() argument after ** must be a mapping, not NoneType
代码块
openai.types.completion_usage.CompletionUsage() argument after ** must be a mapping, not NoneType