本地大语言模型高效运行配置
工程大语言模型部署
根据硬件配置调整参数后运行本地大语言模型
实测llama.cppQwenClaude Opus
可修改 · 可复制查看与实测
按场景找到模板,替换任务材料,再交给 AI 使用。
2个模板
工程大语言模型部署
根据硬件配置调整参数后运行本地大语言模型
实测llama.cppQwenClaude Opus
可修改 · 可复制查看与实测
工程大语言模型评估
将指令和候选响应按指定格式输入,获取 Cappy 评分以评估响应质量
实测CappyRoBERTa
可修改 · 可复制查看与实测