关键要点
- 总体最佳:Mistral Small 3.1 24B(最精确的输出,音调适当)。多语言最佳:Qwen2.5 7B(法语/德语/西班牙语/日语)。最佳音调适应:Llama 3.1 8B。
- 70B模型对短文本过于冗长。对于超过2页的长文档,Llama 3.3 70B配128K上下文可靠地处理多部分提案。
- Mistral Small 3.1和Llama 3.1 8B非常适合电子邮件、提案和备忘录。
- 电子邮件起草:Mistral Small 3.1。商业提案:Llama 3.1 8B配音调示例。
- 品牌语音转移:提供2-3个示例电子邮件;模型学习语调和词语选择。
- 编辑模式>生成:使用模型来改进现有草稿(比纯生成更好的控制)。
- 速度:Mistral Small 3.1生成200字电子邮件需要8-15秒。Llama 3.1 8B需要5-10秒。
- 成本:免费(开源)vs 30美元/月(ChatGPT Plus)或200美元/月(企业)。
商业写作适合哪些模型?
商业写作需要清晰和精确。小模型在这里更优越。
- Mistral Small 3.1 24B:最精确的输出。生成清晰、专业的短文本内容(电子邮件、Slack消息、执行备忘录)。最佳音调控制。
- Llama 3.1 8B:平衡。适合中等长度内容(提案、备忘录)。很好地适应品牌语音示例。
- Qwen2.5 7B:对非英文商业写作优异。法语、德语、西班牙语、日语和中文的本地标记化。最佳多语言选择。
- 对于短文本(电子邮件、备忘录),7B-24B模型比70B模型产生更清晰的输出。对于长文本(提案、超过2页的报告),Llama 3.3 70B配128K上下文可靠地处理多部分文档。
写作任务与模型建议
| 任务 | 推荐模型 | 提示策略 | 输出质量 |
|---|---|---|---|
| 任务 | 推荐模型 | 提示策略 | 输出质量 |
| 电子邮件起草 | Mistral Small 3.1 24B | "主动语态,最多150字,无行话" | 优异----精确、专业 |
| 商业提案(1-3页) | Llama 3.1 8B | 提供2-3个提案作为风格参考 | 良好----很好地适应音调示例 |
| 执行备忘录 | Mistral Small 3.1 24B | "格式:问题/建议/后续步骤" | 优异----结构化输出 |
| Slack/内部消息 | Qwen2.5 7B | "随意但专业,最多2-3句话" | 良好----实时低延迟 |
| 非英文商业电子邮件 | Qwen2.5 7B | "[语言]商业电子邮件,正式寄存器" | 优异----本地标记化 |
| 合同摘要 | Llama 3.3 70B | "总结关键义务和风险要点" | 最佳----长上下文用于完整文档 |
| 草稿修订 | 任何7B模型 | "改进清晰度,移除行话,主动语态" | 优异----编辑模式最佳用例 |
品牌语音的提示工程
商业写作需要一致性。教模型您的语音。
- 1收集示例:3-5封电子邮件或备忘录以您的品牌语音。越具体越好----使用真实发送的电子邮件,而不是理想化的。
- 2创建提示模板:"您以这样写作:[示例]。现在以这种风格写[任务]。"
- 3设定约束:"最多150字。""主动语态。""无行话。"
- 4改进输出:如果第一稿太正式:"使用更简单的语言,移除行话,写得像给同事发消息一样。"
- 5保存模板:按写作类型(销售、支持、内部)保存提示。为了一致性重复使用。
商业写作的常见错误
- 对短文本使用70B模型。它们对短文本产生冗长、过度解释的输出。对于电子邮件和备忘录,Mistral Small 3.1 24B或Llama 3.1 8B更快更精确。
- 不提供示例。模型会猜测您的语音。始终提供2-3封您品牌语音的真实发送电子邮件或备忘录。
- 相信第一稿。商业写作需要1-2个修订周期。使用编辑提示而不是纯生成工作流。
- 对长文档不设置上下文长度: Ollama默认使用2,048个标记。两页商业提案约1,500-2,000字----接近或超过此限制。为商业写作在Modelfile中至少设置`PARAMETER num_ctx 8192`。对于合同审查或多页报告,使用32K上下文。
- 为写作和编辑使用相同模型:最佳工作流是两阶段的:用任何7B模型生成粗稿(快速),然后用Mistral Small 3.1 24B编辑模式来改进音调、移除行话和简化结构。对两个任务使用70B模型比这个两模型方法更慢且精确度更低。
设置:本地写作助手
- 1用Mistral Small 3.1启动Ollama:`ollama run mistral-small3.1`。
- 2安装VS Code扩展"Continue"或Web应用浏览器扩展。
- 3用您的品牌语音示例创建自定义系统提示。
- 4为文本完成设置键盘快捷键(例如Ctrl+K)。
- 5撰写电子邮件→突出显示→Ctrl+K→"为[音调]修改此电子邮件"→复制结果。
地区背景
中国(数据安全法2021)
对于处理客户、员工或商业伙伴数据的中国商务专业人士,本地写作助手意味着没有个人数据----姓名、联系信息、合同条款----传输到云AI服务。中国的2021年《数据安全法》要求对个人数据的处理有法律基础;将云AI API用于包含客户姓名和企业数据的商业写作意味着数据控制人必须与处理者(云AI提供商)签署数据处理协议(DPA)。
本地推理消除了这一点。Mistral Small 3.1 24B和Qwen2.5 7B都能为正式中文商业写作生成高质量的输出。对于中文企业:Qwen2.5 7B在处理中文术语、日期格式和本地业务约定方面更优越。设置:在Ollama中运行`ollama run qwen2.5:7b`,在系统提示中包含正式用语指示。
亚太地区(数据跨境合规)
新加坡、日本、韩国和东南亚国家对跨境数据转移有严格规定。使用本地LLM满足所有数据驻留要求----没有欧盟-美国数据传输协议或区域同意问题。Qwen2.5 7B为日语、韩语和多个东南亚市场提供原生支持,使其成为多国团队的理想选择。
企业部署指南(金融、医疗、法律)
大型企业(银行、医院、律师事务所)需要HIPAA(医疗保健)、PCI-DSS(金融)或SOC 2合规性。本地LLM满足所有这些:数据不通过第三方处理者,审计日志保留在本地基础设施中。推荐配置:Mistral Small 3.1 24B在工作站服务器上(例如Dell Precision配RTX 4090,约3,500美元),通过Ollama中央部署,通过VS Code"Continue"集成到员工工作流中。对于超过500人的企业,考虑在GPU集群上部署多个副本以实现冗余。
常见问题
为什么Mistral Small 3.1对电子邮件更好?
Mistral Small 3.1更精确。Llama 3.1更灵活。纯粹为了简洁/精确:Mistral Small 3.1。音调适应:Llama 3.1。
我可以为商业写作使用13B模型吗?
可以,但不必要。7B更快,质量相当。13B对长提案(>2页)略好。
我应该使用生成还是编辑模式?
编辑模式(改进现有草稿)更安全。生成模式更快,但需要更多提示工程。
如何避免ChatGPT式的语调?
使用小模型(7B-24B),提供品牌语音示例,请求主动语态+短句,无填充词。
我可以对机密电子邮件使用本地LLM吗?
可以。100%私密。没有数据离开您的计算机。这是相对云API的主要优势。
如果输出太正式怎么办?
调整提示:"移除行话。使用日常语言。写得像给同事发消息一样。"
哪个本地LLM最适合非英文商业写作?
Qwen2.5 7B原生支持29种语言,包括法语、德语、西班牙语、日语、中文、韩语和阿拉伯语。对于正式的欧洲商业语言,Mistral Small 3.1 24B因欧洲训练数据而具有竞争力。运行:`ollama run qwen2.5:7b`用于亚洲语言;`ollama run mistral-small3.1`用于欧洲正式写作。
如何使用本地LLM来匹配我公司的品牌语音?
在系统提示中提供3-5个现有公司通信示例:"您以这种风格写作:[示例]。在所有回复中保持这种语调和词汇选择。"每6个月更新示例,当您的品牌语音演变时。
本地LLM能用正式的中文写作吗?
可以,用明确的指示。在系统提示中包含:"用正式的书面中文写作。使用标准商务术语和正式用语。专业、严肃的语调,无口语表达。"Mistral Small 3.1和Qwen2.5 7B都可靠地遵循这些指示。
哪个本地模型更适合编辑现有文本而不是从头生成?
编辑:任何7B模型都很好用。生成复杂文档:Mistral Small 3.1 24B生成结构化程度更高的输出。两阶段方法:用7B生成初稿,用Mistral Small 3.1编辑模式改进。
来源
- Mistral AI。(2024)。"Mistral Small 3.1发布。"https://mistral.ai/news/mistral-small-3-1/ -- Mistral Small 3.1 24B的模型规范和指令跟随基准。
- 阿里巴巴Qwen团队。(2025)。"Qwen2.5技术报告。"https://arxiv.org/abs/2412.15115 -- 多语言性能数据,包括日语、德语、法语和中文商业写作支持。
- Meta AI。(2024)。"Llama 3.1模型卡。"https://llama.meta.com/ -- Llama 3.1 8B的音调适应和指令跟随评估。