Open-Orca / OpenOrca
增强的FLAN指令数据集,用于对齐训练
仓库许可不等于数据内容权利已全部清理,商用仍需核对数据来源、隐私与版权条款。
独立证据与社区反馈
OpenOrca 是微软 Orca 论文思路的开源复现,用 GPT-4 生成指令数据训练小模型,社区反馈模型能力有提升但会「以为自己是 ChatGPT」。
- 提供了一套可公开获取的 GPT-4 质量指令微调数据,降低复现 Orca 方法的门槛
- 使较小参数量的开源模型在推理任务上获得可感知的提升
- 作为基座数据与其他模型(如 Platypus2、OpenChat)合并后能产生优于各自单独使用的效果
- 用该数据集训练的模型可能产生身份混淆,自称 ChatGPT 或表现出「妄想」行为
来源
Open Orca Dataset Released! : r/LocalLLaMA - RedditJust tried Mistral-7B-OpenOrca-GGUF. It's impressive - Hacker NewsOpen-Orca-Platypus is out! a 13b that surpasses llama65b!? - Reddit
截至 2026-06-20