🤗prism-ml / Ternary-Bonsai-27B-Demo

27B参数三元权重大模型（权重取-1/0/1，约1.71 bits/weight）的聊天demo，通过Hugging Face推理API运行，支持流式生成文本。