Bonsai · 本地27B LLM · 可视化实验室

PrismML-Eng/Bonsai-demo是本地运行的Bonsai轻量语言模型，2K+Stars。支持视觉理解、工具调用、长上下文和推理模式，1-bit量化后可在手机上运行。Shell编写，MIT许可证，适合本地LLM研究者和边缘AI开发者。