Skip to content

This is a user guide for the MiniCPM and MiniCPM-V series of small language models (SLMs) developed by ModelBest. “面壁小钢炮” focuses on achieving exceptional performance on the edge.

Notifications You must be signed in to change notification settings

OpenBMB/MiniCPM-CookBook

Repository files navigation

MiniCPM-Cookbook

本仓库是MiniCPM端侧系列模型的使用指南,包括推理、量化、边端部署、微调、应用、技术报告六个主题。

MiniCPM 仓库 | MiniCPM-V 仓库 | MiniCPM系列 知识库 | English Readme | 加入我们的 discord微信群

目录和内容

关于MiniCPM(✅)

面壁「小钢炮」MiniCPM 端侧大模型系列,是由面壁智能(ModelBest)联合OpenBMB开源社区和清华NLP实验室开源的轻量高性能端侧大模型。包含基座模型MiniCPM和多模态模型MiniCPM-V双旗舰,凭借以小博大、高效低成本的特性享誉全球。目前已经在性能上开启「端侧ChatGPT时刻」;多模态方向达到全面对标GPT-4V级水平,实现实时视频、多图联合理解首次上端。目前,正在落地于手机、电脑、汽车、可穿戴设备、VR等智能终端场景中。更多关于面壁小钢炮MiniCPM系列的详细信息,请访OpenBMB页面。

应用精选(✅)

语言模型

多模态模型

技术报告(✅)

支持硬件(云端、边端)(✅)

  • GPU
  • CPU
  • NPU
  • Android
  • Mac
  • Windows
  • ios

模型地址与下载(部分)(✅)

推理部署(✅)

MiniCPM 2.4B

MiniCPM-S 1.2B

MiniCPM 3.0

MiniCPM-Llama3-V 2.5

MiniCPM-V 2.6

微调(✅)

MiniCPM 3.0

MiniCPM 2.4B

MiniCPM-Llama3-V 2.5

MiniCPM-V 2.6

模型量化(✅)

MiniCPM 2.4B

MiniCPM3.0

MiniCPM-Llama3-V 2.5

MiniCPM-V 2.6

集成(✅)

开源社区合作(✅)

社区共建

秉承开源精神,我们鼓励大家共建本仓库,包括但不限于添加新的MiniCPM教程、分享使用体验、提供生态适配、模型应用等。我们期待开发者们为我们的开源仓库作出贡献。

About

This is a user guide for the MiniCPM and MiniCPM-V series of small language models (SLMs) developed by ModelBest. “面壁小钢炮” focuses on achieving exceptional performance on the edge.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published