
RM182XMC0(含 RM1820MC0、RM1828MC0)是一款高性能算力协处理器模组,可支持 3B / 7B 大模型(RM1820MC0 支持 3B,RM1828MC0 支持 7B),适用于 AI 推理与机器视觉等人工智能应用。
模组采用 M.2 Key M 金手指接口,尺寸 22mm × 80mm。客户只需设计简单的底板,即可把模组集成到各类边缘或嵌入式设备中。
核心价值
把大模型推理能力做成标准 M.2 2280 卡。你的主机只要有空闲 PCIe M.2 插槽,加一张卡就能获得 20TOPS 本地算力——无需更换主控、无需上云。
关键规格
- 算力:20 TOPS @ INT8
- 数据类型:INT4 / INT8 / INT16 / FP8 / FP16 / BF16
- CPU:3 核 64 位 RISC-V(SRV、VRV0、VRV1),VRV0/VRV1 集成 128 位矢量单元
- 片内 DRAM:RK1820 为 2.5GB,RK1828 为 5GB,具备数百 GB 级带宽
- 接口:M.2 Key M,PCIe 2.1 通信,支持 EP 与 RC 模式,支持 PCIe EP boot
- 尺寸:22mm × 80mm,厚度 6mm
- 供电:底板需额外提供 12V/3A,M.2 座子提供 3.3V/3W
- 工作环境:-10℃ ~ 55℃
已支持模型
- 大语言模型:Qwen 2.5 0.5B / 1.5B / 3B、Qwen 3 0.6B / 1.7B
- 多模态:FastVLM
- 图像分类:MobileNetV1、MobileNetV2、ResNet50V2
- 目标检测:YOLOv5s、YOLOv6s、YOLOv8s
实测性能(输入 tokens:128)
| 模型 | 模式 | TTFT (ms) | TPS (tokens/s) | 平均功耗 | 峰值功耗 |
|---|---|---|---|---|---|
| Qwen2.5 3B | 节能 | 144.455 | 54.537 | 5.35W | 15.14W |
| Qwen2.5 3B | 标准 | 96.05 | 77.945 | 7.2W | 24.86W |
| Qwen2.5 7B | 节能 | 288.255 | 35.044 | 7.02W | 16.11W |
| Qwen2.5 7B | 标准 | 186.435 | 51.476 | 10.4W | 27.28W |
软件栈
- RKNN3 Toolkit:PC 端开发套件,负责模型转换与量化
- RKNN3 Runtime:板端运行 API
- RKNN3 Model Zoo:模型转换部署示例
订购型号
| 订购型号 | 接口 | 描述 |
|---|---|---|
| RM1820MC0 | M.2 Key M,PCIe2.1 | 芯片 RK1820,支持 3B 大模型 |
| RM1828MC0 | M.2 Key M,PCIe2.1 | 芯片 RK1828,支持 7B 大模型 |
技术文档
硬件规格书与底板硬件设计指南(含 PCIe 布线要求、12V 供电设计、热设计建议),请访问文档中心:RM182X 文档