跳到主要内容

RM182X · M.2 2280 算力协处理器模组

概述​

RM182XMC0(含 RM1820MC0、RM1828MC0)是一款高性能算力协处理器模组, 可支持 3B / 7B 大模型(RM1820MC0 支持 3B,RM1828MC0 支持 7B), 适用于 AI 推理、机器视觉等人工智能相关应用。

模组搭载瑞芯微算力协处理器 RK182X,采用 M.2 Key M 金手指接口, 尺寸 22mm × 80mm。客户只需设计简单的底板,模组即可集成到各类边缘或嵌入式设备中, 实现快速开发与落地。

产品外观​

RM182X M.2 2280 算力协处理器模组正面,可见 RK1820 芯片与 M.2 金手指

RM182X 配黑色散热片与涡轮风扇的散热方案

RM182X 模组背面元件布局

产品亮点​

核心价值

把大模型推理能力做成标准 M.2 2280 卡。你的主机只要有空闲 PCIe M.2 插槽, 加一张卡就能获得 20TOPS 本地算力,无需更换主控、无需上云。

特性参数
算力20 TOPS @ INT8
数据类型INT4 / INT8 / INT16 / FP8 / FP16 / BF16
片内 DRAMRK1820:2.5GB | RK1828:5GB(数百 GB 级带宽)
CPU3× 64 位 RISC-V(SRV、VRV0、VRV1)
接口M.2 Key M,PCIe 2.1 通信
尺寸22mm × 80mm
大模型支持RK1820 → 3B | RK1828 → 7B

已支持模型​

类别模型
大语言模型Qwen 2.5 0.5B / 1.5B / 3B、Qwen 3 0.6B / 1.7B
多模态FastVLM
图像分类MobileNetV1、MobileNetV2、ResNet50V2
目标检测YOLOv5s、YOLOv6s、YOLOv8s

软件栈​

组件说明
RKNN3 ToolkitPC 端开发套件,负责模型转换与量化
RKNN3 Runtime板端运行 API
RKNN3 Model Zoo模型转换部署示例

性能实测​

输入 tokens:128

模型模式TTFT (ms)TPS (tokens/s)平均功耗峰值功耗
Qwen2.5 3B节能模式144.45554.5375.35W15.14W
Qwen2.5 3B标准模式96.0577.9457.2W24.86W
Qwen2.5 7B节能模式288.25535.0447.02W16.11W
Qwen2.5 7B标准模式186.43551.47610.4W27.28W
TTFT 与 TPS

TTFT(Time To First Token)是首字延迟,决定「问完多久开始出字」; TPS(Tokens Per Second)是生成速度,决定「出字快不快」。 两个指标共同决定交互体感。

供电要求​

模组除通过 M.2 接口取 3.3V 外,还需要底板额外提供 12V 电源。

电源来源规格
12V底板单独座子提供12V / 3A
3.3V底板 M.2 座子提供3.3V / 3W
12V 必须单独供

RK1820 M.2_2280 Module 需要底板额外提供 12V/3A 电源。 仅靠 M.2 座子的 3.3V 无法驱动模组,请务必在底板上单独设计 12V 供电。

应用框图​

HOST RM182XMC0
┌──────────────┐ ┌──────────────────┐
│ │ PCIe 2.1 1lane │ │
│ PCIe RC │◄──────────────────►│ PCIe0 (EP) │
│ │ │ │
│ PCIE0_PERSTN├───────────────────►│ RESETN_IN │
│ PCIE0_CLKREQ├───────────────────►│ PCIe CLKREQn │
│ PCIE0_WAKEN ├───────────────────►│ PCIe WAKEn │
│ │ │ │
│ FAN_CTRL ├───────────────────►│ Fan speed CTL │
│ FAN_SPEED │◄───────────────────│ Fan speed DET │
│ │ │ │
│ 3.3V_IN ├───────────────────►│ VCC_IN 3.3V │
│ 12V ├───────────────────►│ VCC_IN 12V │
└──────────────┘ └──────────────────┘

下一步​