新品发布 | ShiMetaPi -182X：RK3588+RK1828 双芯主板，7B 大模型本地推理

一、端侧 AI 的落地门槛近几年识别、检测类 AI 应用正在快速下沉工控主机要本地跑视觉检测机器人要在端侧完成感知决策自助终端要做人脸核验。这些场景有一个共同诉求——数据不出设备推理就在本地。需求还在升级设备不再满足于看得见、认得出还要听得懂、答得上——多模态理解与语言交互正把大模型推理带到端侧。要把 AI 推理放到边缘端摆在方案工程师面前的是一道算术题大模型推理对算力和内存带宽的要求持续抬高通用 SoC 的 CPU/GPU 架构越来越吃力而主控 独立加速卡的组合又意味着更高的 BOM 成本、更大的整机体积和更复杂的系统集成。行业真正需要的是一套通用底座够用、AI 算力可按需扩展的方案。这就是 M5-182X-A1 的设计出发点。二、ShiMetaPi M5-182X-A1 AI 算力主板182X 是什么它依靠什么解决问题RK182X 是瑞芯微推出的 AI 算力协处理器系列包含 RK1820 与 RK1828 两个型号。它不负责跑系统、管外设而是一颗专职 AI 推理的副芯——设计思路正对开头的两个矛盾算力与带宽不够 RK182X 内置 20 TOPS 专用 NPU 与三核 64 位 RISC-V CPU并把大容量 DRAM 直接做进芯片内部——RK1820 配 2.5GBRK1828 配 5GB模型权重就近存放、就近计算绕开外部内存带宽瓶颈独立加速方案贵、大、难集成 整颗芯片封装成笔记本内存条同款的 SO-DIMM 模组插在主板板载插槽上即插即用不占整机空间不改系统架构。两个型号的差别只有一条RK1820 片内 2.5GB 内存可支撑 3B 参数大模型RK1828 翻倍至 5GB可支撑 7B 参数大模型。M5-182X-A1 型号中的182X指的正是可搭载这一系列模组。三、核心规格一览四、一套方案三档算力与其说 M5-182X-A1 是一块主板不如说它是一套可以按项目需求配置算力的方案平台。基础方案RK3588 单芯平台不扩展模组时RK3588 自身的 6 TOPS NPU 已经可以承接常规视觉识别任务——目标检测、人脸识别、OCR 这类模型在这个算力档位上跑得轻松。双千兆网口加 8K 解码能力也足以支撑多媒体终端和网关类产品。进阶方案RK18203B 大模型本地部署插入 RK1820 模组后板卡新增 20 TOPSINT8 专用算力片内 2.5GB DRAM 可支撑 3B 参数量级的大模型本地推理适合需要在端侧部署语言理解、知识问答能力的设备。旗舰方案RK18287B 大模型本地推理这是整套方案的完全体RK1828 将片内 DRAM 提升到 5GB支持 7B 参数大模型在端侧本地运行板级总算力达到 26 TOPS覆盖当前主流的端侧 AI 应用形态。三档方案共用同一块底板、同一套系统、同一份开发投入。项目从轻量识别起步后续要上大模型时插上模组即可升级——不需要重新选型不需要重新适配。旗舰方案跑起来是什么水平下一节用官方实测数据说话。五、主控 协处理器这套双芯架构的意义这块 120×88mm 的板卡以瑞芯微 RK3588 为通用底座通过板载 260pin SO-DIMM 插槽扩展 RK182X 算力协处理器模组形成从 6 TOPS 到 26 TOPS 的完整算力梯度——最高可支持 7B 参数大模型的端侧本地推理。RK3588 与 RK182X 的组合对应的正是瑞芯微主控 SoC AI 协处理器的双轨路线通用的事交给主控AI 的事交给协处理器。RK3588 继续做它擅长的——系统运行、8K 多媒体编解码、外设管理、业务逻辑。作为成熟的旗舰级通用 SoC它的生态与工具链不需要任何改变。RK182X 把 AI 推理整体接管——大语言模型、视觉模型、多模态模型的推理连同支撑它们的 20 TOPS NPU 与高带宽内存全部收进这颗协处理器内部经 PCIe 2.1 / USB 3.0 与主控高速互联。它的技术底座是近存计算——第二节提到的片内 DRAM技术名称就叫这个。大模型每生成一个 token都要反复读取模型权重传统架构下权重躺在主控共享内存里数据要在内存与计算单元之间长途搬运。RK182X 通过 3D 堆叠把 DRAM 做进芯片权重就近供给 NPU片内带宽达数百 GB/s——直接拆掉端侧大模型推理的带宽墙。这套架构的实际表现用瑞芯微官方实测数据说话RK1828 运行 Qwen 2.5-7B 大模型首帧延迟约 160 毫秒生成速度 50 token/s运行 3B 多模态模型时可达 80 token/s足以实时分析摄像头画面。对一台设备而言这意味着它同时是一台流畅的多媒体终端和一台不卡顿的本地大模型推理机——两件事互不干扰。六、工程设计亮点模组化而不是焊死。 RK182X 模组通过 260pin SO-DIMM 插槽与底板连接可插拔、可替换。不同批次的算力需求产线只需更换模组型号模组升级换代底板继续沿用。接口全家桶。 视频侧HDMI 输出最高支持 7680×432060HzMIPI 接口直驱液晶屏并支持多屏异显视觉侧一路 MIPI Camera 最高支持 4800 万像素输入连接侧双千兆网口 Wi-Fi 5 蓝牙 5.0扩展侧40pin IO 排针兼容树莓派生态外设UART、I2C、SPI、GPIO、PWM 一应俱全两路 USB3.0 满足高速外设接入。可靠性有据可依。 板卡经过整机级测试验证60℃ 高温老化与 0℃ 低温运行各 3 天无异常接触 ±4KV / 空气 ±8KV 静电放电测试达标通过扫频振动与自由跌落试验以及连续 7 天定时开关机稳定性测试。双路风扇接口支持 PWM 调速为长时间满负载运行留足散热余量。七、它适合做什么AI 工控主机双千兆网口便于多设备组网6~26 TOPS 的算力梯度覆盖从传统视觉检测到大模型辅助决策的演进路径机器人设备40pin IO 加多路 UART/PWM 直接对接传感器与执行机构MIPI Camera 提供视觉感知输入端侧推理保证响应实时性智能自助终端HDMI MIPI 多屏异显支撑业务屏与广告屏分显8K 解码能力应对高画质内容人脸核验类应用在本地完成视频类 AI 终端4800 万像素 MIPI 摄像头输入、8K 硬解码加专用推理算力构成完整的采集—解码—分析链路。写在最后M5-182X-A1 已接入 ShiMetaPi 生态平台。依托平台识别类大模型的训练门槛将进一步降低应用开发也可以直接在平台上完成。这部分能力我们将在后续文章中专篇介绍——它会改变这块板子的使用方式。后续还有更多围绕 M5-182X-A1 的开发教程、实测数据与案例演示将在本公众号陆续发布。点击关注第一时间获取更新。