AI 边缘计算平台 - 6 TOPS 低功耗 RK3576

小手智联老徐 2024-06-24 09:31:02 阅读 63

RK3576 是瑞芯微第二代 8nm 高性能 AIOT 平台,CPU 采用八核大小核构架(4×A72@ 2.2GHz + 4×A53@ 1.8GHz),以及一个 M0 协处理器。其 CPU 算力高达 58K DMIPS,足以应对各种复杂计算任务。搭载 Mali-G52 MC3 GPU,145G FLOPS 的 GPU 可以支持有效的异构计算,支持硬件编解码,提供了强大的图形处理能力和人工智能计算能力,满足图形密集型应用的需求。并配备了独立的 6 Tops NPU,支持 Transformer 架构下超大规模参数模型的私有化部署,支持多种深度学习框架、自定义算子开发、Docker 容器化管理技术。

相比于 RK3588(93K DMIPS,典型功耗 8W),RK3576 的 CPU 和 GPU 性能稍差一些,其最大的特点是 CPU 结温(Tj)低,典型功耗只有 1.2W,可以胜任无散热片的应用,大大降低了能源消耗和散热成本。

为了满足不同领域的需求,瑞芯微还推出符合工业和车规级标准的 RK3576J 和 RK3576M 版本。RK3576J 适用于工业等级温度(-40~85度),可用于电力集中器、能源控制器、专变采集终端、HMI、PLC 控制及各种网关等工业应用。RK3576M 不仅符合上述温度范围,还符合AEC-Q100 规范,适用于智能座舱等汽车应用领域。

一、RK3576 方框图和典型应用:

二、跑分对比:

三、AI 能力:

RK3576 内置强劲 NPU,算力可达 6 TOPS;能够进行更智能的数据处理、语音识别、图像分析,满足大多数终端设备边缘计算 AI 应用需求。

语言大模型 :

支持 Transformer 架构下超大规模参数模型的私有化部署,如 Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B 等大型语言模型。

传统网络架构 :

支持 CNN、RNN、LSTM 等传统网络架构,支持多种深度学习框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。

四、开发板 ROC-RK3576-PC:

Firefly 开源团队开发的 ROC-RK3576-PC,已经上市,仅信用卡大小,接口丰富,拥有 MIPI-CSI、MIPI DSI、USB3.0、USB2.0、I2C、SPI、SARADC、UART、LineOut等扩展接口。支持1路 1000Mbps 以太网、2.4G/5GHz 双频WiFi、蓝牙5.0。

支持 Android14、Linux OS、Buildroot+QT、国产操作系统。

采用精致小尺寸设计,整体尺寸90mm×60mm,可灵活应用到各种业务场景,目前 4G + 32G 版本价格 999 元,还有 8G + 64G 版本,目前价格大约 1199 元。

规格参数
基本参数 SOC

Rockchip RK3576

八核64位处理器(4×A72 + 4×A53),主频最高 2.2GHz

GPU

G52 MC3 @ 1GHz,支持 OpenGL ES 1.1/2.0/3.2,OpenCL 2.0,Vulkan 1.1,内嵌高性能 2D 加速硬件

NPU

6 TOPS NPU,支持 INT4/8/16/FP16/BF16/TF32 混合运算

编解码

解码: 8K@30fps/4K@120fps: H.265/HEVC、VP9、AVS2、AV1, 4K@60fps:H.264/AVC

编码: 4K@60fps: H.265/HEVC、H.264/AVC

内存

LPDDR4/LPDDR4x(4GB/8GB 可选)

存储

eMMC(16GB/32GB/64GB/128GB/256GB 可选)、UFS2.0(可选)

扩展存储

1 * M.2 (可扩展 2242 PCIe NVMe/SATA SSD)、1 * TF Card Slot

电源

DC 12V(5.5mm * 2.1mm,支持12V~24V宽电压输入)

系统

Android14、Linux OS、Buildroot+QT、国产操作系统

软件支持

・ 支持Transformer架构下超大规模参数模型的私有化部署,

如Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B等大型语言模型

・ 支持CNN、RNN、LSTM等传统网络架构,支持多种深度学习框架,

包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,

・ 支持自定义算子开发

・ 支持Docker容器化管理技术

功耗

Normal: 1.2W(12V/100mA),Max: 6W(12V/500mA),Min: 0.096W(12V/8mA)

尺寸

93.00mm * 60.15mm * 12.49mm

重量

≈50g

环境

工作温度:-20℃- 60℃

存储湿度: 10%~90%RH(无凝露)

接口参数 网络

1 * 千兆网(1000 Mbps / RJ45)、

2.4GHz/5GHz 双频 WiFi(802.11a/b/g/n/ac),

蓝牙5.0

视频输入

1 * MIPI CSI DPHY(30Pin-0.5mm, 1*4 lanes/2*2 lanes)

视频输出

1 * HDMI2.1(4K@120fps)、1 * DP1.4 (4K@120fps)、

1 * MIPI DSI DPHY(2560*1600@60fps,30Pin-0.5mm, 1*4 lanes)

看门狗

外部看门狗

USB

1 * USB3.0、1 * USB2.0

其他接口

1 * Type-C(OTG/DP1.4)、1 * FAN(4Pin-1.25mm)、1 * Debug(3Pin-2mm)、

1 * 3.5mm Audio jack(支持MIC录音,美标 CTIA)、1 * MIC(2Pin-1.25mm)、

1 * 双排排针 (20Pin-2.0mm) 引出接口:USB2.0、I2C、SPI、SARADC、UART、LineOut

五、开发板 Banana Pi BPI - M5 Pro:

据电子发烧友介绍,Banana Pi 推出采用瑞芯微 RK3576 芯片设计开源硬件:BPI-M5 Pro,并给出了板卡的相关信息,但是目前还没有价格信息。

小结:

RK3576 有着不错的性能(4×A72@ 2.2GHz + 4×A53@ 1.8GHz,Mali-G52 MC3 GPU,6 Tops NPU)和超低的功耗(1.2W),后发优势突出,解决了既想要性能又想要低功耗的矛盾,如果价格再有优势,必将成为 AI 边缘计算平台的新标杆,其他公司也将被迫作出相应的产品迭代升级。

                                                                                         老徐,2024/6/8



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。