AI 边缘计算平台 - 6 TOPS 低功耗 RK3576
小手智联老徐 2024-06-24 09:31:02 阅读 63
RK3576 是瑞芯微第二代 8nm 高性能 AIOT 平台,CPU 采用八核大小核构架(4×A72@ 2.2GHz + 4×A53@ 1.8GHz),以及一个 M0 协处理器。其 CPU 算力高达 58K DMIPS,足以应对各种复杂计算任务。搭载 Mali-G52 MC3 GPU,145G FLOPS 的 GPU 可以支持有效的异构计算,支持硬件编解码,提供了强大的图形处理能力和人工智能计算能力,满足图形密集型应用的需求。并配备了独立的 6 Tops NPU,支持 Transformer 架构下超大规模参数模型的私有化部署,支持多种深度学习框架、自定义算子开发、Docker 容器化管理技术。
相比于 RK3588(93K DMIPS,典型功耗 8W),RK3576 的 CPU 和 GPU 性能稍差一些,其最大的特点是 CPU 结温(Tj)低,典型功耗只有 1.2W,可以胜任无散热片的应用,大大降低了能源消耗和散热成本。
为了满足不同领域的需求,瑞芯微还推出符合工业和车规级标准的 RK3576J 和 RK3576M 版本。RK3576J 适用于工业等级温度(-40~85度),可用于电力集中器、能源控制器、专变采集终端、HMI、PLC 控制及各种网关等工业应用。RK3576M 不仅符合上述温度范围,还符合AEC-Q100 规范,适用于智能座舱等汽车应用领域。
一、RK3576 方框图和典型应用:
二、跑分对比:
三、AI 能力:
RK3576 内置强劲 NPU,算力可达 6 TOPS;能够进行更智能的数据处理、语音识别、图像分析,满足大多数终端设备边缘计算 AI 应用需求。
语言大模型 :
支持 Transformer 架构下超大规模参数模型的私有化部署,如 Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B 等大型语言模型。
传统网络架构 :
支持 CNN、RNN、LSTM 等传统网络架构,支持多种深度学习框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,并支持自定义算子开发。
四、开发板 ROC-RK3576-PC:
Firefly 开源团队开发的 ROC-RK3576-PC,已经上市,仅信用卡大小,接口丰富,拥有 MIPI-CSI、MIPI DSI、USB3.0、USB2.0、I2C、SPI、SARADC、UART、LineOut等扩展接口。支持1路 1000Mbps 以太网、2.4G/5GHz 双频WiFi、蓝牙5.0。
支持 Android14、Linux OS、Buildroot+QT、国产操作系统。
采用精致小尺寸设计,整体尺寸90mm×60mm,可灵活应用到各种业务场景,目前 4G + 32G 版本价格 999 元,还有 8G + 64G 版本,目前价格大约 1199 元。
规格参数 | ||
基本参数 | SOC | Rockchip RK3576
|
八核64位处理器(4×A72 + 4×A53),主频最高 2.2GHz
| ||
GPU | G52 MC3 @ 1GHz,支持 OpenGL ES 1.1/2.0/3.2,OpenCL 2.0,Vulkan 1.1,内嵌高性能 2D 加速硬件
| |
NPU | 6 TOPS NPU,支持 INT4/8/16/FP16/BF16/TF32 混合运算
| |
编解码 | 解码: 8K@30fps/4K@120fps: H.265/HEVC、VP9、AVS2、AV1, 4K@60fps:H.264/AVC
编码: 4K@60fps: H.265/HEVC、H.264/AVC
| |
内存 | LPDDR4/LPDDR4x(4GB/8GB 可选)
| |
存储 | eMMC(16GB/32GB/64GB/128GB/256GB 可选)、UFS2.0(可选)
| |
扩展存储 | 1 * M.2 (可扩展 2242 PCIe NVMe/SATA SSD)、1 * TF Card Slot
| |
电源 | DC 12V(5.5mm * 2.1mm,支持12V~24V宽电压输入)
| |
系统 | Android14、Linux OS、Buildroot+QT、国产操作系统
| |
软件支持 | ・ 支持Transformer架构下超大规模参数模型的私有化部署,
如Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B等大型语言模型
・ 支持CNN、RNN、LSTM等传统网络架构,支持多种深度学习框架,
包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet,
・ 支持自定义算子开发
・ 支持Docker容器化管理技术
| |
功耗 | Normal: 1.2W(12V/100mA),Max: 6W(12V/500mA),Min: 0.096W(12V/8mA)
| |
尺寸 | 93.00mm * 60.15mm * 12.49mm
| |
重量 | ≈50g
| |
环境 | 工作温度:-20℃- 60℃
存储湿度: 10%~90%RH(无凝露)
| |
接口参数 | 网络 | 1 * 千兆网(1000 Mbps / RJ45)、
2.4GHz/5GHz 双频 WiFi(802.11a/b/g/n/ac),
蓝牙5.0
|
视频输入 | 1 * MIPI CSI DPHY(30Pin-0.5mm, 1*4 lanes/2*2 lanes)
| |
视频输出 | 1 * HDMI2.1(4K@120fps)、1 * DP1.4 (4K@120fps)、
1 * MIPI DSI DPHY(2560*1600@60fps,30Pin-0.5mm, 1*4 lanes)
| |
看门狗 | 外部看门狗
| |
USB | 1 * USB3.0、1 * USB2.0
| |
其他接口 | 1 * Type-C(OTG/DP1.4)、1 * FAN(4Pin-1.25mm)、1 * Debug(3Pin-2mm)、
1 * 3.5mm Audio jack(支持MIC录音,美标 CTIA)、1 * MIC(2Pin-1.25mm)、
1 * 双排排针 (20Pin-2.0mm) 引出接口:USB2.0、I2C、SPI、SARADC、UART、LineOut
|
五、开发板 Banana Pi BPI - M5 Pro:
据电子发烧友介绍,Banana Pi 推出采用瑞芯微 RK3576 芯片设计开源硬件:BPI-M5 Pro,并给出了板卡的相关信息,但是目前还没有价格信息。
小结:
RK3576 有着不错的性能(4×A72@ 2.2GHz + 4×A53@ 1.8GHz,Mali-G52 MC3 GPU,6 Tops NPU)和超低的功耗(1.2W),后发优势突出,解决了既想要性能又想要低功耗的矛盾,如果价格再有优势,必将成为 AI 边缘计算平台的新标杆,其他公司也将被迫作出相应的产品迭代升级。
老徐,2024/6/8
上一篇: Spring AI教程(二十三):向量数据库支持与示例项目 | Spring AI教程(二十四):接口设计与Testcontainers支持
下一篇: Edge-TTS:微软推出的,免费、开源、支持多种中文语音语色的AI工具
本文标签
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。