机器学习基准比较能源消耗

188金宝搏官网下载机器学习在许多应用中越来越受欢迎,从微量物联网设备到大型数据中心不等。因各种原因,如实时期望、离线运算、电池保存或甚至安全隐私最优选择是在生成数据边缘运行ML算法和数据处理低功率IoT设备可以是嵌入式微控制器、无线soCs或智能集成传感器设备

半导体产品制造商需要小低电处理器或微控制器,以便能够高效运行必要的ML软件,有时还支持芯片内嵌入HW加速评估特定设备性能并非直截了当,因为在ML应用中效果比原数整理更重要

帮助drommonsTM开工财团开发三大基准套件比较不同商家ML提供量.MLCommons侧重于协同工程工作,通过基准、度量制、公共数据集和最佳做法使机器学习行业受益

基准套件称MLPerfTM测量ML系统应用培训ML模型新数据推理性能基准还可选测量完成推理任务所使用的能量基准开源和同行评审,对性能和能效提供客观公正的检验

188体育app下载dromons三大基准中,Silcon实验室为MLPerfTiny套房提交解决方案188金宝搏官网下载MLPerf小敏度面向最小电耗低的设备,通常用于深度应用,如IoT或智能感知

基准测试

drommons最近进行了MLPerftiy1.0基准测试,16个不同系统提交不同供应商分析

客户通常寻找超低功率ML系统比原性能更多188金宝搏官网下载中心还注重电耗并常优先用电系统执行最重要的度量任务,特别是在目标创建电池电应用时

代表性测试基准包括五大不同假想ML模型(见表1):关键字检测、视觉休眠词、图像分类和异常检测188金宝搏官网下载每种假想都使用专用数据集和ML模型模拟现实应用。基准套件设计测试硬件、软件和机器学习模型使用在每个实例中,测试测量单推度以显示任务完成速度。测试还可以任选测量用能

188体育app下载硅实验系统定基准

188体育app下载硅实验室提交EFR32MG24多协议无线芯片系统188体育app下载SOC包括一 ArmCortex-M33核心子系统(78MHz,1.5MB闪存/256kB支持多2.4gzRF协议,包括蓝牙低能、蓝牙网格、物质、OpenTread和Zigbee188金宝搏官网下载最理想的网状IoT无线应用程序,如智能住宅、照明和楼自动化紧凑开发平台为AI/ML开发提供简单省时路径

SOC运行TensorFlowLite微控制器软件使ML推理模型运行微控制器和其他小内存低功率设备使用优化神经网络内核CMSIS-NN库中188体育app下载Silicon Labs Gecko软件开发包.

结果

188体育app下载MLPERFTMTiny v1.0基准结果突出显示硅实验室EFR32MG24平台芯加速器效率推理计算从主CPU卸载,允许它执行其他任务或甚至置入睡眠模式以进一步节能

基本满足AI/ML增强低功率IoT解决方案日益增长的需求,允许设备对单枚硬币电池在田内停留最长10年。这些最新结果显示速度提高1.5至2x并比前Tiny v0.7结果选择其他AI/ML模型减少40-80%

188金宝搏官网下载ML更广泛地用于嵌入式IoT应用,这种低功耗推理能力至关紧要 — — 并能使产品设计师应用ML处理新用案例和不同设备