衡量移动设备中的AI性能-德赢Vwin官网网

如今，人工智能已成为普遍的流行语，但大多数消费者可能不知道它如何与日常生活息息相关。分析人员和技术新闻界中的某些人可能还会嘲笑该术语用于某些几乎不像真正的人工智能的技术的频率。也就是说，除了强大的数据中心外，还有一些平台对于AI处理和驱动它们的NN（神经网络）来说是很自然的。其中之一是AI推理（使用AI推理信息，而不是训练NN）在边缘和口袋中，使用智能手机。

就像您想象的那样，从Android到Apple的智能手机平台差别很大，但是语音-文本翻译和推荐器引擎（例如Google Assistant和Siri）等常见工作负载大量使用了常见的AI NN模型，在设备上执行此操作可提高速度和延迟。

衡量移动设备中的AI性能

随着任何新设备的推出以及热门新应用的出现，精通技术的消费者和技术媒体成员希望能够衡量和收集各种移动生态系统中设备的相对性能。此外，目前智能手机测试和评论中的AI处理性能正在发展，因此，在主要的应用商店中当然会出现多种工具，这些工具声称能够测量电话和其他移动设备的AI性能。而且-您猜对了-这些应用程序的创建肯定不尽相同。

为了解决这个问题，Marco和我深入研究了HotHardware，分析了三种主流AI基准测试中各种旗舰Android手机的性能，这些基准在某些情况下会产生截然不同的结果。

关键是要更好地了解实际测试的特定基准度量标准。测试是否代表尽可能接近实际的工作负载？理想的基准测试使用的是消费者可能会使用的实际应用程序，但短短的基准测试可以使用流行应用程序的相同核心软件组件来代表实际的性能期望。在这种情况下，这意味着我们需要了解这些基准测试工具要针对哪些NN进行测试，以及要使用哪些数学精度和AI算法来处理这些工作量。

什么是AI基准测试的正确标准？

使移动设备具有良好的AI基准的原因是一个相对较深的细微差别，但总之是几乎所有的移动NPU（神经处理单元或专用AI引擎）都采用INT8或量化数学精度或FP16浮点精度，例如利用ResNet-34或Google的DeepLab-v3等流行的NN在应用中进行图像分类和分割。那是猫还是狗？该相机拍摄应采用哪种颜色平衡？这些问题是AI试图从电话环境中推断出答案的问题，至少在成像工作负载示例中，尽管还有很多其他问题。

当前，INT8精度被认为足以满足大多数消费类移动应用的需求，并且压缩技术和高级量化技术的进步继续提高了移动设备上的INT8精度，同时仍然获得了与FP16相比更低的功耗。FP16提供更好的精度，但在关键的智能手机功耗预算上成本更高。

结果，大多数支持AI的移动应用都采用INT8来提高电源效率。但是，并非所有可用的基准测试都以相同的方式权衡了移动平台的性能。一些应用程序强调FP16的精度，即使实际上它的使用频率不如INT8那样高。此外，高通公司和其他公司的AI平台SDK（软件开发套件）针对INT 8进行了高度优化。因此，问题来了，就这些手机的真实AI性能而言，其中一些基准测试应用程序的各种测试结果到底意味着什么？和其他移动设备？从HotHardware收集的分数中可以看出，高通和华为在一些领先的移动硅平台上的排名大相径庭。显而易见，高通公司Snapdragon 865设备在INT8 NPU处理吞吐量方面以及在移动应用中可能更接近于当前的实际AI性能方面似乎占据了领先地位。还值得指出的是，高通的Snapdragon移动平台目前还为美国绝大多数Android手机提供支持，因此该公司对生态系统的影响深远。

分析师从移动AI的早期发展中汲取灵感

边缘的人工智能和机器学习是一个瞬息万变的领域，它提供的功能越来越强大且前景广阔，将在许多方面丰富我们的日常生活。结果，基准指标和用于衡量它们的应用程序也将必须随着时间的推移而发展和变化。此外，与传统的PC基准一样，新闻，技术爱好者和精明的消费者将在未来几天内更加关注AI基准，因为AI成为移动体验和可用平台解决方案中更为重要的组成部分市场。

因此，这些基准应用程序开发人员和媒体将有责任对构成优质移动AI基准的精要点以及对您自己的个人口袋AI助手的性能进行更真实的衡量。现在，如果基准测试没有采用常用的NN并切实代表INT8精度的重要性，您就不得不质疑该测试对普通消费者的价值。但是，这里没有绝对值。当前的格局正在以这种方式形成，但AI技术又以疯狂的步伐发展，整个行业的其余部分将需要跟上发展。

声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表德赢Vwin官网网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

移动设备

移动设备

+关注

关注
0

文章
493

浏览量
54688
AI

AI

+关注

关注
87

文章
30728

浏览量
268874

探讨移动设备中的缓存文件管理

/O性能和存储寿命。结果表明其具有很好的实用价值。背景由于应用程序的动态特性和整体系统优化，大部分移动应用程序都需要从网络中下载文件或数据。即使现代通信网络具有更高的带宽，许多应用程序仍然严重依赖移动

发表于 11-28 11:50 •415次阅读

探讨<b class='flag-5'>移动</b><b class='flag-5'>设备</b><b class='flag-5'>中</b>的缓存文件管理

AI高性能计算平台是什么

AI高性能计算平台不仅是AI技术发展的基石，更是推动AI应用落地、加速产业升级的重要工具。以下，是对AI高

发表于 11-11 09:56 •179次阅读

移动终端测试仪的技术原理和应用场景

无线信号对被测设备进行测试，包括总全向辐射灵敏度（TIS）、定位性能等，模拟实际使用环境中的信号接收和发送情况。 GNSS测试：测试移动终端的卫星导航接收

发表于 11-04 16:01

移动设备中MCU的优势分析

随着科技的飞速发展，移动设备已经成为我们日常生活中不可或缺的一部分。从智能手机到智能手表，再到各种物联网设备，这些设备的核心都离不开微控制器

发表于 11-01 13:48 •206次阅读

共创AI+时代——2024中国移动全球合作伙伴大会

10月11-13日，2024中国移动全球合作伙伴大会在广州琶洲保利世贸博览馆拉开帷幕，为期三天的大会以“智焕新生共创AI+时代”为主题。RISC-V国际人才培养认证中心主任蒋学刚出席参观了本次

发表于 10-16 08:09 •424次阅读

共创<b class='flag-5'>AI</b>+时代——2024<b class='flag-5'>中国移动</b>全球合作伙伴大会

《AI for Science：人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

人工智能在科学研究中的核心技术，包括机器学习、深度学习、神经网络等。这些技术构成了AI for Science的基石，使得AI能够处理和分析复杂的数据集，从而发现隐藏在数据中的模式和规

发表于 10-14 09:16

华邦电子为边缘设备打造生成式AI性能

在以大模型为基础的云端 AI 广泛赋能各行各业后，边缘设备对于 AI 也释放出巨大需求，AI 也在从云端向边缘端加速落地，层出不穷的应用场景对端侧设

发表于 08-19 16:14 •591次阅读

功放芯片中说的失真10%在实际应用中怎么衡量？

功放芯片中说的失真10%在实际应用中怎么衡量

发表于 08-14 06:03

NPU和AI TOPS是什么？它们有哪些性能？

在当今快速发展的技术环境中，AI正在变革各行各业并推动创新，理解AI性能指标的复杂性至关重要。过去许多AI模型需要在云端运行。当我们走向由终

发表于 06-13 10:33 •809次阅读

光模块在AI智能设备中的应用及其对晶振性能指标的要求

光模块（Optical Module），也称为光收发模块，是光通信设备中的关键组件，主要用于光电信号的转换。光模块能够将电信号转换成光信号进行传输，并将接收到的光信号转换成电信号。随着数据中心和高性能计算（HPC）系统在

发表于 05-31 11:15 •931次阅读

新的Armv9 CPU技术加速AI在移动设备等领域的发展

当今移动设备上的大多数人工智能 (AI) 工作负载均可在 Arm CPU 上运行。

发表于 05-30 11:44 •607次阅读

软通动力与湖北移动达成AI智算科创合作

近日，2024湖北移动AI+成果发布暨生态大会在武汉盛大召开。此次大会，中国移动通信集团湖北有限公司携手业界精英，共同探索AI技术的未来发展趋势。其中，软通动力受邀参加，并与湖北

发表于 05-22 10:49 •568次阅读

risc-v多核芯片在AI方面的应用

在极低的能耗下实现高效的AI元器件的运行。这对于需要长时间运行和依赖电池供电的AI设备来说尤为重要。其次，RISC-V的模块化架构允许其不同部分以模块化的方式串在一起，从而满足各种不同的应用需求。这使

发表于 04-28 09:20

NanoEdge AI的技术原理、应用场景及优势

等领域。以下是一些具体的应用场景： 1 . 智能家居：通过将 NanoEdge AI 集成到智能家居设备中，可以实现对家庭环境的实时监控和智能控制，如温度调节、照明控制、安防监控等。 2.工业自动化

发表于 03-12 08:09

智慧社区建设中应用AI边缘智能分析设备、边缘设备可以解决哪些问题？

“智慧社区”的建设除了可以安装监控摄像头、AI面部摄像机等智能设备来守护社区居民的安全，还可以引入AI边缘智能分析设备。例如安装布置在社区围墙、大门口、走廊等区域的视频监控场景

发表于 01-15 15:05 •547次阅读

搜索历史

衡量移动设备中的AI性能

评论