1 NCNN在Core3566模组上的部署和测试-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

NCNN在Core3566模组上的部署和测试

发烧电子爱好者 来源:发烧电子爱好者 作者:发烧电子爱好者 2023-10-17 08:25 次阅读

得益于四核A55的性能,NCNN跑起来应该问题不大,本文主要介绍NCNN在Core3566 模组上的部署和测试。

一、NCNN介绍

ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。 ncnn 从设计之初深刻考虑手机端的部署和使用。 无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架。 基于 ncnn,开发者能够将深度学习算法轻松移植到手机端高效执行, 开发出人工智能 APP,将 AI 带到你的指尖。 ncnn 目前已在腾讯多款应用中使用,如:QQ,Qzone,微信,天天 P 图等。

ncnn: NCNN是腾讯优图实验室首个开源项目,是一个为手机端极致优化的高性能神经网络前向计算框架。

二、源码下载&编译

(一)源码下载

在NCNN的github(github.com/Tencent/ncnn)拉源码。

linaro@linaro-alip:/userdata$ sudo git clone https://github.com/Tencent/ncnn.git
Cloning into 'ncnn'...
remote: Enumerating objects: 32651, done.
remote: Counting objects: 100% (5798/5798), done.
remote: Compressing objects: 100% (309/309), done.
remote: Total 32651 (delta 5637), reused 5500 (delta 5489), pack-reused 26853
Receiving objects: 100% (32651/32651), 22.79 MiB | 8.51 MiB/s, done.
Resolving deltas: 100% (27724/27724), done.
Checking out files: 100% (3285/3285), done.
linaro@linaro-alip:/userdata$

(二)源码编译

考虑到四核A55的能力,加上NCNN本身也支持板上直接编译,所以就不去PC上搞交叉编译了。

Debian包自带gcc,所以就不需要在Core3566 模组编译安装了,顶多更新下。

linaro@linaro-alip:/userdata$ gcc -v
Using built-in specs.
COLLECT_GCC=gcc
COLLECT_LTO_WRAPPER=/usr/lib/gcc/aarch64-linux-gnu/8/lto-wrapper
Target: aarch64-linux-gnu
Configured with: ../src/configure -v --with-pkgversion='Debian 8.3.0-6' --with-bugurl=file:///usr/share/doc/gcc-8/README.Bugs --enable-languages=c,ada,c++,go,d,fortran,objc,obj-c++ --prefix=/usr --with-gcc-major-version-only --program-suffix=-8 --program-prefix=aarch64-linux-gnu- --enable-shared --enable-linker-build-id --libexecdir=/usr/lib --without-included-gettext --enable-threads=posix --libdir=/usr/lib --enable-nls --enable-bootstrap --enable-clocale=gnu --enable-libstdcxx-debug --enable-libstdcxx-time=yes --with-default-libstdcxx-abi=new --enable-gnu-unique-object --disable-libquadmath --disable-libquadmath-support --enable-plugin --enable-default-pie --with-system-zlib --disable-libphobos --enable-multiarch --enable-fix-cortex-a53-843419 --disable-werror --enable-checking=release --build=aarch64-linux-gnu --host=aarch64-linux-gnu --target=aarch64-linux-gnu
Thread model: posix
gcc version 8.3.0 (Debian 8.3.0-6)

按照下面步骤的顺序:

cd < ncnn-root-dir >
mkdir -pbuild-aarch64-linux-gnu
cdbuild-aarch64-linux-gnu
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/aarch64-linux-gnu.toolchain.cmake ..
make -j$(nproc)

操作及log如下:

TOP2.png


可以看出编译还是很耗资源。

TOP.png

最终生成了可执行程序。

linaro@linaro-alip:/userdata/ncnn/build-aarch64-linux-gnu$ file benchmark/benchncnn
benchmark/benchncnn: ELF 64-bit LSB pie executable, ARM aarch64, version 1 (SYSV), dynamically linked, interpreter /lib/ld-linux-aarch64.so.1, for GNU/Linux 3.7.0, BuildID[sha1]=16473ecd5c28b183841b2925c3d87c7cd23a060e, not stripped
linaro@linaro-alip:/userdata/ncnn/build-aarch64-linux-gnu$

三、测试

将生成的可执行文件拷贝到原目录的benchmark/文件夹中,因为这里面有测试需要的模型数据。

TOP3.png

执行一下,几个模型测试都跑个遍:

TOP4.png

得分数据还是比较能反映RK3566的实力,基本上每项都是H616得分的2倍。贴个H616的测试分数,对比下。

NCNN2.png

审核编辑:汤梓红
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30728

    浏览量

    268871
  • 人工智能
    +关注

    关注

    1791

    文章

    47183

    浏览量

    238200
  • 源码
    +关注

    关注

    8

    文章

    639

    浏览量

    29184
  • 模组
    +关注

    关注

    6

    文章

    1487

    浏览量

    30359
收藏 人收藏

    评论

    相关推荐

    幸狐 Core3566 模组开箱

    发烧友的快递一直都很快,很快就拿到了,很大的一箱子。
    的头像 发表于 09-11 09:04 2825次阅读
    幸狐 <b class='flag-5'>Core3566</b> <b class='flag-5'>模组</b>开箱

    【幸狐Core3566模组试用体验】Linux系统烧写和体验

    因为没想到“幸狐 Core3566 模组”果然是个模组,除了一块核心板+一个天线之外就没了,所以只能在咸鱼找了块据说“兼容”CM4的底板。
    的头像 发表于 09-24 09:43 1750次阅读
    【幸狐<b class='flag-5'>Core3566</b><b class='flag-5'>模组</b>试用体验】Linux系统烧写和体验

    AvaotaA1全志T527开发板上部署ncnn

    ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。 ncnn 从设计之初深刻考虑手机端的部署和使用。 无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架
    发表于 07-22 10:36

    ubuntu 安装腾讯推理框架 ncnn 的方法记录

    本教程详细记录了 ubuntu 安装腾讯推理框架 ncnn 的方法。
    发表于 12-14 07:49

    如何在RK3308嵌入式开发板使用ncnn部署mobilenetv2_ssdlite模型呢

    如何在RK3308嵌入式开发板使用ncnn部署mobilenetv2_ssdlite模型呢?
    发表于 12-27 07:19

    【芒果派MangoPi MQ Quad】NCNNMangoPi MQ Quad部署测试

    穿透工具,找了几个要么不免费,要么各种验证,还是放弃吧。 得益于四核A53的性能,NCNN跑起来应该问题不大,本文主要介绍NCNNMangoPi MQ Quad
    发表于 08-03 23:25

    【幸狐 Core3566 模组试用体验】幸狐 Core3566 模组开箱

    应用。RK809可以提供一个完整的电源管理解决方案,外部组件很少。 三、资料 因为没想到“幸狐 Core3566 模组”果然是个模组,除了一块核心板+一个天线之外就没了,核心板也没用
    发表于 09-09 18:46

    【幸狐 Core3566 模组试用体验】Linux系统烧写和体验

    一、前传 因为没想到“幸狐 Core3566 模组”果然是个模组,除了一块核心板+一个天线之外就没了,所以只能在咸鱼找了块据说“兼容”CM4的底板。 嗯,具体如图,带RJ45口、H
    发表于 09-14 13:23

    【幸狐 Core3566 模组试用体验】基于openCV的猫脸识别

    的图片是网上随便下载的。 将图片、猫脸识别分类器还有python上传至幸狐 Core3566 模组,并运行python脚本。 只识别出2只猫咪,看来有一只的脸不合格,要想识别出来,需要
    发表于 09-24 23:50

    【幸狐 Core3566 模组试用体验】RK3566的CoreMark

    。 CoreMark 基准评分特点 CRC 算法具有双重功能,链表元素中包含的数据执行16位CRC,以验证操作正确,保证操作正确并提供自我检查机制。 为了确保编译器不能在编译时预先计算结果,基准
    发表于 10-06 23:48

    【幸狐 Core3566 模组试用体验】开箱篇

    幸狐 Core3566 模组核心板主控采用Rockchip RK3566四核处理器,集成双核心架构GPU以及高效能NPU,最高支持0.8T算力,主频高达1.8GHz。嵌入式3D GPU使RK3
    发表于 10-10 15:25

    【幸狐 Core3566 模组试用体验】EMMC烧写镜像

    Device”就可以进行镜像烧录了。 MaskRom模式 如果设备进入不了 Loader 模式,此时才可以尝试强行进入 MaskRom 模式。将Core3566断开电源,按住核心板
    发表于 10-10 15:48

    【幸狐 Core3566 模组试用体验】NCNNCore3566 模组部署测试

    得益于四核A55的性能,NCNN跑起来应该问题不大,本文主要介绍NCNNCore3566 模组
    发表于 10-10 20:45

    【教程】三分钟学习NCNN算法移植

    本文是基于EASY EAI Nano移植NCNN部署库的方法与NCNN成功运行yolov4的Demo所做的教程。
    的头像 发表于 07-18 14:23 1479次阅读
    【教程】三分钟学习<b class='flag-5'>NCNN</b>算法移植

    NCNNMangoPi MQ Quad部署测试

    穿透工具,找了几个要么不免费,要么各种验证,还是放弃吧。 得益于四核A53的性能,NCNN跑起来应该问题不大,本文主要介绍NCNNMangoPi MQ Quad
    的头像 发表于 07-22 09:10 1214次阅读
    <b class='flag-5'>NCNN</b><b class='flag-5'>在</b>MangoPi MQ Quad<b class='flag-5'>上</b>的<b class='flag-5'>部署</b>和<b class='flag-5'>测试</b>