[问答]

嵌入式RK3399主动模式的人工智能计算棒部署流程是怎样的

问答对人有帮助，内容完整，我也想知道答案 0 嵌入式RK3399主动模式的人工智能计算棒部署流程是怎样的？有哪些步骤？ 0
2022-2-15 06:09:15　　评论淘帖0 邀请回答您可以邀请以下用户，快速回答问题 × liutiefu 该类别下有 26 个回答。邀请回答 ze55me 该类别下有 20 个回答。邀请回答 tigerwang711 该类别下有 20 个回答。邀请回答杀狼000 该类别下有 19 个回答。邀请回答 zhuzb0754 该类别下有 19 个回答。邀请回答 YYXIAO 该类别下有 18 个回答。邀请回答冰箱洗衣机该类别下有 18 个回答。邀请回答 CDCNKA 该类别下有 17 个回答。邀请回答 jjll652 该类别下有 17 个回答。邀请回答河神大人该类别下有 17 个回答。邀请回答 mede1001 该类别下有 17 个回答。邀请回答安德森大该类别下有 17 个回答。邀请回答世态薄凉该类别下有 16 个回答。邀请回答熊本熊该类别下有 16 个回答。邀请回答 YOYOOO 该类别下有 16 个回答。邀请回答麻酱该类别下有 16 个回答。邀请回答 dfgsdf 该类别下有 15 个回答。邀请回答 szj0213 该类别下有 15 个回答。邀请回答梅利号该类别下有 15 个回答。邀请回答 vinww特烦恼该类别下有 15 个回答。邀请回答举报蔡鼎瑾相关推荐 • 如何对OK3399-C开发板+RK1808人工智能计算棒进行测试呢 1642 • 如何对RK3399+RK1808人工智能计算棒的被动模式进行Rock-X测试呢 2016 • 基于RK3399ProD的人工智能开发板深度学习课程分享 2373 • 怎样去设计一款RK3399Pro嵌入式主机呢 1606 • 嵌入式与人工智能关系是什么？ 3963 • 嵌入式人工智能技术是什么？ 2603 • 在RK3399开发板上如何去实现一种人工智能深度学习框架呢 1774 • 有什么方法可以实现RK1808人工智能计算棒联网吗 1488 • 嵌入式人工智能的实际作用是什么？ 1753 • 讲述树莓派主动模式的单计算棒部署流程 1668 1个回答

答案对人有帮助，有参考价值 0 硬件平台平台：OK3399-C开发板系统：Desktop 模块：TB-RK1808S0 环境准备：飞凌OK3399-C开发板，RK1808人工智能计算棒(固件版本为V1.3.4)，u*摄像头，摄像头和计算棒都插入OK3399-C开发板。使用lsu命令查看，如下(红框部分2207:0018即为RK1808人工智能计算棒)：输入命令如下： 02 概述 AI计算区分为四个不同的象限，分别是云端训练、云端推理，边缘训练以及边缘推理。其中终端推理，几乎都集中在Arm架构生态上。AI神经网络计算目前可以通过CPU、GPU、DSP、NPU、FAGA等完成，但不同的硬件特性会导致效率和功耗的不同。其中NPU——嵌入式神经网络处理器采用“数据驱动并行计算”的架构，最擅长的就是视频、图像类的海量多媒体数据的处理，并且相比GPU等具有更低的功耗。我司推出OK3399-CDesktop+RK1808(含3Tops算力NPU)的组合，在满足AI边缘计算的情况下，使得功耗大幅降低。 RK1808计算棒拥有主动模式和被动模式两种模式。主动模式下，RK1808人工智能计算棒是一个专用AI应用模块。 RK1808人工智能计算棒作为主动设备，RK1808人工智能计算棒内部默认已安装rknn-toolkit和rknn-api，上位机(也称宿主机)无需安装rknn-toolkit和rknn-api，模型及算法固化在RK1808人工智能计算棒中，OK3399-C通过USB口向计算棒输入数据(例如图片和视频流)，RK1808人工智能计算棒自动完成数据的前处理、推理、后处理，然后把处理结果通过USB口输出给OK3399-C。为了方便用户通过USB口传输数据，RK1808人工智能计算棒会把USB口虚拟成网卡等标准设备，用户只需通过标准设备接口的操作(例如网络的socket编程)即可完成对RK1808人工智能计算棒数据的输入和输出。细节如下： 1. RK1808计算棒插入上位机后，会被虚拟成网卡设备; 2. 上位机OK3399-C进行虚拟网卡配置，配置IP为192.168.180.1，保证上位机和1808中间的网络连接正常； 3. 计算棒默认IP为192.168.180.8，账号密码皆为toybrick，用户可以SSH登录计算棒，拷贝模型和server服务程序到计算棒； 4. 计算棒端运行server服务程序，用来接收上位机的连接请求，并调用RKNN进行处理，再返回结果； 5. 上位机运行client程序，连接server成功之后，发送推理请求，从1808端获取返回结果。 03 计算棒网络配置与网络共享配置 1、计算棒网络配置上位机使用OK3399-C Forlinx Desktop系统，点击右下角网络按钮选择弹出窗口中的“EditConnections...”选项选择计算棒u网卡生成的有线网络节点配置该节点为手动模式，设置IP：192.168.180.1，子网掩码：255.255.255.0，并保存终端输入ifconfig指令查看网络节点配置如下，可见u*网卡配置完成： ping一下1808计算棒网络192.168.180.8，如下网络可以连通：使用ssh登录1808计算棒，用户名和密码默认都为toybrick，如下登陆成功： 2、网络共享配置运行ifconfig，可以看到eth0、wlan0等宿主机网卡，我们用于访问外网，enx10dcb69f022c为USB网卡(RK1808人工智能计算棒虚拟网卡)。不同的系统网卡名称可能不一样，以实际网卡名称为准。首先配置宿主机网络，使宿主机可以连通以太网，这里我们使用wlan0节点来上网，具体配置不再赘述。命令行执行如下命令，其中enx10dcb69f022c需要修改成用户本地实际值；正常情况只要设置一次即可，若拔插设备发现网卡名称改变了或者用户手动删除该网卡，则需要重新设置。 1. sudo nmcli connection add con-name toybrick type ethernet ifname enx10dcb69f022c autoconnect yes ip4 192.168.180.1/24 配置NAT功能，执行如下命令，其中eno1需要修改成用户本地实际值；关机失效，所以每次电脑重启都要重新设置。 1. sudo sysctl -w net.ipv4.ip_forward=1 sudo iptable -F sudo iptables -t nat -F sudo iptables -t nat -A POSTROUTING -o wlan0 -j MASQUERADE 注意：以自己开发板联网的实际端口为准，例：eth0 iptables命令部分释义如下： iptables --hel p --flush -F [chain] Delete all rules in chain or all chains --table -t table table to manipulate (default: `filter') --append -A chain Append to chain --jump -j target target for rule (may load target extension) MASQUERAD ，地址伪装，算是snat中的一种特例，可以实现自动化的snat SNAT是source networkaddress translation的缩写，即源地址目标转换。比如，多个PC机使用ADSL路由器共享上网，每个PC机都配置了内网IP，PC机访问外部网络的时候，路由器将数据包的报头中的源地址替换成路由器的ip，当外部网络的服务器比如网站web服务器接到访问请求的时候，他的日志记录下来的是路由器的ip地址，而不是pc机的内网ip，这是因为，这个服务器收到的数据包的报头里边的“源地址”，已经被替换了，所以叫做SNAT，基于源地址的地址转换。 DNAT是destinationnet workaddress translation的缩写，即目标网络地址转换，典型的应用是，有个web服务器放在内网配置内网ip，前端有个防火墙配置公网ip，互联网上的访问者使用公网ip来访问这个网站，当访问的时候，客户端发出一个数据包，这个数据包的报头里边，目标地址写的是防火墙的公网ip，防火墙会把这个数据包的报头改写一次，将目标地址改写成web服务器的内网ip，然后再把这个数据包发送到内网的web服务器上，这样，数据包就穿透了防火墙，并从公网ip变成了一个对内网地址的访问了，即DNAT，基于目标的网络地址转换。 04 主动模式Mobilenet-ssd测试 1、环境要求 1)参考“计算棒网络配置与网络共享配置”章节，完成RK1808人工智能计算棒网络配置(RNDIS)以及网络共享配置。 2)宿主机需要插入USB摄像头，并连接显示器。 2、部署计算棒程序 SSH方式该方式通过ssh连接到RK1808人工智能计算棒，运行相应程序。计算棒系统用户名：toybrick 密码：toybrick 计算棒系统用户名：root 密码：toybrick 建议用toybrick用户登录 1)使用官方链接下载Mobilenet-SSD主动模式demo软件包，解压，链接如下： 2)拷贝解压目录中的1808目录至计算棒 1. scp - r 1808 / toybrick@192 . 168.180 . 8 : /home/ toybrick / 3)ssh进入计算棒 1. ssh toybrick@192 . 168.180 . 8 4)安装依赖包 1. sudo dnf install - y cmake make 5)编译 1. cd 1808 / mkdir build cd build / cmake .. make - j4 6)直接运行程序或设置程序为开机启动 •直接运行： 1. ./ 1808 _ssd_demo 3、部署上位机程序(以OK3399-Cdesktop为例) 1)安装依赖包make/cmake/opencv 1. sudo apt - get install - y make cmake libopencv - dev 2)进入Mobilenet-SSD主动模式demo软件包中的host目录，修改host/ssd_demo.cpp，根据开发板实际情况修改打开的摄像头节点： 1. cd host/ 2. int main(void) 3. { 4. //ret = test.run(VIDEO_NODE, post_process, &data); 5. ret = test.run("/dev/video10", post_process, &data); 6. } 3)编译 1. mkdir build cd build / cmake .. make - j4 4)计算棒程序运行起来后，运行上位机程序 1. ./ ssd_demo 效果如下： 05 主动模式yolov3测试 1、环境要求 1)参考“计算棒网络配置与网络共享配置”章节，完成RK1808人工智能计算棒网络配置(RNDIS)以及网络共享配置。 2)OK3399-C开发板需要插入USB摄像头，并连接显示器。 2、部署步骤计算棒端： 1)使用官方链接下载示例源码master_yolov3.zip，解压，链接如下： 2)拷贝解压目录中的1808目录至计算棒： scp -r 1808/ toybrick@192.168.180.8:/home/toybrick/ 3)通过ssh连接到RK1808人工智能计算棒，运行yolov3master端程序计算棒系统用户名toybrick 密码toybrick 计算棒系统用户名root 密码toybrick 建议用toybrick用户登录，安装python依赖包，root用户可能存在未知风险。进入计算棒： ssh toybrick@192.168.180.8 4)安装依赖包： sudodnf install python3-opencv -y 5)进入刚才拷贝的1808目录，运行1808端程序。宿主机端： 1)安装依赖库 pip3 install --user numpy sudo apt-get install -y python3-opencv 2)运行host端程序 3、效果如下：至此，OK3399-C开发板+RK1808人工智能计算棒主动模式下的测评告一段落。下篇文章我们会对OK3399-CDesktop+1808被动模式做详细介绍，涉及被动模式的三个demo例程，敬请期待！

2022-2-15 09:36:35 评论举报冷静