搜索
bottom↓
回复: 100

简短介绍一下国内AI芯片发展情况

  [复制链接]

出0入135汤圆

发表于 2022-6-21 14:14:32 | 显示全部楼层 |阅读模式
本帖最后由 yelong98 于 2022-6-21 14:17 编辑

        不知道发在哪个板块,就丢在linux吧,毕竟90%的AI开发工作都需要linux环境。
        我之前做了十多年单片机软硬件开发,前年年底开始想转行了,起码要转一个未来十年的朝阳行业,就选了AI赛道,咱们论坛搞单片机得多,
搞linux的soc的比例比较小,很多人对AI的发展行情,特别是国内的相关产业发展情况不了解。刚好昨天碰到有坛友咨询相关问题,干脆就把我知
道的一些信息这里给大家分享一下。
        AI的模型可以跑在CPU也可以跑在GPU,模型内部的计算几乎都是大量矩阵运算,特别适合能进行并行计算的硬件,所以体现出来的结果就是
同样的模型,跑在GPU上速度要比CPU快很多很多倍!GPU运算又有个缺点,你要不要配电脑?要不要买显卡?都是贵重东西不说,还在能耗和体积
上无法满足要求,所以最近三四年开始出现了NPU,就是一种有并行运算硬件的加强单片机。今天要说的就是这个主角。我们不提寒武纪或者其他面向
商业公司的芯片,哪种芯片,我也没用过。这里只说一般散客可以拿到的芯片。
        我最早接触的就是K210芯片,当时应该是唯一一款个人玩家可以买到的带NPU的芯片,价格也不贵。如今我还看到论坛里只有有人咨询跑模型的芯片,
就有人推荐这款。千万别再打K210的主意了,已经“停产”状态了,售价翻了好多倍,这不是49年入国军么。就像一有人咨询摄像头型号,就有人
推荐OV2640,这玩意都停产多少年了,都是拆机料在流通,自己玩玩可以,想量产,自己评估风险。K210应该是国内里程碑式的芯片,打开了一个
新纪元。提供了rtos和裸机开发sdk,能跑一些经过极度精简优化的模型,可以人脸识别,人形识别或者物体分类,受限于内存,没法运行更大的模型。
但毋庸置疑的是,它是国内的DIY玩家的开山鼻祖。
       

阿莫论坛20周年了!感谢大家的支持与爱护!!

一只鸟敢站在脆弱的枝条上歇脚,它依仗的不是枝条不会断,而是自己有翅膀,会飞。

出0入135汤圆

 楼主| 发表于 2022-6-21 14:27:38 | 显示全部楼层
    然后受他启发,国内其他公司也开始躁动了。全志推出了V831,cortex A7 + 64M内存 + 0.2T的NPU,跑Linux系统。一下子就把性能门槛来起来了,感谢国内sipeed团队,完成了把模型调用的代码封装成python,让没有基础的玩家,根据教程也能感受一下人脸识别,物品分类,用他家的python就能完成不少diy项目了。我买过这家的开发板,当然他家的k210开发板我也买了,表示对推动AI普及教育的支持。
    同时期瑞芯微的3399pro应该是旗舰机了,4核心A72 + 3TNPU,不过价格也是高高在上,发热也大,一般项目都用不起,比较实惠的开发板有ROCK PI N10,我买的时候不到1000。还有RK1808之类的,这时候瑞星微都还是用的上海芯原的IP来做的NPU。

出0入135汤圆

 楼主| 发表于 2022-6-21 14:33:10 | 显示全部楼层
    后面瑞星微就出了低价的RV1126 1109,分别是2T和1.2T的算力,我买了1126的开发板回来测试,yolo跑识别,416*416输入,150ms左右一帧。1109系列已经是价格比较实惠的了,最低4美金就可以了,不过需要外挂ddr。这时候还是用的芯原的NPU。
    君正也表示躁动,推出了T40系列,号称8T算力,额,我没用过,但是朋友公司用起来,测试表示也就比1126强一点。但是君正确实是一家有技术情怀的公司,坚决不走arm路线,低功耗是他的强项,比前面提到的都强一些。内置了128M内存的版本,6美金左右。

出0入135汤圆

 楼主| 发表于 2022-6-21 14:41:42 | 显示全部楼层
今年可就热闹了,因为我最看好的低算力的芯片爆发式出现。瑞芯微推出1106(128M内存)/1103(64M内存)内置1T和0.5T,内置DDR,体积又小,功能不少。全志也推出下一代V853 V851.这两个对手的性能几乎一模一样,不过这一代瑞星为一已经开始改用自研NPU了,目前对sdk管控很严,样品也还没大规模送测,1103价格低于三美金,好事情。全志V853很开放,用了芯原的IP,本月月底会开放SDK,这下热闹了,散户玩家可以欢呼了。两家定价也差不多,851定价也低于3美金。

出0入135汤圆

 楼主| 发表于 2022-6-21 14:45:48 | 显示全部楼层
本帖最后由 yelong98 于 2022-6-21 14:49 编辑

顺便放上几个目前还没开放的资料,pdf不知道咋放上来







更不用提今年的绝对性能TOP1 RK3588,除了高通的一些手机上用的芯片比这个高端,应该是没其他对手了,在国内更是一骑绝尘,6T算力,我们现在拿了这个芯片在做一些多机位的直播设备,同时利用它的高算力NPU做背景抠图,唯一缺点就是贵
,目前拿货价300多

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

出0入135汤圆

 楼主| 发表于 2022-6-21 14:47:10 | 显示全部楼层
可以了,编辑里面才能上附件

出0入135汤圆

 楼主| 发表于 2022-6-21 15:01:22 | 显示全部楼层
另外,现在已经有单片机上面也集成了小型NPU了,0.1T左右算力那种,这个有NDA管控,就不能发资料了,目前我们用这种超低算力的单片机做一些简单的手机云台,或者叫手机支架,人走到哪云台跟着转到那,保证人处于手机摄像头的正中,效果也不错。高低搭配,物尽其用

出0入135汤圆

 楼主| 发表于 2022-6-21 15:05:40 | 显示全部楼层
chen849928055 发表于 2022-6-21 15:04
像这种开发,外接SPI flash存储程序时,都是如何做加密的,还是外接个加密ic
(引用自12楼)

也是利用soc内部的uuid做加密啊

出0入135汤圆

 楼主| 发表于 2022-6-21 15:06:22 | 显示全部楼层
niaojingxin 发表于 2022-6-21 15:03
好巧,也是前些年,大概19年开始,从单片机转视觉AI。从开始的传统图像识别,到去年开始做神经网络相关的项 ...
(引用自11楼)

确实,我做习惯了单片机,思维方式都很底层,很多概念难以理解,转的比较艰苦,还在爬坑

出0入135汤圆

 楼主| 发表于 2022-6-21 15:07:17 | 显示全部楼层
XP85118978 发表于 2022-6-21 15:05
我也是从嵌入式软件换到AI赛道的,公司是做NPU IP的,目前成熟的产品是单核10T算力。 ...
(引用自14楼)

大佬大佬,哪家的?

出0入135汤圆

 楼主| 发表于 2022-6-21 15:13:45 | 显示全部楼层
cne53102 发表于 2022-6-21 15:07
请问如果是识别工件尺寸和偏斜角度这种,用这种芯片合适吗?这种应该不算AI?那么仍能利用这个NPU的能力吗 ...
(引用自17楼)

不合适,识别工件尺寸和角度,是属于传统的图像算法,我们做视觉质检的时候就是这么做的,一台工业相机对着下面照,然后通过匹配算法,找到目标位置,然后测量角度,尺寸是同样的原理,都不需要跑模型,有兴趣可以看下我们网站刚好有这个项目的介绍

出0入135汤圆

 楼主| 发表于 2022-6-21 15:21:13 | 显示全部楼层
niaojingxin 发表于 2022-6-21 15:17
LZ要是在杭州就好了,来投奔。
(引用自20楼)

滨江网易附近工作了2年,回深圳了

出0入135汤圆

 楼主| 发表于 2022-6-21 16:11:33 来自手机 | 显示全部楼层
hexenzhou 发表于 2022-6-21 15:41
那现在有适合跑裸机的AI单片机吗?K210停产了,有和它一样或者类似跑裸机的芯片吗?我们现在跑机器学习都在 ...
(引用自24楼)

有的,我们就有,但是只能跑几种固定模型,因为有nda不方便这里说

出0入135汤圆

 楼主| 发表于 2022-6-21 16:12:59 来自手机 | 显示全部楼层
smbxfdbz 发表于 2022-6-21 16:09
感谢分享!!
晶晨A311D有没有了解过呢?看参数介绍,性能也挺不错的


(引用自26楼)

a311d也是芯原的东西,不过没接触过,资料开放没有rk的好,性能和3399pro一个级别

出0入135汤圆

 楼主| 发表于 2022-6-21 16:19:02 来自手机 | 显示全部楼层
智涅 发表于 2022-6-21 15:58
来看看热闹
小白顺便问问:
AI模型是不是基本就用厂家提供的?如果可以用自己的,是不是也是用一些开源模型 ...

(引用自25楼)

你部分说对了,芯片原厂会提供几个移植好的,其他的模型能不能部署上去,要看原厂的模型转换工具是不是能兼容足够多的算子,一般90%都会有转换的问题,我还没见过可以直接顺利转过去就能部署的,还要看硬件能不能支持算子加速

出0入135汤圆

 楼主| 发表于 2022-6-21 16:45:12 | 显示全部楼层
redworlf007 发表于 2022-6-21 16:26
这些ai单片机,都在哪些场景用呢?感觉应用场景貌似不太多。
(引用自32楼)

太多了,举几个例子,AI识别电动车不允许进电梯,主播直播靠AI扣除背景图,语音识别控制家电,安防识别人员闯入,门禁识别未带口罩

出0入135汤圆

 楼主| 发表于 2022-6-21 17:21:19 | 显示全部楼层
amigenius 发表于 2022-6-21 17:10
请教楼主一下, 全志V831、R329等内置的NPU,假若不用来跑模型,可否方便的调用来跑自定义的卷积核?例如3x ...
(引用自36楼)

别寻思了,虽然说会开放sdk,不一定会开放寄存器,就算开放,也八成搞不清楚关联关系

出0入135汤圆

 楼主| 发表于 2022-6-21 18:08:49 | 显示全部楼层
redworlf007 发表于 2022-6-21 17:45
AI识别电动车不允许进电梯,这个应用,哪家的片子的模型好实现,我们现在是给电动车上贴了标签,监测标签 ...
(引用自40楼)

RK的最容易实现,因为rknn的模型转换工具最成熟,这个要靠自己收集图片,自己训练模型

出0入135汤圆

 楼主| 发表于 2022-6-21 19:44:36 来自手机 | 显示全部楼层
yuyu87 发表于 2022-6-21 19:16
看楼主介绍这么多,我也有举玩一玩,求楼主介绍淘宝上性价比高一点的这种开发板玩玩。 ...
(引用自45楼)

rv1126这个某宝五块钱就能买到sdk,目前没有更合适的了,一个月后会有v853开发板面试,sdk也开放,值得等等

出0入135汤圆

 楼主| 发表于 2022-6-21 21:47:53 来自手机 | 显示全部楼层
david1234 发表于 2022-6-21 21:24
资料太及时了,刚刚用v3s+k210做完规化,看来可用v851代替了。
不知v851能不能跑yolov3或yolov5?
若v851 ...

(引用自48楼)

一定能跑yolo,v3应该没问题

出0入135汤圆

 楼主| 发表于 2022-6-21 23:52:23 | 显示全部楼层
prow 发表于 2022-6-21 23:12
有没有高端点芯片的介绍,这些算力都太低了,最好达到XAVIER一半算力
(引用自54楼)

行业局限性,我们没做过车载驾驶那种高算力的,都是0.1到6T之间的

出0入135汤圆

 楼主| 发表于 2022-6-22 16:28:20 | 显示全部楼层
redworlf007 发表于 2022-6-22 15:55
.好的,谢谢了,准备过些天买个rv1126的开发板玩玩,会Linux上的编程,买个来做个练手的小项目,费不费事 ...
(引用自56楼)

非常废时间,有点心里准备,往往时间不是花在编程上,花在配环境

出0入135汤圆

 楼主| 发表于 2022-6-22 18:41:39 来自手机 | 显示全部楼层
akey3000 发表于 2022-6-22 17:01
lz搞ai,要研究算法么?还是说会用ai平台?
(引用自58楼)

我搞不了,能用就行,算法有专门的同事在剪枝适配

出0入135汤圆

 楼主| 发表于 2022-6-23 08:19:24 来自手机 | 显示全部楼层
cantonguy 发表于 2022-6-22 20:17
高手,有没兴趣写点入门文章,带领下各位尝试AI领域?
特别是针对只懂单片机和WINDOWS的玩家 ...

(引用自61楼)

有这个计划,但是受限于NDA协议,没法发布资料,这个只能等全志开源V853的sdk以后考虑这个事情了

出0入135汤圆

 楼主| 发表于 2022-7-4 11:38:10 | 显示全部楼层
david1234 发表于 2022-7-4 11:34
再问楼主,rv1103开发板进展?
(引用自72楼)

现在都还没送样片,这个还远呢,不过全志V851这个月就会释放开源SDK,不出意外就是这周

出0入135汤圆

 楼主| 发表于 2022-7-4 17:04:35 | 显示全部楼层
david1234 发表于 2022-7-4 12:59
rv1106的进展?
(引用自74楼)

这个芯片是商业SDK,就算拿到了也没法做板子公开资料。短期内我估计都不会有人用这个做开发板。你看下V831就知道,到现在也没公开sdk,只是提供了封装好的python

出0入135汤圆

 楼主| 发表于 2022-7-4 17:12:00 | 显示全部楼层
david1234 发表于 2022-7-4 12:59
rv1106的进展?
(引用自74楼)

歪朵拉已经做了V853的开发板了,估计正在路上,我看到已经发了照片了

出0入135汤圆

 楼主| 发表于 2022-7-5 08:11:27 来自手机 | 显示全部楼层
david1234 发表于 2022-7-4 19:32
在网上看到rv1106开发板图片,不知谁做的,支持如何
(引用自79楼)

第一张是官方开发板,第二张就不知道哪家做的38板ipc了,总会有大客户提前拿到资料得

出0入135汤圆

 楼主| 发表于 2022-7-14 17:48:33 | 显示全部楼层
picobox 发表于 2022-7-14 17:28
没有看到5块钱的SDK呢?
(引用自87楼)

https://item.taobao.com/item.htm ... ;abbucket=15#detail
宝上搜一下好多
回帖提示: 反政府言论将被立即封锁ID 在按“提交”前,请自问一下:我这样表达会给举报吗,会给自己惹麻烦吗? 另外:尽量不要使用Mark、顶等没有意义的回复。不得大量使用大字体和彩色字。【本论坛不允许直接上传手机拍摄图片,浪费大家下载带宽和论坛服务器空间,请压缩后(图片小于1兆)才上传。压缩方法可以在微信里面发给自己(不要勾选“原图),然后下载,就能得到压缩后的图片】。另外,手机版只能上传图片,要上传附件需要切换到电脑版(不需要使用电脑,手机上切换到电脑版就行,页面底部)。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

手机版|Archiver|amobbs.com 阿莫电子技术论坛 ( 粤ICP备2022115958号, 版权所有:东莞阿莫电子贸易商行 创办于2004年 (公安交互式论坛备案:44190002001997 ) )

GMT+8, 2024-3-29 13:12

© Since 2004 www.amobbs.com, 原www.ourdev.cn, 原www.ouravr.com

快速回复 返回顶部 返回列表