谷歌TensorFlow大力推进Lite版在单片机运行，新增Ambiq的M4支持

Eric2013

说明：
单片机已经非常普遍，每年大约生产300亿个单片机供电的设备。它们便宜，低功耗，而且可靠。通过将机器学习引入单片机，可以提高我们生活中数十亿设备的智能性，而无需依赖昂贵的硬件或连接互联网。

根据谷歌的介绍，运行lite版TensorFlow内核仅需16KB的RAM，实现一些关键词识别增加到22KB即可实现。

Github：https://github.com/tensorflow/te ... cro#getting-started

支持TensorFlow Lite的单片机平台


其中KEIL MDK提供了一批通用的移植，没有支持具体芯片，方便移植到其它平台


TensorFlow简介：
  TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理。Tensor（张量）意味着N维数组，Flow（流）意味着基于数据流图的计算，TensorFlow为张量从流图的一端流动到另一端计算过程。TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统。
  TensorFlow可被用于语音识别或图像识别等多项机器深度学习领域，对2011年开发的深度学习基础架构DistBelief进行了各方面的改进，它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行。TensorFlow将完全开源，任何人都可以用。



之前发的两篇相关帖子：

单片机AI的春天来了，ARM发布Armv8.1-M，携带的Helium类似A系NEON
https://www.amobbs.com/thread-5707054-1-1.html
(出处: amoBBS 阿莫电子论坛)

ST的人工智能（神经网络）工具包正式亮相，用于STM32系列
https://www.amobbs.com/thread-5705077-1-1.html
(出处: amoBBS 阿莫电子论坛)

蛋定

关注，很值得期待，单片机识别图像是不大可能，识别语音就很好了。

pxclihai

这些资源小的单片机。除了图像和语音领域。还有其他场合的应用吗。

hexenzhou

不错，一定要试试。

rclong

物联网时代做智能传感器还是挺有用的吧
本地稍微处理一下数据再上报云端

a105

资源越来越丰富了

JasonGao

不知道能拿来干什么，囧。。。
通过训练来调整复杂的PID控制可以吗？

hackerboygn

是个好消息

hackerboygn

JasonGao 发表于 2019-3-11 09:04
不知道能拿来干什么，囧。。。
通过训练来调整复杂的PID控制可以吗？

PID不存在训练一说，只有轮换参数不断试错寻找最优参数。

机器学习中的一大分支——强化学习，主要是针对控制的，特别是复杂控制环境，多参数输入需要处理大型状态空间的。下棋（已战胜人类顶尖职业棋手）、玩游戏（已战胜人类顶尖职业玩家）、自动驾驶等等

tangmintm8013TM

技术越来越高级，跟不上趟了！

honami520

挺好。那个K210无机酸的板子不是做AI的吗？直接上这个不就速度刷刷的

Eric2013

pxclihai 发表于 2019-3-11 08:09
这些资源小的单片机。除了图像和语音领域。还有其他场合的应用吗。

当前能把这两项能做好，已经很溜了，其它方向慢慢就拓展起来了，以前高端实现方案都以用低端整一遍，测试可行性。

Eric2013

蛋定 发表于 2019-3-11 02:47
关注，很值得期待，单片机识别图像是不大可能，识别语音就很好了。

图像识别也没问题，就是速度慢，需要更溜的算法不断提出来。

之前ARM出的CMSIS-NN就是给单片机用的。

Eric2013

JasonGao 发表于 2019-3-11 09:04
不知道能拿来干什么，囧。。。
通过训练来调整复杂的PID控制可以吗？

好思路，整个PID智能自适应，就牛了。

Eric2013

honami520 发表于 2019-3-11 10:11
挺好。那个K210无机酸的板子不是做AI的吗？直接上这个不就速度刷刷的

K210还不错。

biezhen

觉得对于图像有点不太可能啊。一个稍微能用的tflite模型，即使经过量化和裁减也要近2M，图像输入需要内存缓存的没有个1-2M的ram也很不太可能呢。可能语音识别对资源需求简单些

biezhen

Eric2013 发表于 2019-3-11 11:51
K210还不错。

苦等了一年的K210,开发板放那吃灰了，资料极度亏筏，玩不动。 很多标准的ssd模型用不了，一年后果断放弃了。

shiva_shiva

谁能普及一下能干什么？
有哪些示例应用？

fchen2

小白一个，设备需要联网不

jcrorxp

真牛逼, 软件人才值钱真的是没错的,

zhongsandaoren

火钳刘明

Eric2013

biezhen 发表于 2019-3-11 13:51
苦等了一年的K210,开发板放那吃灰了，资料极度亏筏，玩不动。 很多标准的ssd模型用不了，一年后果断放弃 ...

可以让他们支持下TensorFlow  Lite，搞头就大很多了。

Eric2013

shiva_shiva 发表于 2019-3-11 14:15
谁能普及一下能干什么？
有哪些示例应用？

下载这些测试例子，都是。

yplin27

shiva_shiva 发表于 2019-3-11 14:15
谁能普及一下能干什么？
有哪些示例应用？

能科学上网的话可以看看官方视频：https://www.youtube.com/watch?v=DKosV_-4pdQ

主要是跑一些简单的模型，譬如用一个低功耗的 M 系列单片机监听 “hello google” 语音指令，匹配了再唤醒主系统

之前还看过有一个是记录加速度传感器数据，对用户当前运动状态做分类

HZKJ

难道神机C8T6也可以玩AI?

mikeliujia

是不是也有手机可运行的

biezhen

看了youtube上的演示，和我在手机上运行的tflite语音识别效果差不多，10次识别5次错，这种级别。

Eric2013

biezhen 发表于 2019-3-11 23:47
看了youtube上的演示，和我在手机上运行的tflite语音识别效果差不多，10次识别5次错，这种级别。 ...

当前语音识别商业应用最溜的还是youtube自带的字幕识别，太牛叉了。

yplin27

Eric2013 发表于 2019-3-12 10:07
当前语音识别商业应用最溜的还是youtube自带的字幕识别，太牛叉了。

我上面那视频，讲台旁边就有个屏实时显示演讲内容，比演讲慢10秒左右

Eric2013

yplin27 发表于 2019-3-12 12:26
我上面那视频，讲台旁边就有个屏实时显示演讲内容，比演讲慢10秒左右

自带的识别就行，实时的

prow

有研究这个的大佬么，一起讨论讨论啊
工程移植到自己使用的平台没什么问题了，但是如何导入模型呢？

jdw924

不错，关注一下，现在的单片机做做语音识别应该还是不错的

Eric2013

prow 发表于 2019-3-28 09:55
有研究这个的大佬么，一起讨论讨论啊
工程移植到自己使用的平台没什么问题了，但是如何导入模型呢？ ...

youtube上搜下TensorFlow lite，可能有上手小视频。

wyn20007

这么厉害！持续关注。

vows

Eric2013 发表于 2019-3-11 18:24
可以让他们支持下TensorFlow  Lite，搞头就大很多了。

K210已经支持Tensorflow Lite.

传送门：https://github.com/kendryte/nncase

目前已经支持tflite，paddle，caffe模型。
tflite         .tflite TFLite model
paddle        __model__ PaddlePaddle model
caffe        .caffemodel Caffe model

例子：https://github.com/kendryte/tensorflow-workspace

prow

在dsp上跑了一下，没弄明白

hexenzhou

我已经用起来了，在商业成品上，用H7平台跑的，效果很不错。