• 热门专题

你还在头疼Tensorflow载入数据方式吗

作者:whl  发布日期:2018-11-06 08:39:00
Tag标签:Tensorflow载入数据  
  •   小编经常听到身边的朋友抱怨tensorflow载入数据太难了,操作的时候困难重重。今天知道了三种tensorflow载入数据的三种方法,小编就赶紧给大家分享了。对于这三种方法下文都有比较详细的介绍,朋友们不要担心自己会看不懂。下面大家移动鼠标一起来看看吧。

      Tensorflow数据读取有三种方式:

      •Preloaded data: 预加载数据

      •Feeding: Python产生数据,再把数据喂给后端。

      •Reading from file: 从文件中直接读取

      这三种有读取方式有什么区别呢? 我们首先要知道TensorFlow(TF)是怎么样工作的。

      TF的核心是用C++写的,这样的好处是运行快,缺点是调用不灵活。而Python恰好相反,所以结合两种语言的优势。涉及计算的核心算子和运行框架是用C++写的,并提供API给Python。Python调用这些API,设计训练模型(Graph),再将设计好的Graph给后端去执行。简而言之,Python的角色是Design,C++是Run。

      一、预加载数据:

    预加载数据

      二、python产生数据,再将数据喂给后端

    python产生数据

      说明:在这里x1, x2只是占位符,没有具体的值,那么运行的时候去哪取值呢?这时候就要用到sess.run()中的feed_dict参数,将Python产生的数据喂给后端,并计算y。

      这两种方案的缺点:

      1、预加载:将数据直接内嵌到Graph中,再把Graph传入Session中运行。当数据量比较大时,Graph的传输会遇到效率问题。

      2、用占位符替代数据,待运行的时候填充数据。

      前两种方法很方便,但是遇到大型数据的时候就会很吃力,即使是Feeding,中间环节的增加也是不小的开销,比如数据类型转换等等。最优的方案就是在Graph定义好文件读取的方法,让TF自己去从文件中读取数据,并解码成可使用的样本集。

      三、从文件中读取,简单来说就是将数据读取模块的图搭好

    数据读取模块

      1、准备数据,构造三个文件,A.csv,B.csv,C.csv

    准备数据

      2、单个Reader,单个样本

    单个Reader

      说明:这里没有使用tf.train.shuffle_batch,会导致生成的样本和label之间对应不上,乱序了。生成结果如下:

    生成样本

      解决方案:用tf.train.shuffle_batch,那么生成的结果就能够对应上。

    解决方案

      3、单个Reader,多个样本,主要也是通过tf.train.shuffle_batch来实现

    tf.train.shuffle_batch

      说明:下面这种写法,提取出来的batch_size个样本,特征和label之间也是不同步的

    batch_size个样本

      说明:输出结果如下:可以看出feature和label之间是不对应的

    不对应label

      4、多个reader,多个样本

    多个样本

      tf.train.batch与tf.train.shuffle_batch函数是单个Reader读取,但是可以多线程。tf.train.batch_join与tf.train.shuffle_batch_join可设置多Reader读取,每个Reader使用一个线程。至于两种方法的效率,单Reader时,2个线程就达到了速度的极限。多Reader时,2个Reader就达到了极限。所以并不是线程越多越快,甚至更多的线程反而会使效率下降。

      5、迭代控制,设置epoch参数,指定我们的样本在训练的时候只能被用多少轮

    迭代控制

      在迭代控制中,记得添加tf.initialize_local_variables(),官网教程没有说明,但是如果不初始化,运行就会报错。

      对于传统的机器学习而言,比方说分类问题,[x1 x2 x3]是feature。对于二分类问题,label经过one-hot编码之后就会是[0,1]或者[1,0]。一般情况下,我们会考虑将数据组织在csv文件中,一行代表一个sample。然后使用队列的方式去读取数据

      说明:对于该数据,前三列代表的是feature,因为是分类问题,后两列就是经过one-hot编码之后得到的label

      使用队列读取该csv文件的代码如下:

    csv文件的代码

      输出结果如下:

    输出结果

      说明:

      record_defaults = [[1], [1], [1], [1], [1]]

      代表解析的模板,每个样本有5列,在数据中是默认用‘,'隔开的,然后解析的标准是[1],也即每一列的数值都解析为整型。[1.0]就是解析为浮点,['null']解析为string类型。

      从上文可以知道,大家可以通过预加载数据、在产生数据之后把数据传给后端和直接从文件中读取这三种方法来使得tensorflow的加载数据不再是什么难题。更何况这几种方法在操作上都不存在难点,相信经过这些了解,下次再需要载入数据就不需要头疼了。

延伸阅读:

About IT165 - 广告服务 - 隐私声明 - 版权申明 - 免责条款 - 网站地图 - 网友投稿 - 联系方式
本站内容来自于互联网,仅供用于网络技术学习,学习中请遵循相关法律法规