深度学习书单推荐

less than 1 minute read

Published:

深度学习书单推荐

机器学习和 统计学习的数学基础

1、统计学习方法 李航

2、机器学习导论 第2版

有关神经网络基础

1、神经网络设计 Neural Network Design Hagan 2、Neural Networks and Deep Learning 神经网络与深度学习

深度学习相关的书

1、深度学习 deep learning(花书)

Tensorflow 入门

1、面向机器智能的TensorFlow实践 (智能系统与技术丛书)

结合数学知识讲解Tensorflow

1、Pro Deep Learning with TensorFlow A Mathematical Approach to Advanced Artificial Intelligence in Python Apress (2017)

注重Tensorflow 的实践技巧

1、TensorFlow Machine Learning Cookbook

2、Learning TensorFlow A Guide to Building Deep Learning Systems

Keras 作者写的书,介绍了不少Deep Learning的前沿技术

1、Deep Learning with Python

书本内容简介

这本书的主要观点是,深度模型的输入都是一些高维的张量,这些张量对应高维 几何空间(流形)的某个空间点,深度模型就是一些几何变换层的堆砌,这些变 换层,将原来流形上的某个空间点变换成另外一个点。变换后几何点的关系能展 现某种联系规律,这些规律就称为知识表示。最形象的表示就是那两张不同颜色 的纸张叠一起,然后揉成一个纸团,虽然纸团使得这两张纸上的几何点呈现复杂 的空间关系,但是如果能有一系列的几何变换能将纸团还原成两张平面的纸张, 则两种纸张上的几何点呈现的就是平行平面的关系。

但是需要注意上面这种知识表示不是一种智能,只是一种映射的变化关系,智能 应该是一种群体和环境的交互产生的世界模型,这里有两点很重要,1、和环境 交互,这个目前的深度学习还很少涉及,增强学习只是一种特定的交互,没有范 围能力,是一种既定规则的交互,智能体和环境的交互是实时改变规则的,交互 的开始只有一个世界观、因果关系等等这类的规则限定;2、智能的产生需要群 体和环境进行交互,单个个体和环境交互产生不了知识,古人云,三人行必有我 师,说的就是这个意思,知识的产生需要群体合作。

目前的深度学习只是将人类产生的知识和大量的数据通过训练找到它们的关系, 从而将复杂的数据映射成具有规律的知识表示,但是深度学习模型本质上是不理 解这些知识规律的。

深度学习和人类智能的另一个最明显的区别是,深度学习只具有局域的泛化能力, 而人类智能有全局的泛化能力,能通过理性和抽象将已有的知识应用到新的环境 中,这是目前深度学习缺乏的。

深度网络的映射变换过程的基础是网络是可微分的,否则不能利用反向传播算法 进行迭代。

基本的深度网络结构有三种,1、全连接层;2、卷积神经网络;3、循环递归网 络。

深度学习网络的基本运算就是张量操作,需要注意张量的维度和具体的张量操作 命令和实现方法。深度学习的训练就是在过拟合和泛化能力间进行折中。

从数据科学角度讲解python和机器学习

1、Data Science from Scratch First Principles with Python-O’Reilly Media (2015)

讲解Python较好的书

1、Introducing Python Modern Computing in Simple Packages-O’Reilly Media (2015)