【pytorch】深度学习框架介绍+简单回归问题

深度学习框架 id="深度学习框架">深度学习框架

pytorch

动态计算意味着程序将按照我们编写命令的顺序进行执行。这种机制将使得调试更加容易，并且也使得我们将大脑中的想法转化为实际代码变得更加容易。而静态计算则意味着程序在编译执行时将先生成神经网络的结构，然后再执行相应操作。而静态计算是通过先定义后运行的方式，之后再次运行的时候就不再需要重新构建计算图，所以速度会比动态图更快。从理论上讲，静态计算这样的机制允许编译器进行更大程度的优化，但是这也意味着你所期望的程序与编译器实际执行之间存在着更多的代沟。这也意味着，代码中的错误将更加难以发现（比如，如果计算图的结构出现问题，你可能只有在代码执行到相应操作的时候才能发现它）。

梯度下降算法（深度学习的核心）

</>

求解器加入各种各样的约束，本质上来说就是加入各种约束让求解的速度变快，比如sgd
如何求解二元一次方程

消元法以上可以求得w和b
/

以上可以精确求解的数据并不多，实际上我们生活上观测的数据都是有一定的偏差，近似解如果可行，其实也是可用的，于是原loss函数可以加入变量来模拟误差
//

所以一般是通过拿到更多组的方程组来进行求近似解

目前使用的算法
Linear Regression
Logistic Regression （压缩至0~1的概率值）
Classification

原文地址：https://www.cnblogs.com/pandaboy1123/p/12161788.html