Part I/ Chapter 2 线性代数基础1

1、标量（scalar）、向量（vector）、矩阵（matrix）、张量（tensor）。

2、一些关于矩阵的概念：主对角线（main diagonal）、单位矩阵（identity matrix）、逆矩阵（matrix inversion）、对角矩阵（diagonal matrix）、对称矩阵（symmetric matrix）、正交矩

阵（orthogonal matrix）。

3、对于矩阵的一些操作和运算：转置（transpose）、标量与矩阵相加、标量与矩阵相乘、广播（broadcast）（将向量和矩阵的每一行相加）、向量与矩阵相乘、求逆。

4、矩阵乘积/标准乘积（matrix product）：C=AB

元素对应乘积/Hadamard乘积：C=A⊙B

5、线性相关与线性无关。

6、范数（norm）：常用的范数有①L1范数：||x||1 =Σ|xi|   ②L2范数（欧几里得范数）   ③L∞范数（最大范数）：||x||∞=max|xi|

　　→衡量矩阵的大小时，深度学习中常用Frobenius范数：||A||F=(Σ(Ai,j)2)1/2

7、向量的点积可以表示为：xTy=||x||2||y||2cosθ。

8、特征分解（eigendecomposition）：将矩阵分解为一组特征向量和特征值。任意一个实对称矩阵都有特征分解，但可能并不唯一。根据特征值的正负不同，可以将矩阵称为正定

（positive definite）、半正定（positive semidefinite）、负定（negative definite）、半负定矩阵（negative semidefinite）。

9、奇异值分解（singular value decomposition，SVD）：将矩阵分解为奇异向量和奇异值。每个实矩阵都有一个奇异值分解。

10、Moore-Penrose伪逆

11、迹运算Tr(A)：返回矩阵对角元素的和。标量的迹运算是它本身。

12、行列式det(A)

原文地址：https://www.cnblogs.com/rainton-z/p/11615545.html

时间： 2024-08-30 15:16:54

Part I/ Chapter 2 线性代数基础1的相关文章

Part I/ Chapter 2 线性代数基础2 实例：PCA

主成分分析(principal components analysis,PCA) 用基础的线性代数知识能够推导出主成分分析(principal components analysis,PCA)这一简单的机器学习算法. 1.出发点:在n维实线性空间中我们有m个点的集合{x(1),x(2),...,x(m)},对这些点进行有损压缩,希望在压缩的过程中损失的精度尽可能少.一种编码的方式就是用低维来表示高维,就是说对于这m个点中的每一个点x(i),都对应着一个l维的编码向量c(i),如果c(i)的维度低

numpy线性代数基础 - Python和MATLAB矩阵处理的不同

http://blog.csdn.net/pipisorry/article/details/39087583 在介绍工具之前先对理论基础进行必要的回顾是很必要的.没有理论的基础,讲再多的应用都是空中楼阁.本文主要设涉及线性代数和矩阵论的基本内容.先回顾这部分理论基础,然后给出MATLAB,继而给出Python的处理.个人感觉,因为Python是面向对象的,操纵起来会更接近人的正常思维:而MATLAB大多是以函数实现的,是向对象施加的一个操作.比如,A是一个矩阵,它有一个属性attr.用Pyth

机器学习--线性代数基础

关闭 yunqishequ1的博客 目录视图 摘要视图 订阅 管理博客 写新文章 评论送书 | 7月书讯:众多畅销书升级!      CSDN日报20170727--<想提高团队技术,来试试这个套路!>      评论送书 | 机器学习.Java虚拟机.微信开发 机器学习--线性代数基础 2017-07-28 14:05 6人阅读 评论(0) 收藏 编辑 删除  分类: 机器x 目录(?)[+] 原文地址 数学是计算机技术的基础,线性代数是机器学习和深度学习的基础,了解数据知识最好的方法我觉得

线性代数基础知识.md

学科:线性代数基础知识 作者:zhuhonggen 矩阵 1.矩阵及其运算 1.1矩阵加法 1.2矩阵乘法 1.2.1概念 1.2.2矩阵乘法基本性质 内积:一个行向量乘以一个列向量称作向量的内积,又叫作点积,结果是一个数: 外积:一个列向量乘以一个行向量称作向量的外积,外积是一种特殊的克罗内克积,结果是一个矩阵 1.3克拉默法则 1.3.1概念 1.3.2定理 1.3.3总结 2.逆矩阵 2.1概念 设A是数域上的一个n阶矩阵,若在相同数域上存在另一个n阶矩阵B,使得: AB=BA=E ,则我

【转载】线性代数基础知识

原文地址:http://blog.csdn.net/longxinchen_ml/article/details/51629328 作者:Zico Kolter (补充: Chuong Do) 时间:2016年6月 翻译:@MOLLY([email protected]) @OWEN([email protected]) 校正:@寒小阳([email protected]) @龙心尘([email protected]) 出处:http://blog.csdn.net/han_xiaoyang/

2 线性代数基础

转自: https://blog.csdn.net/longxinchen_ml/article/details/51629328 1基本概念和符号 线性代数可以对一组线性方程进行简洁地表示和运算.例如,对于这个方程组: 这里有两个方程和两个变量,如果你学过高中代数的话,你肯定知道,可以为x1 和x2找到一组唯一的解 (除非方程可以进一步简化,例如,如果第二个方程只是第一个方程的倍数形式.但是显然上面的例子不可简化,是有唯一解的).在矩阵表达中,我们可以简洁的写作: 其中: 很快我们将会看到,咱

【机器学习数学基础】线性代数基础

目录 线性代数 一.基本知识 二.向量操作 三.矩阵运算 线性代数 一.基本知识 本书中所有的向量都是列向量的形式: \[\mathbf{\vec x}=(x_1,x_2,\cdots,x_n)^T=\begin{bmatrix}x_1\\x_2\\ \vdots \\x_n\end{bmatrix}\] 本书中所有的矩 \(\mathbf X\in \mathbb R^{m\times n}\) 都表示为: \[\mathbf X = \begin{bmatrix} x_{1,1}&x_{1,

Chapter 6 面向对象基础

面向对象=对象+类+继承+通信,如果一个软件系统采用这些概念来建立模型并给予实现,那么它就是面向对象的.面向对象的软件工程方法是面向对象方法在软件工程领域的全面运用涉及到从面向对象分析.面向对象设计.面向对象编程.面相对象测试到面向对象软件维护的全过程.对象是系统中用来描述客观事物的一个实体,是构成系统的一个基本单位.类是具有相同属性和服务的一组对象的集合,它为属于该类的全部对象提供了统一的抽象描述.封装是把对象的属性和服务结合成一个独立的系统单位,并尽可能的隐藏对象的内部细节.继承是指子类可以

Chapter 2 算法基础

-------------------注明---------------- 以下内容来自于<算法导论>           lz新手,存在各种错误以及各种不合理的地方望大家指出 ---------------------------------------- 2.1 插入排序 核心: 将一个数插入到已经排好序的有序数列中,从而得到一个新的.个数加1的有序数列 形象描述:有两堆牌,左手一堆已经排好序,右手一堆未排好,将右手中的牌一张一张取出来,放到左手这堆牌中(保证每次放进去都使左手牌仍有序)