机器学习高阶训练营知识点一览<二>

第三阶段 无监督学习与序列模型

【核心知识点】

- K-means、GMM以及EM

- 层次聚类,DCSCAN,Spectral聚类算法

- 隐变量与隐变量模型、Partition函数

- 条件独立、D-Separation、Markov性质

- HMM以及基于Viterbi的Decoding

- Forward/Backward算法

- 基于EM算法的参数估计

- 有向图与无向图模型区别

- Log-Linear Model,逻辑回归,特征函数

- MEMM与Label Bias问题

- Linear CRF以及参数估计

第四阶段 深度学习

【核心知识点】

- 神经网络与激活函数

- BP算法、卷积层、Pooling层、全连接层

- 卷积神经网络、常用的CNN结构

- Dropout与Batch Normalization

- SGD、Adam、Adagrad算法

- RNN与梯度消失、LSTM与GRU

- Seq2Seq模型与注意力机制

- Word2Vec, Elmo, Bert, XLNet

- 深度学习中的调参技术

- 深度学习与图嵌入(Graph Embedding)

- Translating Embedding (TransE)

- Node2Vec

- Graph Convolutional Network

- Graph Neural Network

- Dynamic Graph Embedding

【部分案例讲解】

- 基于Seq2Seq和注意力机制的机器翻译

- 基于TransE和GCN的知识图谱推理

- 基于CNN的人脸关键点检测

原文地址:https://www.cnblogs.com/jimchen1218/p/11842564.html

时间: 2024-07-31 06:46:34

机器学习高阶训练营知识点一览<二>的相关文章

机器学习高阶训练营知识点一览

第一阶段 机器学习基础与凸优化  [核心知识点] - KNN,Weighted KNN.近似KNN - KD树,近似KD树.哈希算法.LSH - 岭回归.LASSO.ElasticNet - 正则:L1, L2, L-inifity Norm - LR.GD.SGD.小批量SGD - 凸集,凸函数.判定凸函数 - LP.QP.ILP.SDP问题 - Duality,Strong Duality.KKT条件 - 带条件/无条件优化问题.Projected GD - 平滑函数.Convergence

数独高阶技巧入门之二:简单的单数链结构——双强链

?如果在数独盘势中,我们找到关于某个候选数的两条强链,且这两条强链的一侧在同一单元(行.列.宫)内,称为base,另一侧有共同作用格,称为cover.根据前篇<链及其简单应用>中的定义,base侧两端点之间不是矛盾关系就是上反对关系,它们之间必然可以是弱链.很明显这是个典型的强弱强链,其两端互为强关系,必有一真,据此可以删去cover侧两端点共同作用格内的候选数.我们将这种简单的单数链结构称之为双强链,双强链结构主要包括摩天楼(Skyscraper).双线风筝(2-String Kite).多

初学 Python(十二)——高阶函数

初学 Python(十二)--高阶函数 初学 Python,主要整理一些学习到的知识点,这次是高阶函数. #-*- coding:utf-8 -*- ''''' 话说高阶函数: 能用函数作为参数的函数 称为高阶函数 ''' #函数作参 def f(x): return x*x #map函数为内置函数,意思为将第二个参数的list作用到f函数中 #最后的结果为一个list print map(f,[1,2,3,4,5]) #reduce函数为内置函数,意思将第二参数的序列作用到add函数值 #将结

Python学习十二:高阶函数

在学习高阶函数之前需要搞清一个概念: 变量可以指向函数 意思就是:把函数名赋值给另一个变量,然后使用这个变量完成跟函数一样的功能. 如下代码所示: 将求绝对值函数abs赋值给f,然后调用f完成跟abs一样的功能. >>> f = abs >>> f(-100) 100 >>> 好了接下来看:高阶函数 定义为:一个函数接收另一个函数作为参数,这种函数就称之为高阶函数. 如下代码所示: def add(x , y , f): return f(x) + f

二、Python开发---13、高阶函数与内置函数

常用高阶函数 #map list01 = [1,3,5,7,9] new_list01=map(lambda x:x*2,list01) print(list(new_list01)) #输出为[2, 6, 10, 14, 18] 将map对象转换为list list02 = [2,4,6,8,10] new_list02 = map(lambda x,y:x*y,list01,list02) print(new_list02) #<map object at 0x0000000001F0A51

2016.3.3(Spark框架预览,Scala部分应用函数、闭包、高阶函数,关于语义分析的一些心得)

一.Spark框架预览 主要有Core.GraphX.MLlib.Spark Streaming.Spark SQL等几部分. GraphX是进行图计算与图挖掘,其中主流的图计算框架现在有:Pregal.HAMA.Giraph(这几部分采用超步即同步的方式),而GraphLab与Spark GraphX采用异步的方式进行.它与Spark SQL进行协作时,一般是用SQL语句来进行ETL(Extract-Transform-Load数据仓库技术)然后交给GraphX处理. Spark SQL的前身

解释机器学习模型的一些方法(二)——在受监管的行业使用机器学习

对于在受监管行业中工作的分析师和数据科学家来说,尽管机器学习可能会带来『能极大提高预测精度』这一好处,然而它可能不足以弥补内部文档需求以及外部监管责任所带来的成本.对于实践者而言,传统线性模型技术可能是预测模型中的唯一选择.然而,创新和竞争的驱动力并不因为你在一个受监管的模式下工作就会止息.在银行,保险以及类似受监管垂直领域里,数据科学家和分析师正面对着这样一个独一无二的难题:他们必须要找到使预测越来越精准的方案,但前提是,保证这些模型和建模过程仍然还是透明.可解释的. 在这一节中所展现的技巧,

迈向高阶:优秀Android程序员必知必会的网络基础

1.前言 网络通信一直是Android项目里比较重要的一个模块,Android开源项目上出现过很多优秀的网络框架,从一开始只是一些对HttpClient和HttpUrlConnection简易封装使用的工具类,到后来Google开源的比较完善丰富的Volley,再到如今比较流行的Okhttp.Retrofit. 要想理解他们之间存在的异同(或者具体点说,要想更深入地掌握Android开发中的网络通信技术),必须对网络基础知识.Android网络框架的基本原理等做到心中有数.信手拈来,关键时刻才能

【ZZ】从入门到高阶,你需要刷哪些书?丨高中物理竞赛辅导书推荐

无论你是初试牛刀的初学者,还是渐入佳境的潜力新星,亦或是经验丰富的竞赛老将,一份适合自己的书单总是奥赛学习的致胜法宝.本期推送,我们针对物理竞赛整理了一系列经典书目.希望大家可以结合自身经历.基础实力,选择适合自己的奥赛书籍,让一本本好书陪伴自己走完这段美丽而艰辛的竞赛生涯. 入 门 书 单 ▼01.高中物理学 沈克琦 主编2015-07-01中国科学技术大学出版社 02.新概念物理读本 赵凯华,张维善 著2009-02-01 / 人民教育出版社 这两套书的特点都是从高中物理.从零开始讲起.也就