机器学习经典算法

函数名称均为sklearn库中的函数

1.线性回归算法：LinearRegression：

　　其中常用的有：Ridge:岭回归算法，MultiTaskLasso:多任务LASSO回归算法，ElasticNet:弹性网眼算法，LassoLars:LARS套索算法，OrthogonalMatchingPursuit:正交匹配追踪（OMP）算法，

　　BayesianRidge:贝叶斯岭回归算法，LogisticRegression:逻辑回归算法，SGDClassifier:SGD随机梯度下降算法，MutiTaskElasticNet：多任务弹性网眼算法，LARS:最小角回归算法，Perceptron：感知器算

　　法，PassiveAggressiveClassifier:PA被动感知算法，RANSACRegressor:鲁棒回归算法，HuberRegressor:Huber回归算法

2.朴素贝叶斯算法，Multinaomial Naive Bayes，函数名：Multinomialnb

　　其中常用：MultinomialNB:多项式朴素贝叶斯算法，GaussianNB:高斯朴素贝叶斯算法，BernoulliNB:伯努力朴素贝叶斯算法

3.kNN近邻算法：KNeighborsClassifier

　　其中常用：KNeighborsClassifier:KNN近邻算法，NearestNeighbors:最近邻算法，KNeighborsRegressor：K近邻算法，NearestCentroid：最近质心算法

4.逻辑回归算法：LogisticRegression

5.随机森林算法，Random Forest Classifier ：RandomForestClassfier

　　其中最常用：RandomForestClassifier:随机森林算法，BaggingCClassifier：Bagging装袋算法

6.决策树算法，Decision Tree：tree.DecisionTreeClassifier

7.GBDT迭代决策树算法，Gradient Boosting Decision Tree，又叫MART（Multiple Additive Regession Tree）：GradientBoostingClassifier

8.SVM向量机算法：SVC

9.SVM-cross向量机交叉算法：SVC

时间： 2024-08-07 00:17:11

机器学习经典算法的相关文章

机器学习经典算法详解及Python实现---朴素贝叶斯分类及其在文本分类、垃圾邮件检测中的应用

摘要: 朴素贝叶斯分类是贝叶斯分类器的一种,贝叶斯分类算法是统计学的一种分类方法,利用概率统计知识进行分类,其分类原理就是利用贝叶斯公式根据某对象的先验概率计算出其后验概率(即该对象属于某一类的概率),然后选择具有最大后验概率的类作为该对象所属的类.总的来说:当样本特征个数较多或者特征之间相关性较大时,朴素贝叶斯分类效率比不上决策树模型:当各特征相关性较小时,朴素贝叶斯分类性能最为良好.另外朴素贝叶斯的计算过程类条件概率等计算彼此是独立的,因此特别适于分布式计算.本文详述了朴素贝叶斯分类的统计学

机器学习经典算法具体解释及Python实现--线性回归（Linear Regression）算法

(一)认识回归 回归是统计学中最有力的工具之中的一个. 机器学习监督学习算法分为分类算法和回归算法两种,事实上就是依据类别标签分布类型为离散型.连续性而定义的. 顾名思义.分类算法用于离散型分布预測,如前面讲过的KNN.决策树.朴素贝叶斯.adaboost.SVM.Logistic回归都是分类算法.回归算法用于连续型分布预測.针对的是数值型的样本,使用回归.能够在给定输入的时候预測出一个数值.这是对分类方法的提升,由于这样能够预測连续型数据而不不过离散的类别标签. 回归的目的就是建立一个回归方程

机器学习经典算法具体解释及Python实现--K近邻(KNN)算法

(一)KNN依旧是一种监督学习算法 KNN(K Nearest Neighbors,K近邻 )算法是机器学习全部算法中理论最简单.最好理解的.KNN是一种基于实例的学习,通过计算新数据与训练数据特征值之间的距离,然后选取K(K>=1)个距离近期的邻居进行分类推断(投票法)或者回归.假设K=1.那么新数据被简单分配给其近邻的类.KNN算法算是监督学习还是无监督学习呢?首先来看一下监督学习和无监督学习的定义.对于监督学习.数据都有明白的label(分类针对离散分布,回归针对连续分布),依据机器学习产

机器学习经典算法详解及Python实现--基于SMO的SVM分类器

原文:http://blog.csdn.net/suipingsp/article/details/41645779 支持向量机基本上是最好的有监督学习算法,因其英文名为support vector machine,简称SVM.通俗来讲,它是一种二类分类模型,其基本模型定义为特征空间上的间隔最大的线性分类器,其学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解. (一)理解SVM基本原理 1,SVM的本质--分类 给定一些数据点,它们分别属于两个不同的类,现在要找到一个线性分类器把这些

机器学习经典算法详解及Python实现--聚类及K均值、二分K-均值聚类算法

摘要 聚类是一种无监督的学习(无监督学习不依赖预先定义的类或带类标记的训练实例),它将相似的对象归到同一个簇中,它是观察式学习,而非示例式的学习,有点像全自动分类.说白了,聚类(clustering)是完全可以按字面意思来理解的--将相同.相似.相近.相关的对象实例聚成一类的过程.机器学习中常见的聚类算法包括 k-Means算法.期望最大化算法(Expectation Maximization,EM,参考"EM算法原理").谱聚类算法(参考机器学习算法复习-谱聚类)以及人工神经网络算法

机器学习经典算法详解及Python实现--CART分类决策树、回归树和模型树

摘要: Classification And Regression Tree(CART)是一种很重要的机器学习算法,既可以用于创建分类树(Classification Tree),也可以用于创建回归树(Regression Tree),本文介绍了CART用于离散标签分类决策和连续特征回归时的原理.决策树创建过程分析了信息混乱度度量Gini指数.连续和离散特征的特殊处理.连续和离散特征共存时函数的特殊处理和后剪枝:用于回归时则介绍了回归树和模型树的原理.适用场景和创建过程.个人认为,回归树和模型树

机器学习经典算法详解及Python实现--线性回归（Linear Regression）算法

(一)认识回归 回归是统计学中最有力的工具之一.机器学习监督学习算法分为分类算法和回归算法两种,其实就是根据类别标签分布类型为离散型.连续性而定义的.顾名思义,分类算法用于离散型分布预测,如前面讲过的KNN.决策树.朴素贝叶斯.adaboost.SVM.Logistic回归都是分类算法:回归算法用于连续型分布预测,针对的是数值型的样本,使用回归,可以在给定输入的时候预测出一个数值,这是对分类方法的提升,因为这样可以预测连续型数据而不仅仅是离散的类别标签. 回归的目的就是建立一个回归方程用来预测目

Python3入门机器学习 经典算法与应用

详情请交流  QQ  709639943 00.Python3入门机器学习 经典算法与应用 00.老司机学python篇:第一季(基础速过.机器学习入门) 00.Python 从入门到精通 78节.2000多分钟.36小时的高质量.精品.1080P高清视频教程!包括标准库.socket网络编程.多线程.多进程和协程. 00.Django实战之用户认证系统 00.Django实战之企业级博客 00.深入浅出Netty源码剖析 00.NIO+Netty5各种RPC架构实战演练 00.JMeter 深

Python3入门机器学习--经典算法与应用|Python3机器学习

Python3入门机器学习--经典算法与应用网盘地址:https://pan.baidu.com/s/1JU3xUckrJ6mIFmbPZ2SE-g 密码: b4i8备用地址(腾讯微云):https://share.weiyun.com/1a5b40b998601d64fb5211c21fb71212 密码:3kt4wq 使用scikit-learn内置的大量数据集,结合实际项目,让你不仅懂算法更会用算法:使用机器学习算法进行图像去噪,让你认识一个不一样的机器学习世界:分类任务使用世界著名的MN

Pyhon3实现机器学习经典算法（一）KNN

一.KNN概述 K-(最)近邻算法KNN(k-Nearest Neighbor)是数据挖掘分类技术中最简单的方法之一.它具有精度高.对异常值不敏感的优点,适合用来处理离散的数值型数据,但是它具有 非常高的计算复杂度和空间复杂度,需要大量的计算(距离计算). 它的工作原理是:如果已经给定一个带有标签(分类)的数据集(训练集),对于每一个给定的没有标签(分类)的新向量,通过计算该向量与训练集中的每一个向量的距离, 选择前k个最小的距离,在k个距离中出现次数最多的标签(分类)则是新向量的标签(分类).