grid-search建模过程中自动调优

1.梯度下降法

先是将需要调整的参数以字典形式存储到param_grid列表中,梯度下降法可调整参数,可参考以下链接

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.SGDClassifier.html#sklearn.linear_model.SGDClassifier

# 导入GridSearch包

from sklearn.model_selection import GridSearchCV

sgd = SGDClassifier(max_iter=1000)

# 存储需要调整参数

param_grid = [

    {‘loss‘: [‘hinge‘, ‘log‘, ‘modified_huber‘, ‘squared_hinge‘,‘perceptron‘], ‘penalty‘: [‘none‘, ‘l2‘, ‘l1‘,‘elasticnet‘]},

  ]

# 这里使用十折交叉验证,选择评价指标

sgd_grid_search = GridSearchCV(sgd, param_grid, cv=10,

                           scoring=‘precision_macro‘)

# 实例化

sgd_grid_search.fit(tfidf_train_features, train_label)

# 显示调参过程,取的是十折交叉验证的平均值

for mean_score, params in zip(cvres["mean_test_score"], cvres["params"]):

    print(mean_score, params)

2.LogisticRegression

逻辑回归参数链接可参考:

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html

在选择参数时,需注意

  • ‘newton-cg‘,‘lbfgs‘和‘sag‘只处理L2,而‘liblinear‘和‘saga‘处理L1
from sklearn.linear_model import LogisticRegression

LR = LogisticRegression(max_iter=100,random_state=0,penalty=‘l1‘)

param_grid = [

    {‘C‘:[1,2,3,4,5],

     ‘solver‘:[‘liblinear‘,‘saga‘] },

  ]

LR_grid_search = GridSearchCV(LR, param_grid, cv=10,

                           scoring=‘precision_macro‘)

LR_grid_search.fit(tfidf_train_features, train_label)

cvres = LR_grid_search.cv_results_

for mean_score, params in zip(cvres["mean_test_score"], cvres["params"]):

    print(mean_score, params)

其他属性

grid.best_score_ #查看最佳分数(此处为f1_score)

grid.best_params_ #查看最佳参数

grid.best_estimator_ # 获取最佳模型

predict_y=best_model.predict(Test_X) # 进行预测

metrics.f1_score(y, predict_y) # 评分

原文地址:https://www.cnblogs.com/chengziaichiyu/p/10348224.html

时间: 2024-11-10 15:04:13

grid-search建模过程中自动调优的相关文章

关于通过线性回归来实现线程池的自动调优的讨论

1.一个人提议引起 这虾子(153193053) 10:05:01 想写个工具类来实现线程池的自动调优,大概就是采集一些相关指标,然后利用线性回归来预测最优设置,你们觉得这个靠谱不. 2.和木的建议 1.收集数据: 2.数据建模: 3.用R语言快速验证,得出回归模型 4.用Weka的包引入到监控程序 线性回归到不复杂,不过要收集原始数据,维度比较多:有些是分类变量或者多余参数,就涉及到哑变量和多重共线性的问题. R语言有些工具,可以自动进行哑变量转换,去掉多余的维度. 这样最终得出的相关系数比较

MapReduce shuffle过程剖析及调优

更新记录 2017-07-18 初稿 MapReduce简介 在Hadoop MapReduce中,框架会确保reduce收到的输入数据是根据key排序过的.数据从Mapper输出到Reducer接收,是一个很复杂的过程,框架处理了所有问题,并提供了很多配置项及扩展点.一个MapReduce的大致数据流如下图: 更详细的MapReduce介绍参考Hadoop MapReduce原理与实例. Mapper的输出排序.然后传送到Reducer的过程,称为shuffle.本文详细地解析shuffle过

SQL自动调优

SQL自动调优,是oracle 自带的调优工具,可以提出一些解决方案. 本次我主要介绍下面这些自动SQL调优工具: 自动SQL调优(automatic sql tuning) SQL调优工具集(SQL tuning sets,STS) SQL调优顾问(SQL Tuning Advisor) 自动数据库诊断监视器(addm) 显示SQL自动调优建议最快的方法: SQL> select dbms_auto_sqltune.report_auto_tuning_task from dual; GENE

如何使用oracle 的DBMS_SQLTUNE package 来运行 Sql Tuning Advisor 进行sql 自动调优

 如何使用oracle 的DBMS_SQLTUNE package 来运行 Sql Tuning Advisor 进行sql 自动调优 1>.这里简单举个例子来说明DBMS_SQLTUNE 的使用 首先现执行下某个想要调优的sql,然后获取sqlid SQL> select * from v$sqltext where sql_text like 'select * from dual%'; ADDRESS          HASH_VALUE SQL_ID        COMMAND

禁用网络连接自动调优功能---解决远程桌面,SSMS连接远程服务器卡顿

1.首先,什么是自动调优功能? 从vista开始,微软在TCP/IP协议栈里新加了一个叫做“Window Auto-Tuning”的功能.这个功能本身的目的是为了让操作系统根据网络的实时性能(比如响应时间)来动态调整网络上传输的数据窗口的大小,从而达到实时优化网络性能的目的.但是,在某种情况下,这个功能反而会使远程桌面的响应变的非常的慢. 2.如何使用?(亲测:支持WIN7,WIN10) a. 单击[开始]——[所有程序]——[附件] ,右击[命令提示符]并选择以[管理员身份运行] . b. 当

oracle 11g 自动调优

--:自动调优计划 begin dbms_workload_repository.create_snapshot(); end; select /*+ result_cache */ count(*) from (select * from  HJ.dbtan where object_type='TABLE' ORDER BY 1 DESC ,2 ASC ,3 DESC ,4 ASC); begin dbms_workload_repository.create_snapshot(); end

Maya2018多变形建模过程中顶点法线方向不一致问题的解决方法

1.问题描述 多变形建模过程中,反复的挤压.调整,容易造成多边形顶点法线方向混乱,有的指向所建模型的外部.有的指向模型内部,从而导致模型看起来一部分黑.一部分白,如下图所示.这个时候通过执行面的反转(Reverse)是不能解决问题的. 2.原因分析 这个时候如果查看顶点的法线方向会发现,颜色发黑的面有顶点的法线方向指向模型内部,如下图红色圈出部分 3.解决方法 3.1 切换到顶点法线编辑模式 选择 Mesh Display->Vertex Normal Edit Tool 3.2 选中所有顶点

Spark Shuffle数据处理过程与部分调优(源码阅读七)

shuffle...相当重要,为什么咩,因为shuffle的性能优劣直接决定了整个计算引擎的性能和吞吐量.相比于Hadoop的MapReduce,可以看到Spark提供多种计算结果处理方式,对shuffle过程进行了优化. 那么我们从RDD的iterator方法开始: 我们可以看到,它调用了cacheManager的getOrCompute方法,如果分区任务第一次执行还没有缓存,那么会调用computeOrReadCheckpoint.如果某个partition任务执行失败,可以利用DAG重新调

MPMoviePlayerController播放过程中自动暂停的问题

在使用系统播放器MPMoviePlayerController的过程中,会出现播放器自动暂停的情况,有两种解决办法: (1)在播放开始的时候,设置useApplicationAudioSession = NO; (2)  重启手机,也可以恢复 参考网址: http://stackoverflow.com/questions/3000969/ipad-mpmovieplayercontroller-video-loads-but-automatically-pauses-when-played h