10-2[RF] OOB validation

main idea:

在使用bootstrap生成gi的训练集时，会有一部分数据没有被选中，使用这一部分数据（OOB）进行validation。

1.数据没有被选中的概率

假设训练集大小为N，使用bootstrap生成N’（假设N’=N）条数据用于gi的训练（有放回抽样），则某条特定数据没有被选中的概率为：

当N很大（趋于无穷）时，大约有1/3的数据没有被选中：

称这些没有被选中的数据为OOB（out of bag）

2.使用OOB进行validation

a. 在每一条记录上做validation

黄色标注数据(Xn,yn)，由于没有被用于训练g2，g3，gT，所以可以用于做这些小g的validation

b. 汇总

时间： 2024-10-06 08:06:07

10-2[RF] OOB validation的相关文章

ASP.NET MVC 5 Model Validation

Explicitly Validating a Model [HttpPost] public ViewResult MakeBooking(Appointment appt) { if (string.IsNullOrEmpty(appt.ClientName)) { ModelState.AddModelError("ClientName", "Please enter your name"); } if (ModelState.IsValidField(&qu

Andrew Ng机器学习课程10补充

Andrew Ng机器学习课程10补充 VC dimension 讲到了如果通过最小化训练误差,使用一个具有d个参数的hypothesis class进行学习,为了学习好,一般需要参数d的线性关系个训练样本.到这里需要指出一点,这个结果是基于empirical risk minimization得到的,而对于那些大部分的discriminative的学习算法采用的通过最小化training error或者training error的近似值,前面推导的结论并不总是可以用,而对于non_ERM 学

基于springmvc的简单增删改查实现---中间使用到了bean validation

1 package com.kite.controller; 2 3 import java.util.HashMap; 4 import java.util.Map; 5 6 import javax.validation.Valid; 7 8 import org.springframework.stereotype.Controller; 9 import org.springframework.ui.Model; 10 import org.springframework.validat

Cross Validation done wrong

Cross Validation done wrong Cross validation is an essential tool in statistical learning 1 to estimate the accuracy of your algorithm. Despite its great power it also exposes some fundamental risk when done wrong which may terribly bias your accurac

linux定时任务的设置

为当前用户创建cron服务 1. 键入 crontab -e 编辑crontab服务文件例如文件内容如下: */2 * * * * /bin/sh /home/admin/jiaoben/buy/deleteFile.sh 保存文件并并退出 */2 * * * * /bin/sh /home/admin/jiaoben/buy/deleteFile.sh */2 * * * * 通过这段字段可以设定什么时候执行脚本 /bin/sh /home/admin/jiaoben/buy/dele

linux自动化创建补丁

BUS 1 #!/bin/sh 2 3 #判断H5_BD_${BD_data}目录是否存在 4 BD_data=$(date +"%F") 5 6 #当日打包多次的情况下,初始化补丁目录 7 if [ -d "BD_${BD_data}" ]; then 8 echo "今日补丁目录已存在,进行补丁目录初始化" 9 10 # 补丁目录初始化 11 rm -rf ./BD_${BD_data}/TBAServer/lib/* 12 rm -rf .

keras rnn做加减法

一.背景学习rnn怎么使用例子: 输入两个数,做加法二. 代码赏析 from __future__ import print_function from keras.models import Sequential from keras.engine.training import slice_X from keras.layers import Activation, TimeDistributed, Dense, RepeatVector, recurrent import numpy

Linux下crontab命令的用法

cron来源于希腊单词chronos(意为“时间”),是linux系统下一个自动执行指定任务的程序.例如,你想在每晚睡觉期间创建某些文件或文件夹的备份,就可以用cron来自动执行. 服务的启动和停止 cron服务是linux的内置服务,但它不会开机自动启动.可以用以下命令启动和停止服务: Linux代码 /sbin/service crond start /sbin/service crond stop /sbin/service crond restart /sbin/service cr

Linux 的计划任务(运维基础|可用于提权)

Linux操作系统定时任务系统 Cron 入门先写笔记: crontab -u //设定某个用户的cron服务,一般root用户在执行这个命令的时候需要此参数 crontab -l //列出某个用户cron服务的详细内容 crontab -r //删除没个用户的cron服务 crontab -e //编辑某个用户的cron服务看存在的的计划启动, 可以直接编辑相应的启动项, 添加自己想要的命令 ,因为cron默认是ROOT权限可以用这个提权 eg: rontab -l59 1 * * *