《SAS编程和数据挖掘商业案例》学习笔记# 19

继续《SAS编程与数据挖掘商业案例》学习笔记,本文側重数据处理实践。包含:HASH对象、自己定义format、以及功能强大的正則表達式

一:HASH对象

Hash对象又称散列表,是依据关键码值而直接进行訪问的数据结构。是依据关键码值而直接进行訪问的数据结构。

sas提供了两个类来处理哈希表。用于存储数据的hash和用于遍历的hiter,hash类提供了查找、加入、改动、删除等方法,hiter提供了用于定位和遍历的first、next等方法。

长处:键值的查找是在内存中进行的,有利于提高性能;

hash表能够在数据步执行时,动态的加入更新或删除观測。

hash表中能够非常快的定位数据,降低查找次数。

经常用法:

definekey:定义键

Definedata:定义值

definedone:定义完毕。能够加载数据

add:加入键值。如在hash表中已存在,则忽略;

replace:假设健在hash表中存在,则替换。假设不存在则加入键值

remove:清除键值对

find:查找健值,假设存在则将值写入相应变量

check:查找键值,假设存在则返回rc=0,不改动当前变量的值;

output:将hash表输出到数据集

clear:清空hash表,但并不删除对象

equal:推断两个hash类是否相等

find方法的演示样例:

libname chapt12 ‘f:\data_model\book_data\chapt12‘;

data results;

if _n_=0 then set chapt12.participants;

if _n_ = 1 then do;

declare hash h(dataset:‘chapt12.participants‘);

h.definekey(‘name‘);

h.definedata(‘gender‘, ‘treatment‘);

h.definedone();

end;

set chapt12.weight;

if h.find() = 0 then

output;

run;

hiter对象的引例:

data patients;

length patient_id $ 16 discharge 8;

input patient_id discharge:date9.;

datalines;

smith-4123 15mar2004

hagen-2834 23apr2004

smith-2437 15jan2004

flinn-2940 12feb2004

;

data _null_;

if _n_=0 then set patients;

declare hash ht(dataset:"patients",ordered:"ascending");

ht.definekey("patient_id");

ht.definedata("patient_id", "discharge");

ht.definedone();

declare hiter iter("ht");

rc = iter.first();

do while (rc=0);

put patient_id discharge:date9.;

rc = iter.next();

end;

run;

用declare hiter iter("ht");给hash表ht定义了一个遍历器iter,之后调用first方法将遍历器定位到hash表的第一条观測,然后使用next方法遍历hash表中的全部记录并输出。

商业实战-两个数据集的合并:

data both1(drop=rc);

declare hash plan ();

rc = plan.definekey (‘plan_id‘);

rc = plan.definedata (‘plan_desc‘);

rc = plan.definedone ();

do until (eof1) ;

set chapt12.plans end = eof1;

rc = plan.add ();

end;

do until (eof2) ;

set chapt12.members end = eof2;

call missing(plan_desc);

rc = plan.find ();

output;

end;

stop;

run;

上述程序能够简化为:

data both2;

length plan_id $3 plan_desc $20;

if _n_ = 1 then do;

declare hash h(dataset:‘chapt12.plans‘);

h.definekey(‘plan_id‘);

h.definedata(‘plan_desc‘);

h.definedone();

call missing(plan_desc);

end;

set chapt12.members;

rc=h.find();

run;

二:format

自己定义format:

Proc Format;

Value $ Sex_Fmt

‘F‘=‘女‘

‘M‘=‘男‘

Other = ‘未知‘;

Value Age_Dur

Low-10="10岁下面"

11-13="11-13岁"

14-<15="14-15"

15-High="15岁以上";

Run;

应用:

Data  test;

Set  sashelp.class(keep=sex age);

x=put(sex,$sex_fmt);y=put(age,age_dur.);

Run;

三:正則表達式:

/.../  一个正則表達式的起止。

|  数项之间的选择,“或”运算;

()   匹配组,标记一个子表达式的開始和结束位置。

.    除换行符以外的随意字符。

\w  任一单词字符,数字大写和小写字母以及下划线

\W  任一非单词字符

\s   任一空白字符,包含空格、制表符、换行符、回车符、中文全角空格等;

\S   任一非空白字符,

\d   0-9任一数字

\D  任一非数字字符

[...]

[^...]

[a-z]  从a到z

[^a-z]  不在从a到z范围内的随意字符

^  匹配输入字符串的開始位置

$  匹配输入字符串的结尾位置

\b  描写叙述单词的前或后边界

\B  表示非单词边界

*  匹配0次或多次

+ 匹配一次或多次

?  匹配零次或 一次

{n}  匹配n次

{n,}  匹配n次以上

{n,m}  匹配n到m次

经常使用函数:

Prxparse     定义一个正則表達式

Prxmatch  返回匹配模式的首次匹配位置

Call prxsubstr   返回匹配模式在目标字符串的開始位置和长度

Prxposn    返回正則表達式子表达式相应的匹配模式值

Call  prxposn    返回正則表達式子表达式相应的匹配模式和长度

Cal l  prxnext  返回匹配模式在目标字符串中的多个匹配位置和长度

Prxchange    替代匹配模式的值

Call prxchange   替代匹配模式的值

eg1:

data _null_;

if _n_ = 1 then pattern_num = rxparse("/cat/");

retain pattern_num;

input string $30.;

position = rxmatch(pattern_num,string);

file print;

put pattern_num= string= position=;

datalines;

there is a cat in this line.

does not match cat

cat in the beginning

at the end, a cat

cat

;

run;

eg2:数据验证

data match_phone;

set chapt12.phone_numbers;

if _n_ = 1 then pattern = prxparse("/\(\d\d\d\) ?

\d\d\d-\d{4}/");

retain pattern;

if prxmatch(pattern,phone) gt 0 then output;

run;

找出不匹配的手机号码

data unmatch_phone;

set chapt12.phone_numbers;

where not prxmatch("/\(\d\d\d\) ?

\d\d\d-\d{4}/",phone);

run;

Eg3:提取匹配某种模式的字符串

data extract;

if _n_ = 1 then do;

pattern = prxparse("/\(\d\d\d\) ?

\d\d\d-\d{4}/");

if missing(pattern) then do;

put "error in compiling regular expression";

stop;

end;

end;

retain pattern;

length number $ 15;

input string $char80.;

call prxsubstr(pattern,string,start,length);

if start gt 0 then do;

number = substr (string,start,length);

number = compress(number," ");

output;

end;

keep number;

datalines;

this line does not have any phone numbers on it

this line does: (123)345-4567 la di la di la

also valid (123) 999-9999

two numbers here (333)444-5555 and (800)123-4567

;

run;

eg4:提取名字

data ReversedNames;

input name & $32.;

datalines;

Jones, Fred

Kavich, Kate

Turley, Ron

Dulix, Yolanda

;

data FirstLastNames;

length first last $ 16;

keep first last;

retain re;

if _N_ = 1 then

re = prxparse(‘/(\w+), (\w+)/‘);

set ReversedNames;

if prxmatch(re, name) then

do;

last = prxposn(re, 1, name);

first = prxposn(re, 2, name);

end;

run;

注:1,2分别代表正則表達式中的两个组

eg5:提取符合规定的名字

data old;

input name $60.;

datalines;

Judith S Reaveley

Ralph F. Morgan

Jess Ennis

Carol Echols

Kelly Hansen Huff

Judith

Nick

Jones

;

data new;

length first middle last $ 40;

re1 = prxparse(‘/(\S+)\s+([^\s]+\s+)?(\S+)/o‘);

re2 = prxparse(‘/(\S+)(\s+)([^\s]+\s+)(?)(\S+)/o‘);

set old;

id1=prxmatch(re1, name);

id2=prxmatch(re2, name);

if id1 then

do;

first = prxposn(re1, 1, name);

middle = prxposn(re1, 2, name);

last = prxposn(re1, 3, name);

end;

if id2 then test=prxposn(re1, 4, name);

put test=;

run;

Eg6:返回匹配模式的多个位置

data _null_;

expressionid = prxparse(‘/[crb]at/‘);

text = ‘the woods have a bat, cat, and a rat!‘;

start = 1;

stop = length(text);

call prxnext(expressionid, start, stop, text, position, length);

do while (position > 0);

found = substr(text, position, length);

put found= position= length=;

call prxnext(expressionid, start, stop, text, position, length);

end;

run;

注:首次运行call prxnext返回一个position,然后进入循环,在抽取满足条件的子串中。再次运行all
prxnext,此时会返回下一个匹配的position;

Eg7:替换文本

data cat_and_mouse;

input text $char40.;

length new_text $ 80;

if _n_ = 1 then match = prxparse("s/[Cc]at/mouse/");

retain match;

call prxchange(match,-1,text,new_text,len,trunc,num);

if trunc then put "note: new_text was truncated";

datalines;

the Cat in the hat

there are two cat cats in this line

here is no replacement

;

run;

版权声明:本文博客原创文章。博客,未经同意,不得转载。

时间: 2024-10-24 03:44:02

《SAS编程和数据挖掘商业案例》学习笔记# 19的相关文章

《SAS编程与数据挖掘商业案例》学习笔记之十九

继续<SAS编程与数据挖掘商业案例>学习笔记,本文侧重数据处理实践,包括:HASH对象.自定义format.以及功能强大的正则表达式 一:HASH对象 Hash对象又称散列表,是根据关键码值而直接进行访问的数据结构,是根据关键码值而直接进行访问的数据结构, sas提供了两个类来处理哈希表,用于存储数据的hash和用于遍历的hiter,hash类提供了查找.添加.修改.删除等方法,hiter提供了用于定位和遍历的first.next等方法. 优点:键值的查找是在内存中进行的,有利于提高性能: h

《SAS编程与数据挖掘商业案例》学习笔记之十六

<SAS编程与数据挖掘商业案例>学习笔记,本次重点:sas宏变量 内容包含:宏变量.宏函数.宏參数.通配函数.字符函数.计算函数.引用函数.宏语句.宏应用 1.宏触发器: %name-token:是一个宏语句或宏函数 &name-token:是一个宏变量引用 宏变量不依赖于sas数据集,能够在不论什么一个除数据行以外的地方定义和引用宏变量,一般定义的宏变量为局部变量,除非使用%global,定义宏变量用%let,显示宏变量用%put,调用宏变量用&. eg: %let a=xx

《SAS编程与数据挖掘商业案例》学习笔记之十五

继续<SAS编程与数据挖掘商业案例>读书笔记,本次重点:输出控制 主要内容包括:log窗口输出控制.output窗口输出控制.ods输出控制 1.log窗口输出控制 将日志输出到外部文件 proc printto log= "f:\data_model\book_data\chapt9\newlog.txt"; new; proc print data=sashelp.class; proc printto;run; 2.output窗口输出控制 输出sas数据集到外部文件

《SAS编程与数据挖掘商业案例》学习笔记之十八

接着以前的<SAS编程与数据挖掘商业案例>,之前全是sas的基础知识,现在开始进入数据挖掘方面笔记,本文主要介绍数据挖掘基本流程以及应用方向,并以logistic回归为例说明. 一:数据挖掘综述 衡量一个数据挖掘模型价值的唯一标准就是商业目标,为达到一个商业目标,有很多种方法,只有高效解决商业目标的方法才是最牛的方法,即使是看似简单的方法,只要能高效解决商业目标,我们就认为是牛的方法: 面对海量的数据,即使是使用了最先进的工具,最复杂的算法,但是如果挖掘出来的知识是无用的,或者挖掘的结果是无法

《SAS编程与数据挖掘商业案例》学习笔记之十

继续之前的读书笔记,本次讲解sas主要的变量操作,包括基本赋值语句.累加语句.keep语句.retain语句.array语句.rename语句.length语句. 1.基本赋值语句 z=x y; z=sum(x,y);  sum函数的好处是可以克服缺失值的影响: 2.如果表达式中既有数值型变量又有字符型变量的话,则会将字符型变量转化为数值型变量 3.系统在编译阶段,对于赋值语句变量,如果是字符型变量则长度为1,如果是数值型变量则长度为8,接下来,系统将执行赋值语句,这时变量长度将由第一次读入的表

《SAS编程与数据挖掘商业案例》学习笔记之十七

继续读书笔记,本次重点sas sql语句,由于sql内容多且复杂,本文只介绍商业应用中常用的并且容易出错的地方,内容包括:单表操作.多表关联.子查询以及merge和join的区别 1.单表操作 eg1: Proc sql outobs=10: *可选项,功能类似于data步中的obs数据集选项 create table class as Select  name, case when sex eq 'M' then "1" when sex eq 'F'  then "2&q

《SAS编程与数据挖掘商业案例》学习笔记之十一

继续读书笔记,本文重点側重sas观測值的操作方面, 主要包含:输出观測值.更新观測值.删除观測值.停止输出观測值等 1.output语句   输出当前在pdv中的观測值,继续无条件运行以下的语句. 注意:简单的data步不须要output语句.run语句会自己主动输出pdv中的数据到数据集,并返回data步开头继续运行下一条观測. 在有output语句和run语句同一时候存在时.pdv仅仅会运行output的结果到正在被创建的数据集.而运行run语句的结果是pdv会清空全部的变量值为缺失值 da

《SAS编程与数据挖掘商业案例》学习笔记之十三

本次重点:data步循环与控制 涉及:if/then/else语句,select语句,do语句,continue语句,leave语句 1.if then else 语句 高效率的if应用: 1) If  x=1 then y=1; Else if x=2  then y=2; Else y=3; 对于每一个数据集的观测,if-then-else只会判断一次,为真则执行 2) If status=1 then If status=5 then If status=9 then output; 高效

《SAS编程与数据挖掘商业案例》学习笔记之八

十:file语句 file中的option选项: Dlm=              指定列表输出文件的分隔符,默认是空格 Dropover      规定当输出数据行长度超过指定值时,忽略超出部分 Flowover    规定当输出数据行长度超过指定值时,超过部分在下一行输出 Dsd   规定一个数据项可以包含分隔符,但是要用引号括住  默认分隔符是逗号 Encoding=  指定输出外部文件所用编码 Filename=   定义一个临时变量,用于接收put语句打开的文件名,默认长度为8 Fi