注:本文配置 环境为VMware® Workstation11.1.2 build-2780323+Windows xp SP2+Windbg 6.12.0002.63 x86
*在win7以后的操作系统中配置会略有不同,会在最后进行补充
一、虚拟机端配置:
1、打开虚拟机系统,在c盘根目录下找到boot.ini文件( 该文件是系统隐藏文件,修改时需要设置相关属性),打开,在最后加入以下内容(不加引号)
“multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP
Professional with Kernel Debugging" /noexecute=optin /fastdetect
/debug /debugport=COM1 /baudrate=115200”
2、关闭虚拟机操作系统,在虚拟机软件里依次“虚拟机”-“设置”,在“硬件”选项选择“添加”-“串行端口”-“输出到命名管道”,在接下来的窗口中以
此设置为“\\.\pipe\com_1”、“这端是服务器”、“另一端是应用程序”,点“完成”,回到设置窗口。回到这里看你新增加的串行端口后的数
字,如图
我这里显示的是“2”,则需要将旁边的“使用命名的管道”第一个文本框中的内容改为“\\.\pipe\com_2”,然后也需要在虚拟机操作系统的
“boot.ini”文件中,修改1中增加的内容为
“multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft
Windows XP Professional with Kernel Debugging" /noexecute=optin
/fastdetect /debug /debugport=COM2 /baudrate=115200”
(显示的几,后面的数字就填几)
3、配置好的虚拟机再次启动时会有一个debug的开机启动项,选择该项进入调试系统
二、Windbg软件的配置:
打开windbg,选择“File”-"Kernel Debug",在“Baud
Rate”中填入刚才操作系统中设置的值,即115200,“port”中填入“\\.\pipe\com_2”,选中"Pipe",点“OK”,Windbg进入监听状态
配置到此结束,需要说的一点是:内核调试需要虚拟机与windbg配合使用,应先打开虚拟机操作系统,同时启动windbg,如果配置正确的话,等待几分钟,windbg会自动进入连接状态,成功后的显示如下
如果不成功则显示下图
成功后可在最底部的命令行中输入相关命令,进行调试,具体使用不再赘述。
配置完毕!