VirtualBox下Ubuntu8.10的KGDB内核调试

老爷子88

Linux内核调试环境的搭建一直以来都是困扰Linux内核新手的一个问题，最近自己也开始做Linux下安全相关的开发，有时也碰到需要调试Linux内核和驱动的情况，着手搭建调试环境时碰到了许多难题，网上关于Linux内核调试的环境一般是给予VMware的，可惜我在前面说过，我的Ubuntu8.10AMD64bit装不上VMware6.0或6.5，装上了也用不了，我只好使用VirtualBox作为代替。
由于自己的机器的CPU是AMD64bit的，物理机装Ubuntu的时候选择了Ubuntu 8.10 desktop x86_64版，然而自己的CPU比较老，不支持虚拟模式，因此在VirtualBox里装不了x86_64的Ubuntu，只能装32位的Ubuntu,然而内核调试需要开发机和目标机有相同的内核树，最初想可以在自己64位机上编译32位版本的内核，后来想干脆再克隆一个32为的Ubuntu虚拟机作为开发机算了，免得麻烦。当然，主机OS和目标机OS版本一致时可以不用再虚拟开发机，而直接使用主机作为开发机。下面简单地描述一下内核调试环境的搭建过程：
1.首先安装VirtualBox并在VirtualBox中安装Ubuntu8.10的虚拟机，这个可以参看之前写的《Ubuntu 8.10下VirtualBox安装Ubuntu虚拟机》。

2.在虚拟机中编译debug版的内核，这个版本的内核内置地集成了kgdb，不需要再做patch，这是和2.6.15版本前kgdb设置的一个区别，网上有很多人提到了。编译内核并添加启动项的步骤可以参考之前写的《Ubuntu8.10升级内核》，唯一不同的是，make时不能再用oldconfig，而要用menuconfig或gconfig（xconfig没有试过,不知道行不行），在gconfig或menuconfig时，需要安装另外的支持库，如下：
1）make menuconfig
sudo apt-get install libncurses5-dev
2） make gconfig
apt-get install libglade2-dev
在Ubuntu上编译kgdb内核(使用gconfig)的命令可以简单地如下描述（可以先用su换到root帐户），
1）apt-get install build-essential kernel-package libglade2-dev
2）make mrproper && make gconfig
3）gconfig时弹出一个配置选择的界面，实际上可以不作任何修改，直接保存就行


4）make bzImage && make modules && make modules_install && make install && mkinitramfs -o /boot/initrd.img-2.6.27.18 2.6.27.18
第4步会将内核编译过程中的命令一个接一个地完成。好了，你可以找个地方休息一下了，一般来说编译过程需要2个小时左右并因机器的好坏而不同，在虚拟机里会稍微慢一些，一般选在晚上编译比较好。

3.编译好内核之后，可以再来克隆一台上面的机器。VMware中有克隆的菜单选项，VirtualBox却没有，然而克隆的实质就是复制了一份虚拟磁盘文件，你可以直接拷贝一份VMware的虚拟磁盘文件到其他地方打开并运行，然而VirtualBox却不允许你这么做，不过你可以使用VBoxManager clonevdi来克隆VirtualBox的虚拟硬盘镜像。
cd ~/.VirtualBox/VDI/
默认地这里存放着VirtualBox的硬盘镜像文件，你可以再克隆一个镜像：
VBoxManage clonevdi Ubuntu8.10TargetOS.vdi Ubuntu8.10DevOS.vdi
然后新建一个虚拟机，在创建硬盘时可以注册这个克隆的硬盘，这样开发机就是目标机的克隆体了。

4.接下来进行串口配置。关于VirutalBox的串口配置，可以参看之前的《Ubuntu下VirtualBox虚拟机串口设置》。这里要补充说明一下的是，这里两台虚拟机都将自身的com 1口连到主机的一个命名管道/tmp/vbox，两者的com 1口就连接到一起了,另外，两台虚拟机有且只有一台能够选择创建通道，并且只能是创建通道的一方先启动，因此推荐让开发机创建通道而目标机只使用/tmp/vbox命名通道，这样每次目标机重启调试时，开发机不用重启。

5.配置目标机的启动项。在目标机里
sudo gedit /boot/grub/menu.lst ;建议备份
原menu.lst如下：
title  Ubuntu 8.10, kernel 2.6.27-7-generic
uuid  d77795b1-d4b4-466c-8989-d828d7eba4c5
kernel  /boot/vmlinuz-2.6.27-7-generic root=UUID=d77795b1-d4b4-466c-8989-d828d7eba4c5 ro locale=zh_CN quiet splash
initrd  /boot/initrd.img-2.6.27-7-generic
quiet
...
在后面添加一个启动项后
title  Ubuntu 8.10, kernel 2.6.27-7-generic
uuid  d77795b1-d4b4-466c-8989-d828d7eba4c5
kernel  /boot/vmlinuz-2.6.27-7-generic root=UUID=d77795b1-d4b4-466c-8989-d828d7eba4c5 ro locale=zh_CN quiet splash
initrd  /boot/initrd.img-2.6.27-7-generic
quiet

title  Ubuntu 8.10, kernel 2.6.27.18-with kgdb
uuid  d77795b1-d4b4-466c-8989-d828d7eba4c5
kernel  /boot/vmlinuz-2.6.27.18 root=UUID=d77795b1-d4b4-466c-8989-d828d7eba4c5 ro kgdboc=ttyS0,115200 kgdbwait
initrd  /boot/initrd.img-2.6.27-7-generic
...

6.先启动开发机。然后启动目标机，开机时按Esc建选择有kgdb的内核启动，等待一下后启动过程会暂停并提示等待远程gdb调试，如图，


这时切换到开发机并进入到源码目录下，运行
gdb ./vmlinux，gdb
启动后，在gdb中设置波特率和调试终端
(gdb)set remotebaud 115200
(gdb)targ
et remote /dev/ttyS0
这样就可以调试内核了,如图