VMWare WinDBG Kernel Debugging 설정

안녕하세요. moltak 입니다.

오늘은 드라이버 개발을 한다면 꼭 알아야 할 VMWare WinDBG 설정 방법을 포스팅 하겠습니다.

 

준비물: VMWare(6.5이상), WinDBG(6.0 이상), 꼭 해내겠다는 마음가짐.

 

세 개의 준비물만 갖추셨다면 완벽합니다.

세팅 순서는 VMWare->WinDBG 순서로 진행하겠습니다.

 

1. VMWare에 WindowsXP를 설치해 주세요. (다들 이미 너무 잘 아시는 내용)

2. 처음 WindowsXP를 VMWare에 설치하시고 가상 머신 세팅에 들어갑니다. (그림 참조)

3. 아래 Add 버튼을 누르셔서 Serial Port를 선택하세요.

4. Output to named pipe를 선택하세요. (그림 참조)

 

 

5. 아래 그림과 같이 세팅합니다. (Named pipe는 굉장히 중요하니 꼭 기억해 두세요.)

6. Yield CPU on poll 체크를 꼭 해주세요.

 

 

7. 아래 그림과 같이 세팅 되었을 겁니다.

 

 

8. 이제 VMWare안에 깔려있는 WindowsXP로 부팅합니다. 시스템 등록 정보-> 고급-> 시작 및 복구로 들어갑니다. 그리고 편집을 클릭합니다.

 

 

9. multi(0)disk(0)rdisk(0)partition(1)\WINDOWS="Microsoft Windows XP Professional" 뒤에 /fastdetect /debug /debugport=COM1 /baudrate=115200를 추가 합니다.

이상으로 VMWare 세팅은 끝났습니다. 이제 WinDBG 설정을 하겠습니다.

 

 

10. WinDBG의 속성 창을 열어주세요.

빨간색 네모 박스 위치에 대상 뒤에 -b -k com:pipe,port=\\.\pipe\WDK,resets=0 를 붙여 넣어 주세요

 

 

자 이제 WinDBG를 열어 보세요. 근데 아래 그림과 같은 오류가 날 수 있습니다.

 

왜냐하면 VMWare에서 우리가 설정해준 Windows가 구동 중이 아닐 때 위와 같은 오류가 납니다.

이 것을 해결 하려면 Windows가 부팅 중일 때 WinDBG를 실행시키시면 해결할 수 있습니다.

 

 

그림처럼 vmware를 실행하자 마자 windbg 실행!! 그러면 됩니다.ㅋㅋㅋ

자 다들 아셨으니 공부합시다. ㅋㅋ 즐공 즐프요!!

 

 

 

Bloger: moltak.net