栈溢出动态定位器LSO1.0
2010-09-30 16:54:05 来源:WEB开发网程序发生溢出,并不总是能得到一个异常的提示框,如何判断程序内部堆栈是不是出现异常?
一个 N层嵌套的函数中,最内层指令可能通过传入的参数导致最外层函数堆栈的溢出如何有效监视多重嵌套函数堆栈的溢出?
栈桢内的数据,不仅包含局部变量,也可能包含了函数指针,如何判定是否被覆盖?
多线程程序中,如果线程间关联较大,那么通过OD等工具手动完成栈溢出的定位效率可能会很低,如何同时监视多个线程的堆栈异常?
网上找不到一款称手的工具,于是决定自己写一个,目前的版本选择了一个比较容易实现的方案:实时备份函数调用时压入堆栈的返回值,监视返回值的改变。
以下贴出简化的进程调试部分框架代码,希望能抛砖印玉,得到大牛们的指点,提出更完善的堆栈溢出定位方案。
附件程序中提供了两个溢出程序的示例(附源码)用于测试,示例1为多线程程序,其中线程2会导致堆栈溢出,示例2为多层嵌套函数调用,嵌套的第5层函数代码会导致第1层函数堆栈溢出。
DWORD WINAPI DebugProcess(char *szFileName)
{
GetStartupInfo(&Info);
if(!CreateProcess(NULL,szFileName,NULL,NULL,FALSE,DEBUG_PROCESS
| DEBUG_ONLY_THIS_PROCESS,NULL,NULL,&Info,&ProInfo))
{
PostMsg(USER_CREATEPROCESS_ERROR);
goto Exit;
}
Initial();
do
{
WaitForDebugEvent(&DebugEvent,INFINITE);
switch(DebugEvent.dwDebugEventCode)
{
case CREATE_PROCESS_DEBUG_EVENT:
//设置指定的断点
SetBreakPointByTable(ProInfo.hProcess);
break;
case CREATE_THREAD_DEBUG_EVENT:
//记录增加的线程
AddThreadInfo(&DebugEvent,gTI);
//传递自定义消息以更新界面显示
PostMsg(USER_CREATE_THREAD);
break;
case EXIT_THREAD_DEBUG_EVENT:
//删除记忆的线程
DelThreadInfoByID(gTI,DebugEvent.dwThreadId);
//传递线程建立消息
PostMsg(USER_CREATE_THREAD);
break;
case LOAD_DLL_DEBUG_EVENT:
//记录加载的DLL文件名
GetDllFileName(&DebugEvent,
gstrDllFileName,MAX_PATHNAME_LEN);
//加载DLL消息
PostMsg(USER_LOAD_DLL);
break;
case EXCEPTION_DEBUG_EVENT:
////////////////////////断点异常处理//////////////////////////
if (DebugEvent.u.Exception.ExceptionRecord.ExceptionCode
== EXCEPTION_BREAKPOINT)
{
//异常地址
pvExceptionAddress = DebugEvent.u.
Exception.ExceptionRecord.ExceptionAddress;
//异常地址过滤
if(IsAddrInRangeSeleted(pvExceptionAddress))
break;
//恢复原指令
RestoreCmdFromImg(ProInfo.hProcess,pvExceptionAddress);
//设置指令回溯
SetCmdBackTrack(&DebugEvent);
//设置单步
SetCmdSingleStep(&DebugEvent);
//得到反汇编指令
dwCmdSize = GetDisasm(Cmd, MAXCMDSIZE, \
(DWORD)pvExceptionAddress, &Da, DISASM_CODE);
//如果是CALL指令
if (Da.cmdtype == C_CAL)
{
//记录入栈的返回值
LogRetValueInStack(&DebugEvent);
//更新显示调用列表消息
PostMsg(USER_UPDATE_CALLLIST);
}
//如果到达RET指令
if(Da.cmdtype == C_RET)
{
//如返回值被改变
if(RetValueChanged(&DebugEvent))
{
//记录堆栈溢出相关信息
LogOverFlowInfo(&DebugEvent);
//传递堆栈溢出消息
PostMsg(USER_STACK_OVERFLOW);
}
}
}
///////////////////////////单步异常处理///////////////////////////////
if(DebugEvent.u.Exception.ExceptionRecord.ExceptionCode
== EXCEPTION_SINGLE_STEP)
{
//如果是从int3进入
if(IsInt3)
//恢复断点
RestoreBreakPoint(ProInfo.hProcess);
//校验记录过的堆栈返回值
CheckStackLog();
}
///////////////////////////违规访问处理/////////////////////////////////
if (DebugEvent.u.Exception.ExceptionRecord.ExceptionCode
== EXCEPTION_ACCESS_VIOLATION)
{
//记录违规及堆栈异常信息
LogException(ProInfo.hProcess,&DebugEvent);
//传递访问违规消息
PostMsg(USER_ACCESS_VIOLATION);
goto Exit;
}
break;
}
ContinueDebugEvent(DebugEvent.dwProcessId, \
DebugEvent.dwThreadId,dwContinueStatus);
}while(DebugEvent.dwDebugEventCode != EXIT_PROCESS_DEBUG_EVENT);
更多精彩
赞助商链接