关于createMutex的神奇bug

前言

最近遇到一个神奇的bug:调用CreateMutex返回句柄值为空,但GetLastError值为0

解决思路

首先,该问题并没有定位到原因,最后是换了个mutex名字就解决了。

1、使用Process Explorer查找当前创建Mutex名字

结果是查找记录为空,说明本机中不存在该Mutex句柄

关于createMutex的神奇bug

2、使用windbg调试该exe

2.1 下断点

通过代码知道该互斥体是在checklastinstance函数里面创建的,调用命令bm xx!*checklastinstance下断点,可以通过命令bl查看下了哪些断点。

关于createMutex的神奇bug

2.2 运行

调用命令g,当遇到断点停住的时候,运行F10逐行调试,可以通过调用命令alt 7打开汇编界面,从而知道调用createMutex的参数。

关于createMutex的神奇bug

执行du 00b3e12c查看createMutex的参数三值,即mutex名字(该步骤是确保第一步搜索的mutex名字无误)

关于createMutex的神奇bug

当执行完call function后,通过执行! teb查看该线程的teb,目的是查看lasterror值

关于createMutex的神奇bug

通过查看该peb可知,lasterror值为0,但还是没有定位到为啥会创建的mutex为空,但lasterror值为0的原因。。。。

不过从该bug学到了:

1、如何查找系统中哪些进程用了某个mutex

2、用windbg从peb中获取lasterror值

3、熟悉汇编语言