WEB开发网
开发学院软件开发汇编语言 masm中宏指令的bug 阅读

masm中宏指令的bug

 2007-11-13 09:31:42 来源:WEB开发网   
核心提示:我打个比喻 当使用GetCaretPos获得当前的光标位置后,假设它为负数,masm中宏指令的bug,我需要知道它是否小于0,结果: .if p.y<0 ... ... ;1 .elseif p.y>eax ... ... ;2 .endif 结果你猜怎么样?;1段永远不会执行,可以把它临时当成有符号数以便

我打个比喻
当使用GetCaretPos获得当前的光标位置后,假设它为负数,我需要知道它是否小于0,结果:
.if p.y<0
... ... ;1
.elseif p.y>eax
... ... ;2
.endif

结果你猜怎么样?;1段永远不会执行,因为编译器编译时把.if p.y<=0编译成了:
cmp p.y,0
jb xxx
结果可想而知,p.y是负数,按照无符号数来对待就成了正数了,比如-100,成了65435,自然出错。这是masm的一个bug.

所以,提醒大家,在碰到有符号数的判断时,尽量使用负数比较,或者自己写判断代码,如负数比较:
.if p.y<=-1 等价于 .if p.y<0
上述代码编译器会自动选择jge/jle/jl/jg系列指令。

自己判断:
cmp eax,0
jle xxx
... ...
jmp @F
xxx:
cmp p.y,eax
jle @F
... ...
@@:
同时,其它宏指令如.while也有这个出错的bug。

记得有符号数处理时要注意就行了,否则会出现莫名其妙的错误,却找不到哪里出错。

纠正:
这不能算是一个bug,一位论坛的网友提醒了我,其实,在做这种比较时,可以把它临时当成有符号数以便让masm选择,如:
.if SDWORD ptr p.y<0
... ...
就可以了。类似的可以转换成SWORD SBYTE,前面的s表示有符号。

Tags:masm 中宏 指令

编辑录入:爽爽 [复制链接] [打 印]
赞助商链接