当前位置:编程学习 > VB >>

乘法溢出的解决方法

譬如 1DF * 68FD4212 = C471DE9FAE

我只要最后8位(71DE9FAE), 请问除了 and 0xFFFFFFFF 之外还可以怎么做? --------------------编程问答-------------------- 可以用:MOD方法啊

&HC471DE9FAE mod &HC400000000 --------------------编程问答-------------------- 谢谢回复,如果1DF是三位随机数呢?  --------------------编程问答-------------------- 可以考虑用Variant类型来存储数据,不过这样牺牲掉的是运算速度。
此外,还可以考虑用Currency来代替Long之类的数据类型,这是8字节。
有一点需要说明,容量再大的数据类型都会有容不下的数据,所以,要具体问题具体分析。
--------------------编程问答--------------------

Option Explicit

Private Sub Command1_Click()
    Dim varOne As Variant
    Dim varTwo As Variant
    Dim varThree As Variant
On Error Resume Next
    varOne = &H1DF
    varTwo = &H68FD4212
    varThree = varOne * varTwo
End Sub

补充:VB ,  非技术类
CopyRight © 2022 站长资源库 编程知识问答 zzzyk.com All Rights Reserved
部分文章来自网络,