Visual Basic Visual Basic 6: Como evitar o overflow?

Cambalinho · 27 de maio de 2023

como evitar o overflow no Visual Basic 6?

Function ShiftRight(ByVal lngNumber As Long, ByVal intNumBits As Integer) As Long
    '--------------
    'BIT SHIFT RIGHT >>
    '--------------
    ShiftRight = lngNumber \ 2 ^ intNumBits 'note the integer division op
End Function

Function ShiftLeft(ByVal lngNumber As Long, ByVal intNumBits As Integer) As Long
    '--------------
    'BIT SHIFT LEFT <<
    '--------------
    ShiftLeft = lngNumber * 2 ^ intNumBits
End Function

 '............

Dim mx As Integer
mx = Cnt(ShiftLeft(rx, 6)) 'overflow error

o 'mx' dá me o erro de overflow runtime error '6'. como posso evitar esse erro?

Diego Mendes Rodrigues · 27 de maio de 2023

@Cambalinho , bom dia.

Esse tipo de erro no VBA ocorre quando o resultado de uma atribuição, cálculo ou conversão de tipo de dados é muito grande para ser representado dentro do intervalo de valores permitido para esse tipo de variável, atribua o valor a uma variável de um tipo que possa conter um intervalo maior de valores.

Ou, uma atribuição a uma propriedade excede o valor máximo que a propriedade pode aceitar.

Exemplo:

Veja no exemplo acima que recebemos o Overflow, pois uma variável do tipo Integer pode receber valores de 2 bytes, entre -32.768 e 32.767, enquanto tentamos atribuir 10.000.000 nela.

Talvez esse material te ajude: https://learn.microsoft.com/en-us/office/vba/language/reference/user-interface-help/overflow-error-6

Espero ter ajudado!

Abraço,

Diego

Cambalinho · 27 de maio de 2023

vendo bem eu posso ter 1 erro da calculos para fazer o RayCasting :(

Private Sub RayCasting()
    Dim r As Integer
    Dim mx As Integer
    Dim my As Integer
    Dim mp As Integer
    Dim mapx As Double
    Dim mapy As Double
    Dim dof As Integer
    Dim rx As Double
    Dim ry As Double
    Dim ra As Double
    Dim x0 As Double
    Dim y0 As Double
    
    ra = PlayerAngle
    For r = 0 To 10
        'Debug.Print "raycsting"
        'check Horizontal Lines:
        dof = 0
        Dim atan As Double
        If (Tan(ra) > 0) Then
            atan = -1 / Tan(ra)
        Else
            atan = -1
        End If
        If (ra > PI) Then
            ry = (CInt(ShiftLeft(ShiftRight(PlayerY, 6), 6) - 0.0001))
            rx = (PlayerY - ry) * atan + PlayerX
            y0 = -64
            x0 = -y0 * atan
        End If
        If (ra < PI) Then
            ry = (CLng(ShiftLeft(ShiftRight(PlayerY, 6), 6) + 64))
            rx = (PlayerY - ry) * atan + PlayerX
            y0 = 64
            x0 = -y0 * atan
        End If
        If (ra = 0 Or ra = PI) Then
            rx = PlayerX
            ry = PlayerY
            dof = 8
        End If
        While (dof < 8)
            
            mx = Cnt(ShiftLeft(rx, 6)) 'overflow error
            my = CLng(ShiftLeft(ry, 6))
            mp = mx * mapx + mx
            If (LevelMap(mapy)(mapx) = 1) Then
                dof = 8
            Else
                rx = rx + x0
                ry = ry + y0
                dof = dof + 1
            End If
            
            Me.Line (PlayerX, PlayerY)-(rx, ry), vbRed
        Wend
    Next r
End Sub

Cambalinho · 27 de maio de 2023

@Diego voltei a pensar e só alterei do 'Integer' para 'Long' e já não dá o erro.
no VB6 é melhor usarmos o 'Long' em vez do 'Integer'?

Diego Mendes Rodrigues · 27 de maio de 2023

@Cambalinho ,

Na verdade depende da forma que você vai utilizar a variável.

Para gerar um overflow, devemos definir um valor fora do limite de valores que uma variável suporta, como por exemplo uma variável do tipo Integer que suporta valores entre -32.768 e 32.767, você pode gerar um overflow dessa forma:

Dim inteiro As Integer
inteiro = 32767 'Valor máximo suportado
Debug.Print inteiro
inteiro = inteiro + 1 'Overflow pois 32.767+1=32.768 é maior que 32.767
Debug.Print inteiro

Podemos resolver o overflow anterior declarando uma variável do tipo Long para armazenar o resultado, pois esse tipo de variável suporta valores entre -9.223.372.036.854.775.808 a 9.223.372.036.854.775.807.

Dim longo As Long 'Variável que suporta valores entre -9.223.372.036.854.775.808 e 9.223.372.036.854.775.807
longo = 32767
Debug.Print longo
longo = longo + 1
Debug.Print longo

Avaliando o seu código, você desloca os valores da variável rx em 6 casas decimais para a esquerda, em mx = Cnt(ShiftLeft(rx, 6)).

Caso sua variável valesse 192 (Hexadecimal 0000 0000 1100 0000) e você deslocasse 6 casas para a esquerda, ela iria valer 2304 (Hexadecimal 0000 0011 0000 0000).

Nesse caso não temos overflow.