Hello.
Hur räknar man ut detta, vad är det för datatyp ??

0,01 = 7B 14 AE 47 E1 7A 84 3F
0,02 = 7B 14 AE 47 E1 7A 94 3F
0,03 = B8 1E 85 EB 51 B8 9E 3F
0,04 = 7B 14 AE 47 E1 7A A4 3F
0,05 = 9A 99 99 99 99 99 A9 3F
0,06 = B8 1E 85 EB 51 B8 AE 3F
0,07 = EC 51 B8 1E 85 EB B1 3F
0,08 = 7B 14 AE 47 E1 7A B4 3F

1,00 = 00 00 00 00 00 00 F0 3F
1,01 = 29 5C 8F C2 F5 28 F0 3F
1,02 = 52 B8 1E 85 EB 51 F0 3F
1,03 = 7B 14 AE 47 E1 7A F0 3F

2,00 = 00 00 00 00 00 00 00 40
4,00 = 00 00 00 00 00 00 10 40
8,00 = 00 00 00 00 00 00 20 40
16,00 = 00 00 00 00 00 00 30 40

Mvh
Mattias Gustavsson

googla på exponent , mantissa och flyttals beräkningar.

//Roger

Man ser att det är Double pga 8 Byte 64 bitar. Kan ev vara Currency också 8 byte
Sen är det lite smålurigt får tänka till lite för att ge ett pedagogiskt svar.

här har du lite kod som grejjar detta:

<code>
Private Type doublewrapper
value As Double
End Type

Private Type bytewrapper
data(7) As Byte
End Type


Private Sub Form_Load()
Dim bw As bytewrapper

' 7B 14 AE 47 E1 7A 84 3F

bw.data(0) = &H7B
bw.data(1) = &H14
bw.data(2) = &HAE
bw.data(3) = &H47
bw.data(4) = &HE1
bw.data(5) = &H7A
bw.data(6) = &H84
bw.data(7) = &H3F

Dim dw As doublewrapper

LSet dw = bw 'hårdkopiera data från bw till dw

MsgBox dw.value

End Sub

</code>


//Roger

Fungerar klockrent, men hur fungerar matematiken ??
Alltid kul att veta hur man gör .....

/Mattias

http://www.nuvisionmiami.com/books/asm/workbook/floating_tut.htm

Perfekt, tack så mycket.
Nu leker livet igen och jag behöver inte vakna mitt i natten och rabbla siffror.

/Mattias