forum.boolean.name

forum.boolean.name (http://forum.boolean.name/index.php)
-   BlitzMax (http://forum.boolean.name/forumdisplay.php?f=104)
-   -   1.4 на (http://forum.boolean.name/showthread.php?t=8982)

NitE 23.08.2009 20:05

1.4 на
 
Код:

Number#=1
print number
Number#=1.2
print number
Number#=1.6
print number
Number#=1.4
print number

на выходе получаем:
1.000000
1.200000
1.600000
1.390000

что за хрень ?

Illidan 23.08.2009 20:13

Ответ: 1.4 на
 
ненай, видио от проца зависит, у меня еще больше искажения

SBJoker 23.08.2009 22:12

Ответ: 1.4 на
 
скорее всего print несколько неправильно отображает число...

NitE 23.08.2009 22:52

Ответ: 1.4 на
 
код вообще образный, главное что по логике блицмакса 1.4=1.39

SBJoker 24.08.2009 00:05

Ответ: 1.4 на
 
Люди ну блин задрали, каждый месяц кто-то для себя открывает что флоаты нельзя сравнивать, и что их точность крайне мала...

Ищите поиском ответы..надоело перетирать эту тему десятый раз... учите матчасть как устроены типы данных чтоли...

FDsagizi 24.08.2009 08:44

Ответ: 1.4 на
 
Цитата:

Сообщение от NitE (Сообщение 115902)
Код:

Number#=1
print number
Number#=1.2
print number
Number#=1.6
print number
Number#=1.4
print number

на выходе получаем:
1.000000
1.200000
1.600000
1.390000

что за хрень ?

Там будет чтото вроде 1,399999 Т.е. точность сохроняеться, но погрешность не избежна

NitE 24.08.2009 14:20

Ответ: 1.4 на
 
но ё-маё, почему тогда 1.0=1.0,1.1=1.1,1.2=1.2,1.3=1.3,1.4=1.399999,1.5=1 .5
!??!?

impersonalis 24.08.2009 14:44

Ответ: 1.4 на
 
не хочу показаться грубым, но для деталей - rtfm

Illidan 24.08.2009 21:24

Ответ: 1.4 на
 
еслиб Nite не запостил, я б о этом даже не узнал. Логика работает нормально, и такие искажения не критичны.


Часовой пояс GMT +4, время: 07:32.

vBulletin® Version 3.6.5.
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Перевод: zCarot