Новые сообщения [новые:0]
Дайджест
Горячие темы
Избранное [новые:0]
Форумы
Пользователи
Статистика
Статистика нагрузки
Мод. лог
Поиск
|
|
28.06.2004, 17:46
|
|||
|---|---|---|---|
|
|||
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
float ggg=StrToFloat("29,10"); ->дает ggg=29,10000318 Как с этим бороться, ведь должно получиться 29,100000000 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
28.06.2004, 23:11
|
|||
|---|---|---|---|
|
|||
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
sfsffloat ggg=StrToFloat("29,10"); ->дает ggg=29,10000318 Как с этим бороться, ведь должно получиться 29,100000000 Бороться придётся с дискретной областью значений типа данных. Это, сам понимаешь, затея бессмысленная. Смирись. Ну, в крайнем случае, попробуй double - там разрядность мантиссы больше. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
29.06.2004, 11:32
|
|||
|---|---|---|---|
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
Ну еще можеш попробывать округлять... _________________________________________________ Легче написать не правильную программу чем понять правильную (С) Alan Perlis ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
29.06.2004, 15:37
|
|||
|---|---|---|---|
|
|||
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
Есть функция RoundTo() Но она не работает ???? Как float округлить, например до 4 знаков после запятой ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
30.06.2004, 10:10
|
|||
|---|---|---|---|
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
С той же проблемой бьёмся. Копался во float ничё не понял... Округлять лучше в строке... Правда потом всё-равно во флоат переностить... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
30.06.2004, 11:20
|
|||
|---|---|---|---|
|
|||
float ggg=StrToFloat("29,10"); ->дает ggg=29,00000318 |
|||
|
#18+
sfsffloat ggg=StrToFloat("29,10"); ->дает ggg=29,10000318 Как с этим бороться, ведь должно получиться 29,100000000 А что собственно Вам не нравится? 0,00000318 укладывается в требования к точности по IEEE. Пытаться как-либо округлить у вас не получится, т.к. при любой операции над числами с плавающей точкой производится нормализация операндов . Именно эта операция и дает погрешности. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
|
|
|
start [/forum/topic.php?fid=57&tablet=1&tid=2034717]: |
0ms |
get settings: |
8ms |
get forum list: |
12ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
53ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
44ms |
get tp. blocked users: |
1ms |
| others: | 212ms |
| total: | 345ms |
| 0 / 0 |
