|
тип float
|
|||
---|---|---|---|
#18+
всем доброго времени суток. вопрос в следующем. вот хочу объявить переменную типа float и сразу присвоить ей значение. делаю так: Код: plaintext 1.
но трактуется она почему-то 0.100000001 А почему так выходит и можно ли сделать чтобы трактовалось как мне надо, а именно 0.100000000 ? ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 22:20 |
|
тип float
|
|||
---|---|---|---|
#18+
andron81, Баян жуткий! https://www.sql.ru/forum/758492/faq-tipy-dannyh-float-i-double-neochevidnye-osobennosti-veshhestvennyh-chisel и далее по ссылкам. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 22:34 |
|
тип float
|
|||
---|---|---|---|
#18+
miksoft andron81, Баян жуткий! https://www.sql.ru/forum/758492/faq-tipy-dannyh-float-i-double-neochevidnye-osobennosti-veshhestvennyh-chisel и далее по ссылкам. конечно жуткий. я понимаю вопрос достойный чайника. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 22:39 |
|
тип float
|
|||
---|---|---|---|
#18+
miksoft, короче double . а float тогда чо ж не отменят раз в нем такой косяк ? он хоть и не ест так память, но выходит им пользоваться вообще нельзя. объясните чайнику :) ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 22:52 |
|
тип float
|
|||
---|---|---|---|
#18+
andron81 короче double У double только погрешность меньше, но все равно 0.1 он хранить точно не сможет. andron81 а float тогда чо ж не отменят раз в нем такой косяк ? выходит им пользоваться вообще нельзя. Для многих физических величин вполне подходит. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 22:57 |
|
тип float
|
|||
---|---|---|---|
#18+
miksoft andron81 короче double У double только погрешность меньше, но все равно 0.1 он хранить точно не сможет. andron81 а float тогда чо ж не отменят раз в нем такой косяк ? выходит им пользоваться вообще нельзя. Для многих физических величин вполне подходит. ну да. согласен и с double косяк. ... |
|||
:
Нравится:
Не нравится:
|
|||
30.04.2020, 23:13 |
|
тип float
|
|||
---|---|---|---|
#18+
andron81 miksoft, короче double . а float тогда чо ж не отменят раз в нем такой косяк ? он хоть и не ест так память, но выходит им пользоваться вообще нельзя. объясните чайнику :) А ты попробуй записать (на листе А4) в виде десятичной дроби значение "одна треть" (1/3). Сразу "косяк" в десятичной дроби увидишь. Вопрос: что надо "отменять" - десятичные дроби, бумагу формата А4 или число 1/3? ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 04:24 |
|
тип float
|
|||
---|---|---|---|
#18+
ъъъъъ, Спасибо чел. Это самый лучший ответ. Я уже подустал этот float/double обсуждать. И faq мы не создали. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 08:52 |
|
тип float
|
|||
---|---|---|---|
#18+
ъъъъъ andron81 miksoft, короче double . а float тогда чо ж не отменят раз в нем такой косяк ? он хоть и не ест так память, но выходит им пользоваться вообще нельзя. объясните чайнику :) А ты попробуй записать (на листе А4) в виде десятичной дроби значение "одна треть" (1/3). Сразу "косяк" в десятичной дроби увидишь. Вопрос: что надо "отменять" - десятичные дроби, бумагу формата А4 или число 1/3? вообще не пойму причем тут 1/3 . 1/3 в десятичную не переведешь дробь и тут вопросов нет. или переведешь но вот так 0.3333333... или вот так 0.(3). тут понятно. Но речь то о 0.1 . 0.1 = 1/10. отменять школьную арифметику я не предлагал. против неё не попрешь. я не понимал зачем нужен float раз такой косяк даёт. но оказалось и double "грешит". значит дело в моем непонимании. почему 0.1f трактуется как 0.100000001, а не как 0.100000000 вопрос так и остается открытым ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 13:58 |
|
тип float
|
|||
---|---|---|---|
#18+
andron81 вопрос так и остается открытым Разложите 1/10 в двоичной системе исчисления. Которая, внезапно, используется в компьютерах не по чьей-то прихоти, а из-за физических особенностей логических электронных схем. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 14:14 |
|
тип float
|
|||
---|---|---|---|
#18+
Float не умеет точно отображать дробно-десятичные цифры. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 14:16 |
|
тип float
|
|||
---|---|---|---|
#18+
mayton Float не умеет точно отображать дробно-десятичные цифры. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 14:18 |
|
тип float
|
|||
---|---|---|---|
#18+
Давай заверши мысль. И я закрою этот топик. ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 14:21 |
|
тип float
|
|||
---|---|---|---|
#18+
Basil A. Sidorov Разложите 1/10 в двоичной системе исчисления. за это спасибо . Basil A. Sidorov Которая, внезапно, используется в компьютерах не по чьей-то прихоти, а из-за физических особенностей логических электронных схем. без иронии жить скучно , да ? )))) ... |
|||
:
Нравится:
Не нравится:
|
|||
01.05.2020, 14:29 |
|
|
start [/forum/topic.php?fid=57&msg=39953440&tid=2017441]: |
0ms |
get settings: |
10ms |
get forum list: |
12ms |
check forum access: |
4ms |
check topic access: |
4ms |
track hit: |
39ms |
get topic data: |
10ms |
get forum data: |
3ms |
get page messages: |
48ms |
get tp. blocked users: |
1ms |
others: | 279ms |
total: | 410ms |
0 / 0 |