|
|
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Добрый день, для сокращения количества знаков, после запятой пользуюсь таким способом: Код: pascal 1. Подскажите пожалуйста, почему приведенный ниже код, в не измененном состоянии, показывает сообщение: " Точка не образует угол ", но после раскомментирования строк " //degree1,//degree2 ", показывает уже другое? Ведь все значения " degree " в обоих случаях одинаковы. Код: pascal 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41. 42. 43. 44. 45. 46. 47. 48. 49. 50. 51. 52. 53. 54. 55. 56. 57. 58. 59. 60. 61. 62. 63. 64. Про функцию "FormatFloat('0.####', float)" знаю, просто в условиях "if (...) then" у меня много значений и код получается очень большим. В другом коде была ошибка приведенная ниже, где с этим способом все работает нормально. Код: pascal 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.06.2020, 11:59 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Никогда нельзя сравнивать вещественные числа на равенство. http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.06.2020, 12:29 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
я обычно беру разность значений и если она по модуля меньше какого-то числа, скажем 1Е-7, то считаю числа равными т.е Код: pascal 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. это еще хорошо если числа все из дельфи берутся, а если одно из Excel, второе из базы какой-нибудь, дельфи их забирает и внутри у себя сравнивает, тогда вообще капец ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.06.2020, 20:56 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Недавно обсуждалось. Есть функции сравнения (для каждого типа - со своим эпсилоном, или можно передать) - SameValue и другие в модуле Math. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 06.06.2020, 21:13 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Anton_1234 Код: pascal 1. 2. 3. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.06.2020, 13:09 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Спасибо за подсказки. В моем случае, иногда нужно переводить код на другой язык, поэтому решил пока остановиться на этом варианте. Код: pascal 1. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.06.2020, 13:17 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Ученик_333решил пока остановиться на этом варианте. Лучше бы ты векторной алгеброй воспользовался. Там можно считать без потери точности. Posted via ActualForum NNTP Server 1.5 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.06.2020, 13:23 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Dimitry Sibiryakov Лучше бы ты векторной алгеброй воспользовался. Там можно считать без потери точности. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 07.06.2020, 13:33 |
|
||
|
Количество знаков после запятой. Разные результаты при одинаковых значениях.
|
|||
|---|---|---|---|
|
#18+
Сокращать знаки надо только при выводе в виде текста. Проще всего, наверное, RoundTo(X,-2), если нужно 2 знака оставить. В остальных случаях принять желаемую точность машинного нуля. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 09.06.2020, 09:10 |
|
||
|
|

start [/forum/topic.php?fid=58&msg=39966784&tid=2038239]: |
0ms |
get settings: |
4ms |
get forum list: |
13ms |
check forum access: |
2ms |
check topic access: |
2ms |
track hit: |
29ms |
get topic data: |
8ms |
get forum data: |
2ms |
get page messages: |
43ms |
get tp. blocked users: |
1ms |
| others: | 227ms |
| total: | 331ms |

| 0 / 0 |
