Этот баннер — требование Роскомнадзора для исполнения 152 ФЗ.
«На сайте осуществляется обработка файлов cookie, необходимых для работы сайта, а также для анализа использования сайта и улучшения предоставляемых сервисов с использованием метрической программы Яндекс.Метрика. Продолжая использовать сайт, вы даёте согласие с использованием данных технологий».
Политика конфиденциальности
|
|
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Добрый день ! Подскажите пожалуйста в чем может быть проблема, есть функция она возвращает результат с округлением одним а процедура с другим, данные при этом берутся с одного и того же места, условия идентичны. Но по факту например: функция процедура 8606,825 8606,82499999999 8649,89499999999 8649,89500000001 24184,2449999999 24184,245 15802,005 15802,005 тобиш иногда совпадают иногда нет думаю что связано это с типом float , но как добиться чтобы данные были идентичны (при чем надо именно процедуру подогнать под функцию). потомучто если округлять до 2 знаков после запятой то в зависимости о того какое значение флоат оно округляет иногда в большую иногда в меньшую сторону и так как значения разные то и копейка гуляет туда сюда. Есть какие либо соображения? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:02 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyесть функция она возвращает результат с округлением одним а процедура с другим Вы действительно спрашиваете, почему разный код дает разный результат? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:04 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Гавриленко Сергей Алексеевич, код идентичный, что в процедуре что в табличной функции ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:09 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, код идентичный, что в процедуре что в табличной функцииЭто вам только так кажется. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:10 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Гавриленко Сергей Алексеевич, и в чем же разница ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:13 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, и в чем же разница в коде ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:14 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, и в чем же разницаВ вашем коде. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:14 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Гавриленко Сергей Алексеевич, Вернее есть какие либо механизмы победить несовпадение ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:14 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, Вернее есть какие либо механизмы победить несовпадениеИсправить неправильный код. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:14 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, Вернее есть какие либо механизмы победить несовпадение показать код ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:14 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
процедура полная Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41. 42. 43. 44. 45. 46. 47. 48. 49. 50. 51. 52. 53. 54. 55. 56. 57. 58. 59. Модератор: Вложение удалено. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:21 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
функция урезанная только расчет Код: sql 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36. 37. 38. 39. 40. 41. 42. 43. 44. 45. 46. 47. 48. 49. 50. 51. 52. 53. 54. 55. 56. 57. 58. 59. 60. 61. 62. 63. 64. 65. 66. 67. 68. 69. 70. 71. 72. 73. 74. Модератор: Вложение удалено. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:22 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyесть функция она возвращает результат с округлением одним а процедура с другим, данные при этом берутся с одного и того же места, условия идентичны Нет, условия разные в плане отображения. Ты в курсе, что у float всего 7 значащих цифр? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:26 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Dimitry Sibiryakov, ну я в процедуре конфертил в флоат, не помогает ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:28 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Модератор: kolyady, хорош постить свой код -- он уже есть в спойлерах. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:29 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Гавриленко Сергей Алексеевич, ясно, короче не вариант показать ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:29 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, ясно, короче не вариант показатьГлазоньки разуйте и посмотрите ваши сообщения с удаленным вложением. На плюсик нажмите. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:30 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
вобщем есть какиелибо идеи как привести данные в процедуре к таким же как в функции ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:31 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyady, туплю :) сор ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:31 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Результаты каких именно вычислений у вас расходятся? SCURRENT? Так в процедуре туда еще con.initvalue какой-то прибавляется. В целом, если хотите одинаковый результат при операциях с float-значениями -- оперируйте с ними в одинаковом порядке и объеме. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:40 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
Гавриленко Сергей Алексеевич, con.initvalue тут все правильно что в процедуре что в функции, разница в округлениях. в процедуре кастил в float, все значения но результат такой же ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:43 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyГавриленко Сергей Алексеевич, con.initvalue тут все правильно что в процедуре что в функции, разница в округлениях. в процедуре кастил в float, все значения но результат такой же для начала https://docs.microsoft.com/en-us/sql/t-sql/data-types/precision-scale-and-length-transact-sql?view=sql-server-2017 какое из сложений округляет решаёте сами ну и требоватьточность от типапо определению не точного это обычное дело ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:46 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
TaPaK, ну неточного это как посмотреть, и функция и процедура возвращает одно и тоже значение, вопрос в том почему они разные? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 13:58 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyTaPaK, ну неточного это как посмотреть, и функция и процедура возвращает одно и тоже значение, вопрос в том почему они разные? смотреть в определение Approximate-number data types ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 14:00 |
|
||
|
тип значения float функция фозвращает результат отчилчительный от процедуры
|
|||
|---|---|---|---|
|
#18+
kolyadyTaPaK, ну неточного это как посмотреть, и функция и процедура возвращает одно и тоже значение, вопрос в том почему они разные?Они разные, потому что вы суммируете float-значения в разном порядке. В этом случае результат может быть разный. ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 18.10.2018, 14:08 |
|
||
|
|

start [/forum/topic.php?fid=46&msg=39719344&tid=1688902]: |
0ms |
get settings: |
12ms |
get forum list: |
14ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
132ms |
get topic data: |
9ms |
get forum data: |
2ms |
get page messages: |
61ms |
get tp. blocked users: |
1ms |
| others: | 270ms |
| total: | 507ms |

| 0 / 0 |
