ReSQL.ru
     
powered by simpleCommunicator - 2.0.61     © 2026 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
7 сообщений из 32, страница 2 из 2
  2  все
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513317
Таблоид
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Таблоид
Участник
Basil A. SidorovГде BigDecimal, а где "прикинуть" ...а причём тут "прикинуть" ? бНОПНЯ в другом . ДС говорит, что "ФБ не для ЦЕРНа", потому и выражений таких, с 15 дробными знаками, нехрен вводить. Зачем тогда вообще double precision ввели ?
...
Рейтинг: 0 / 0
26.12.2013, 16:02:59
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513356
Dimitry Sibiryakov
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Dimitry Sibiryakov
Участник
ТаблоидЗачем тогда вообще double precision ввели ?
Для значений, которые оцениваются. В противовес тем, которые измеряются.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
26.12.2013, 16:28:27
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513375
Таблоид
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Таблоид
Участник
Dimitry SibiryakovТаблоидЗачем тогда вообще double precision ввели ?Для значений, которые оцениваются. В противовес тем, которые измеряются.Ну так я ничего и не мерял. Просто решил умножить одно число на другое. Ошибка была элементарная: забыл добавить каст.

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
SQL> select cast(0.0007968127611093223 * 1157 as double precision) from rdb$database;

                   CAST
=======================
     0.9219123646034859

или так:

SQL> select cast(0.0007968127611093223 * 1157 as numeric(18,17)) from rdb$database;

                 CAST
=====================
  0.92191236460348590

Почему ФБ сам не могёт за меня это сделать, когда в выражении присутствует операнд с плавающей точкой ?
...
Рейтинг: 0 / 0
26.12.2013, 16:38:19
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513382
dimitr
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
dimitr
Участник
Таблоидв выражении присутствует операнд с плавающей точкой ?
хде он тут спрятался?
...
Рейтинг: 0 / 0
26.12.2013, 16:44:58
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513388
Таблоид
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Таблоид
Участник
во:Таблоид
Код: plaintext
0.0007968127611093223
(ну не с "плавающей точкой", неважно как звать: главное, что если результат перемножения не приводит к настоящему (big)integer overflow, то надо просто тихо выполнить каст к даблу. Так можно сделать или нет ?)
...
Рейтинг: 0 / 0
26.12.2013, 16:47:12
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513412
dimitr
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
dimitr
Участник
Таблоидневажно как звать
фигассе

ТаблоидТак можно сделать или нет?
можно. Но не нужно.
...
Рейтинг: 0 / 0
26.12.2013, 17:00:42
| Ответить | Цитировать | Написать  
Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
    #38513436
Мимопроходящий
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Мимопроходящий
Участник
Hello, Таблоид!
You wrote on 26 декабря 2013 г. 17:14:30:

Таблоид> ну не с "плавающей точкой", неважно как звать
а всё потому, что ты никогда не работал с железом напрямую.
поверь, разница между "плавающей точкой" и "фиксированной",
грубо говоря, ОХУЕННА.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
26.12.2013, 17:16:50
| Ответить | Цитировать | Написать  
7 сообщений из 32, страница 2 из 2
  2  все
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / Integer overflow при умножении 0.0007968127611093223 на... любые int-числа
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение   Полит. конфиден.  
NoSQL.ru       Кролег: Проекты, Новости, Чат       РЕД ФОРУМ       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?fid=40&gotonew=1&tid=1564025]:
 0ms
get settings:
 11ms
get forum list:
 9ms
check forum access:
 2ms
check topic access:
 2ms
track hit:
 159ms
get topic data:
 11ms
get first new msg:
 5ms
get forum data:
 2ms
get page messages:
 50ms
get tp. blocked users:
 1ms
others: 216ms
total:  468ms
созд. / загр.: 468ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]