Гость
Войти | Профиль | Очистить
Целевая тема:
Создать новую тему:
Автор:
Действия ...
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / cast('2147484.000' as int) выбрасывает num out of range. Why ? / 11 сообщений из 11, страница 1 из 1
10.09.2014, 14:44
    #38743010
Таблоид
Таблоид
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
hi all

Объясните, плз, как такое может быть:

Код: plaintext
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
SQL> select cast('2147483.000' as int) from rdb$database;

        CAST
============
     2147483

SQL> select cast('2147484.000' as int) from rdb$database;

        CAST
============
Statement failed, SQLSTATE = 22003
arithmetic exception, numeric overflow, or string truncation
-numeric value is out of range

(я догадываюсь, что это как-то связано с 2^31 = 2147483648, но... не врубаюсь, как он там "кастует" :)).
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 14:48
    #38743024
Симонов Денис
Симонов Денис
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
Таблоид,

диалект какой?
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 14:50
    #38743030
Таблоид
Таблоид
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
третий.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 15:00
    #38743057
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
Птица последовательно кастует char->numeric(15.3)->integer. На первом касте и выкидывается
ошибка.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 15:02
    #38743061
Таблоид
Таблоид
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
Dimitry Sibiryakov,

спс.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 15:58
    #38743184
NickDee
NickDee
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
ТаблоидDimitry Sibiryakov,

спс.
Вы конечно друг друга поняли, но у меня
Код: sql
1.
select cast('2147484.000' as numeric(15,3)) from rdb$database

прекрасно работает.
И так же прекрасно работает:
Код: sql
1.
select cast(cast('2147484.000' as numeric(15,3)) as integer) from rdb$database


:)
Так что бага там где-то.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 16:08
    #38743209
dimitr
dimitr
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
Таблоидне врубаюсь, как он там "кастует"
он преобразует строку отдельно в int (2147484000) и в scale (-3). Первое в int не лезет.
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 16:51
    #38743297
Таблоид
Таблоид
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
dimitrТаблоидне врубаюсь, как он там "кастует"он преобразует строку отдельно в int (2147484000) и в scale (-3). Первое в int не лезет.Выделенный текст неплохо бы в доку добавить.
А то ведь даже единицу нельзя прикастить:
Код: plaintext
1.
2.
3.
4.
5.
6.
SQL> select cast('1.0000000000' as int) from rdb$database;

        CAST
============
Statement failed, SQLSTATE = 22003
arithmetic exception, numeric overflow, or string truncation
-numeric value is out of range
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 17:05
    #38743322
NickDee
NickDee
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
ТаблоидВыделенный текст неплохо бы в доку добавить.
Когда же нам уже окончательно починят ту штучку внутри нас, которая интуитивно и верно разделяет добро и зло фичи и баги? :)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 17:07
    #38743325
Dimitry Sibiryakov
Dimitry Sibiryakov
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
ТаблоидВыделенный текст неплохо бы в доку добавить.
Лучше в трекер, чтобы преобразование шло в long long вместо int. Потери скорости на
современных процах всё равно не будет.
Posted via ActualForum NNTP Server 1.5
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
10.09.2014, 17:54
    #38743404
Таблоид
Таблоид
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
cast('2147484.000' as int) выбрасывает num out of range. Why ?
Dimitry Sibiryakovв трекер, чтобы преобразование шло в long long вместо int. Зафигачил , только на опять на каком-то странном языке получилось. Но кому надо, тот поймёт, надеюсь :-)
...
Рейтинг: 0 / 0
| Ответить | Цитировать | Написать  
Форумы / Firebird, InterBase [игнор отключен] [закрыт для гостей] / cast('2147484.000' as int) выбрасывает num out of range. Why ? / 11 сообщений из 11, страница 1 из 1
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение  
Полит. конфиден.  
созд. / загр.: 336ms
Закрыть
start [/forum/topic.php?fid=40&mobile=1&tid=1563352]:
 0ms
get settings:
 8ms
get forum list:
 15ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 57ms
get topic data:
 10ms
get forum data:
 3ms
get page messages:
 40ms
get tp. blocked users:
 1ms
others: 196ms
total:  336ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]