ReSQL.ru
     
powered by simpleCommunicator - 2.0.49     © 2025 Programmizd 02
Мобильная версия    Контакт    Правила    FAQ    Помощь
Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Условие в запросе
37 сообщений из 37, показаны все 2 страниц
  все  
Условие в запросе
    #38313101
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Доброго времени суток. Сделал запрос, который возвращает мне общее количество чеков за определённый месяц.
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
select 
  b.base as [Филиал], 
  count(distinct op.smid) as [Чеки] 
from op
  inner join d on     op.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base


Сейчас настала необходимость добавить условие диапазона чеков. Пытался добавить вот такое условие:
Код: sql
1.
(sum(op.Quantity*op.Price) between 8000 and 10000)


Но пишет, что в where нельзя использовать агр. функцию. в having если добавить, то будет считать уже всю сумму по всем чекам сразу. В каком месте и что нужно исправить(добавить)?
...
Рейтинг: 0 / 0
27.06.2013, 17:25
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313114
Фотография Павел Воронцов
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Павел Воронцов
Участник
Прогер_самоучка,

открой для себя having
...
Рейтинг: 0 / 0
27.06.2013, 17:32
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313117
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Павел ВоронцовПрогер_самоучка,

открой для себя having
Вы до конца прочитали стартовый пост ?

Прогер_самоучка в having если добавить, то будет считать уже всю сумму по всем чекам сразу. В каком месте и что нужно исправить(добавить)?
...
Рейтинг: 0 / 0
27.06.2013, 17:35
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313122
Фотография daw
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
daw
Участник
> в having если добавить, то будет считать уже всю сумму по всем чекам сразу

с чего вы взяли? суммы будут считаться согласно группировке.
...
Рейтинг: 0 / 0
27.06.2013, 17:37
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313124
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
Прогер_самоучка
Код: sql
1.
2.
3.
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647)

Это вот что:
Код: sql
1.
d.docdate>='20130601' and d.docdate<'20130701' and code is not null and f1 not null
...
Рейтинг: 0 / 0
27.06.2013, 17:38
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313141
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
daw> в having если добавить, то будет считать уже всю сумму по всем чекам сразу

с чего вы взяли? суммы будут считаться согласно группировке.
Я понимаю, что согласно группировке. Ещё бы и понять каким образом.
...
Рейтинг: 0 / 0
27.06.2013, 17:47
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313144
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
iapПрогер_самоучка[/src]Это вот что:
Код: sql
1.
d.docdate>='20130601' and d.docdate<'20130701' and code is not null and f1 not null


Не совсем вас понял. Это вы спросили или поправили?)
...
Рейтинг: 0 / 0
27.06.2013, 17:49
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313150
Фотография daw
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
daw
Участник
> Я понимаю, что согласно группировке. Ещё бы и понять каким образом.

то есть, что значит "каким"? ну выведите ее в select-листе:
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
select 
  b.base as [Филиал], 
  count(distinct op.smid) as [Чеки] 
  , sum(op.Quantity*op.Price)
from op
  inner join d on     op.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base



вот эта сумма и будет проверяться в having.
...
Рейтинг: 0 / 0
27.06.2013, 17:54
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313159
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
daw> Я понимаю, что согласно группировке. Ещё бы и понять каким образом.

то есть, что значит "каким"? ну выведите ее в select-листе:

вот эта сумма и будет проверяться в having.
Выводил я так в select. Поэтому и говорю, что будет считать сумму сразу всех чеков.
Было вот так с добавлением having
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
select 
  b.base as [Филиал], 
  count(distinct op.smid) as [Чеки] 
  , sum(op.Quantity*op.Price)
from op
  inner join d on     op.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base
 having   sum(op.Quantity*op.Price)
...
Рейтинг: 0 / 0
27.06.2013, 18:00
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313164
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Прогер_самоучкаdaw> Я понимаю, что согласно группировке. Ещё бы и понять каким образом.

то есть, что значит "каким"? ну выведите ее в select-листе:

вот эта сумма и будет проверяться в having.
Выводил я так в select. Поэтому и говорю, что будет считать сумму сразу всех чеков.
Было вот так с добавлением having
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
select 
  b.base as [Филиал], 
  count(distinct op.smid) as [Чеки] 
  , sum(op.Quantity*op.Price)
from op
  inner join d on     op.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base
 having   (sum(op.Quantity*op.Price) between 8000 and 10000)


З.Ы. Исправленный вариант
...
Рейтинг: 0 / 0
27.06.2013, 18:02
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313165
Фотография daw
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
daw
Участник
> count(distinct op.smid) as [Чеки]

ааа, distinct. догадываюсь кажется. у вас join-ы "размножают" строки в op и суммы странные получаются?
...
Рейтинг: 0 / 0
27.06.2013, 18:02
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313167
Фотография daw
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
daw
Участник
чтобы понятнее стало, вы уберите группировку и посмотрите, что выводится.
а "как бороться?" - ну, в вашем случае можно эти join-ы через exists переписать.
...
Рейтинг: 0 / 0
27.06.2013, 18:05
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313174
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
daw> count(distinct op.smid) as [Чеки]

ааа, distinct. догадываюсь кажется. у вас join-ы "размножают" строки в op и суммы странные получаются?
Запредельные суммы получаются))) Количество чеков запрос выдаёт правильное. Вот как прописать сие условие, что на каждый чек, пока не соображу. Подозреваю, что эта "странная сумма" как раз и сумма сразу всех чеков.
...
Рейтинг: 0 / 0
27.06.2013, 18:07
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313235
Cygapb-007
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Cygapb-007
Участник
dawчтобы понятнее стало, вы уберите группировку и посмотрите, что выводится.
а "как бороться?" - ну, в вашем случае можно эти join-ы через exists переписать.Добавил бы: уберите группировку и поставьте фильтр по какому-нибудь (может по очереди по разным) OP.SMID чтобы (на обозримом количестве данных) убедиться в отсутствии задваивания строк.
Может быть, и от DISTINCT в COUNT удастся избавиться :)
...
Рейтинг: 0 / 0
27.06.2013, 18:59
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313303
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
Прогер_самоучкаiapпропущено...
Это вот что:
Код: sql
1.
d.docdate>='20130601' and d.docdate<'20130701' and code is not null and f1 not null


Не совсем вас понял. Это вы спросили или поправили?)Заменил на эквивалент
...
Рейтинг: 0 / 0
27.06.2013, 20:28
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313554
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
iapЗаменил на эквивалент На самом деле это часть собирается в программе, поэтому там именно так :)
...
Рейтинг: 0 / 0
28.06.2013, 08:36
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313574
Фотография Павел Воронцов
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Павел Воронцов
Участник
Прогер_самоучкаВыводил я так в select. Поэтому и говорю, что будет считать сумму сразу всех чеков.
Было вот так с добавлением havingНе зная схему данных трудно угадывать, но скорей всего Вам нужно что-то типа
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
select 
  b.base as [Филиал], 
  sum(op1.chks) as [Чеки] 
from (select docid
             , goodsid
             , count(distinct smid) as chks
             , sum(op.Quantity*op.Price) as summ
from op
group by docid
             , goodsid) op1
  inner join d on     op1.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op1.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base
  having sum(op1.summ) between 8000 and 10000
...
Рейтинг: 0 / 0
28.06.2013, 09:13
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313580
=)8)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
=)8)
Гость
Прогер_самоучкаiapЗаменил на эквивалент На самом деле это часть собирается в программе, поэтому там именно так :)на самом деле и в программе это лучше заменить на
(@code=-1 or code=@code) and (@f1=-1 or f1=@f1) :))
...
Рейтинг: 0 / 0
28.06.2013, 09:17
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313586
=)8)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
=)8)
Гость
Павел ВоронцовНе зная схему данных трудно угадывать+100500
...
Рейтинг: 0 / 0
28.06.2013, 09:23
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313657
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Павел ВоронцовПрогер_самоучкаВыводил я так в select. Поэтому и говорю, что будет считать сумму сразу всех чеков.
Было вот так с добавлением havingНе зная схему данных трудно угадывать, но скорей всего Вам нужно что-то типа
Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
select 
  b.base as [Филиал], 
  sum(op1.chks) as [Чеки] 
from (select docid
             , goodsid
             , count(distinct smid) as chks
             , sum(op.Quantity*op.Price) as summ
from op
group by docid
             , goodsid) op1
  inner join d on     op1.docid = d.id 
  inner join b on     d.bid = b.id 
  inner join w on     op1.goodsid = w.code 
where
  (
    b.id in (16,6,106,24,103,36,91,40,25)
  ) and
  (d.doctype = 6) and
  (d.docdate >= convert(datetime, '2013-06-01 00:00:00', 102)) and
  (d.docdate <= convert(datetime, '2013.06.30 23:59:59', 102)) and code between isnull(nullif(-1,-1),-2147483648)
   and isnull(nullif(-1,-1),2147483647) and f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) 
   group by 
  b.base
  having sum(op1.summ) between 8000 and 10000



Очень даже похоже. Только не пойму, почему ничего не возвращает. Внутренний запрос отрабатывает. А по внешнему почему-то нет.

З.Ы. Под схемой данных вы подразумеваете структуры таблиц ?
...
Рейтинг: 0 / 0
28.06.2013, 10:19
| Ответить | Цитировать | Написать  
Условие в запросе
    #38313665
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Прогер_самоучкаОчень даже похоже. Только не пойму, почему ничего не возвращает. Внутренний запрос отрабатывает. А по внешнему почему-то нет.

Разобрался вроде бы. Нужно было в конце в группировке указать колонку chks по которой группировка chks
...
Рейтинг: 0 / 0
28.06.2013, 10:24
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334126
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Доброго времени суток.
Есть запрос, в котором есть условие
Код: sql
1.
2.
where code between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647) and
 f1 between isnull(nullif(-1,-1),-2147483648) and isnull(nullif(-1,-1),2147483647)


Раньше этот запрос отрабатывал нормально. Сейчас выскакивает ошибка:

Код: plaintext
Ошибка арифметического переполнения для типа данных smallint, значение = -2147483648

Но, поля Code и F1 в базе имеют тип int. раньше стоял ms sql server 2000.
Сейчас:
Код: sql
1.
2.
3.
4.
Microsoft SQL Server 2008 R2 (SP2) - 10.50.4263.0 (X64) 	
	Aug 23 2012 15:56:56 
	Copyright (c) Microsoft Corporation
	Enterprise Edition (64-bit) on Windows NT 6.0 <X64> (Build 6002: Service Pack 2)


Хотелось бы прояснения ситуации.
Заранее благодарю за ответы.
...
Рейтинг: 0 / 0
17.07.2013, 14:05
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334159
капец полный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
капец полный
Гость
Прогер_самоучка,

тип полей тут вообще ни при чем,
любое из этох двух вызовет ту же ошибку:
Код: sql
1.
2.
select isnull(nullif(-1,-1),-2147483648)
select isnull(nullif(-1,-1),2147483647)



но ответьте плиз, откуда такой огород, почему не подходит
Код: sql
1.
where code = -1 and f1 = -1
...
Рейтинг: 0 / 0
17.07.2013, 14:27
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334166
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
капец полный,

вроде, выше говорилось, что это частный случай скрипта, генерирующегося автоматически
...
Рейтинг: 0 / 0
17.07.2013, 14:31
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334168
=)8)
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
=)8)
Гость
а тип параметра какой? Скорее всего, что-то вроде этого:
Код: sql
1.
2.
3.
4.
5.
6.
declare @code smallint=-1
...
select ...
where ...
   and code between isnull(nullif(@code,-1),-2147483648) and isnull(nullif(@code,-1),2147483647)
...

исправьте тип на int - ошибка уйдет
...
Рейтинг: 0 / 0
17.07.2013, 14:31
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334172
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
капец полныйно ответьте плиз, откуда такой огород, почему не подходит
Код: sql
1.
where code = -1 and f1 = -1

Потому что написанные выше условия BETWEEN эквивалентны
Код: sql
1.
WHERE code IS NOT NULL AND f1 IS NOT NULL

а не тем, что Вы написали.
...
Рейтинг: 0 / 0
17.07.2013, 14:34
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334174
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
капец полныйПрогер_самоучка,

тип полей тут вообще ни при чем,
любое из этох двух вызовет ту же ошибку:
Код: sql
1.
2.
select isnull(nullif(-1,-1),-2147483648)
select isnull(nullif(-1,-1),2147483647)


Я понимаю, иначе вопроса не было бы)

капец полныйно ответьте плиз, откуда такой огород, почему не подходит
Код: sql
1.
where code = -1 and f1 = -1


Чуть выше описано почему сделано именно так. Если было так просто, я бы не стал усложнять себе жизнь.
...
Рейтинг: 0 / 0
17.07.2013, 14:35
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334197
капец полный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
капец полный
Гость
извиняюсь, да, я "не в теме",
т.к. там перерыв между постами и начало осталось непрочтенным.
могу только предположить, что у него изменилось поведение по приведению типов
вот такое

Код: sql
1.
2.
3.
select  SQL_VARIANT_PROPERTY(-1, 'basetype')
       ,SQL_VARIANT_PROPERTY(nullif(-1,-1), 'basetype')
       --,SQL_VARIANT_PROPERTY(isnull(nullif(-1,-1),-2147483648), 'basetype')


показывает, что на этапе nullif(-1,-1), тип выражения не определен.
ну и раскомментарив последнюю строку, имеем ту же ошибку.
т.е. он от типа NULL перешел почему-то к SMALLINT,
а 2000-ый наверное честно оценивал второй аргумент и понимал, что все приводится к INT
...
Рейтинг: 0 / 0
17.07.2013, 14:46
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334203
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
=)8)а тип параметра какой? Скорее всего, что-то вроде этого:
Код: sql
1.
2.
3.
4.
5.
6.
declare @code smallint=-1
...
select ...
where ...
   and code between isnull(nullif(@code,-1),-2147483648) and isnull(nullif(@code,-1),2147483647)
...

исправьте тип на int - ошибка уйдет
@code- это значения из поля формы. Они берутся из таблиц и все имеют тип int.
...
Рейтинг: 0 / 0
17.07.2013, 14:47
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334210
капец полный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
капец полный
Гость
тем не менее, насильное указание типа помогает:

Код: sql
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
declare @code int=-1
select isnull(nullif(@code,-1),-2147483648)
-----------------------------------------
 -2147483648

declare @code_sm smallint=-1
select isnull(nullif(@code_sm,-1),-2147483648) 
-----------------------------------------
Msg 220, Level 16, State 1, Line 2
Arithmetic overflow error for data type smallint, value = -2147483648.
...
Рейтинг: 0 / 0
17.07.2013, 14:51
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334228
Владимир Меньшиков
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Владимир Меньшиков
Гость
При выполнении запроса SQL смотрит не на тип поля данных, а определяет тип по результату операции, переведите результат в формат int и будет вам счастье
Код: sql
1.
isnull(nullif(convert(int, @code),-1),-2147483648), isnull(nullif(convert(int, @code),-1),2147483647)
...
Рейтинг: 0 / 0
17.07.2013, 15:00
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334235
капец полный
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
капец полный
Гость
ну, кажись да, если ему тип насильно не указать,
он считает, что SMALLINT

Код: sql
1.
2.
3.
select  SQL_VARIANT_PROPERTY(-1, 'basetype')
       ,SQL_VARIANT_PROPERTY(nullif(-1,-1), 'basetype')
       ,SQL_VARIANT_PROPERTY(isnull(nullif(-1,-1),-33), 'basetype')



-----------------------
int NULL smallint
...
Рейтинг: 0 / 0
17.07.2013, 15:05
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334242
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
капец полныйну, кажись да, если ему тип насильно не указать,
он считает, что SMALLINT

Код: sql
1.
2.
3.
select  SQL_VARIANT_PROPERTY(-1, 'basetype')
       ,SQL_VARIANT_PROPERTY(nullif(-1,-1), 'basetype')
       ,SQL_VARIANT_PROPERTY(isnull(nullif(-1,-1),-33), 'basetype')




-----------------------
int NULL smallintЭто потому, что для -1 минимальный по размеру целый тип - SMALLINT.
Если не ошибаюсь, такое поведение (и много других сюрпризов с типами) началось с SQL2005.
И, кстати, в своё время здесь это обсуждалось неоднократно.
...
Рейтинг: 0 / 0
17.07.2013, 15:09
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334250
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
А вот почему -2147483648 приводится к типу SMALLINT, - вот что непонятно.
Ибо логично было бы и этот литерал преобразовать к минимальному для него типу INT,
а потом оба аргумента к типу с бОольшим приоритетом, то есть, INT
...
Рейтинг: 0 / 0
17.07.2013, 15:13
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334272
Прогер_самоучка
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Прогер_самоучка
Участник
Владимир МеньшиковПри выполнении запроса SQL смотрит не на тип поля данных, а определяет тип по результату операции, переведите результат в формат int и будет вам счастье
Код: sql
1.
isnull(nullif(convert(int, @code),-1),-2147483648), isnull(nullif(convert(int, @code),-1),2147483647)


Пытался сначала это сделать в программе функцией CInt (VBA). Но в итоге сервер снова приводил к smallint.
Воспользовался вашим советом. Большое спасибо.

З.Ы. Остальным участникам тоже спасибо за активное участие и помощь.
...
Рейтинг: 0 / 0
17.07.2013, 15:22
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334274
Фотография Shakill
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Shakill
Участник
iapА вот почему -2147483648 приводится к типу SMALLINT, - вот что непонятно.
Ибо логично было бы и этот литерал преобразовать к минимальному для него типу INT,
а потом оба аргумента к типу с бОольшим приоритетом, то есть, INT
потому что ISNULL так работает - пытается вернуть результат с типом первого аргумента
Код: sql
1.
select isnull(cast(null as smallint), -2147483648)
...
Рейтинг: 0 / 0
17.07.2013, 15:23
| Ответить | Цитировать | Написать  
Условие в запросе
    #38334284
iap
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
iap
Участник
ShakilliapА вот почему -2147483648 приводится к типу SMALLINT, - вот что непонятно.
Ибо логично было бы и этот литерал преобразовать к минимальному для него типу INT,
а потом оба аргумента к типу с бОольшим приоритетом, то есть, INT
потому что ISNULL так работает - пытается вернуть результат с типом первого аргумента
Код: sql
1.
select isnull(cast(null as smallint), -2147483648)

Да. Запамятовал что-то.
Причём сейчас ясно вспомнил, как мы когда-то это обсуждали.
Кстати, COALESCE ведёт себя совершенно иначе -
приводит все свои аргументы к типу с максимальным приоритетом.
...
Рейтинг: 0 / 0
17.07.2013, 15:27
| Ответить | Цитировать | Написать  
37 сообщений из 37, показаны все 2 страниц
  все  
Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Условие в запросе
Целевая тема:
Создать новую тему:
Автор:
Закрыть
Цитировать
Найденые пользователи ...
Разблокировать пользователей ...
Читали тему (0):
Читали форум (0):
Пользователи онлайн (0):
Польз. соглашение
NoSQL.ru       Новости, Чат       Фотоальбом: Участники, Встречи
Закрыть
start [/forum/topic.php?all=1&fid=46&tid=1706110]:
 0ms
get settings:
 9ms
get forum list:
 13ms
check forum access:
 3ms
check topic access:
 3ms
track hit:
 163ms
get topic data:
 11ms
get forum data:
 3ms
get page messages:
 64ms
get tp. blocked users:
 1ms
others: 230ms
total:  500ms
созд. / загр.: 500ms
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]