Error converting data type nvarchar to bigint / Microsoft SQL Server

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Error converting data type nvarchar to bigint

4 сообщений из 4, страница 1 из 1

Error converting data type nvarchar to bigint

#39930372

maldalik

Гость

Возникла такая проблема:
есть таблица с ip адресами, поле типа varchar(50)
пытаюсь конвертировать IP в бигинт
select dbo.inet_aton(ltrim(rtrim(ip)))
from mda_obor
и получаю ошибку Error converting data type nvarchar to bigint ...
Дело не в грязных данных, потому что это срабатывает даже для первой записи
и полей nvarchar у меня не используется совсем..
Если скопировать этот IP и напрямую подставить в запрос то все ок.
Mssql 2008 r2

Функция тоже простая:

Код: sql

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.

ALTER FUNCTION [dbo].[inet_aton] 
(
   @ip varchar(15) 
)
RETURNS bigint
AS
BEGIN
declare @ip_new bigint
--	RETURN
select @ip=
	(
		CAST(PARSENAME(@ip, 1) as bigint) * 16777216 +
		CAST(PARSENAME(@ip, 2) as bigint) * 65536 +
		CAST(PARSENAME(@ip, 3) as bigint) * 256 +
		CAST(PARSENAME(@ip, 4) as bigint)
	)
select @ip_new = @ip
if @ip > 2147483648
	begin
		select @ip_new=@ip-4294967296
	end
return @ip_new
--RETURN @ip
END

...

Рейтинг:

0 / 0

25.02.2020, 06:15

| Ответить | Цитировать | Написать

Error converting data type nvarchar to bigint

#39930376

maldalik

Гость

Можно удалять, затесались невидимые спецсимволы, удали все норм.
правда при чем ту nvarchar все равно не понял

...

Рейтинг:

0 / 0

25.02.2020, 06:39

| Ответить | Цитировать | Написать

Error converting data type nvarchar to bigint

#39930377

alexeyvg

Участник

Откуда: Moscow

Сообщения: 26 926

Рейтинг: 0 / 0

maldalik

правда при чем ту nvarchar все равно не понял

Потому что функция PARSENAME возвращает nvarchar

Код: sql

1.
2.
3.
4.

select CAST(PARSENAME('asdf', 1) as bigint)

Msg 8114, Level 16, State 5, Line 44
Error converting data type nvarchar to bigint.

Соответственно, нужно писать

Код: sql

1.
2.
3.
4.
5.
6.
7.

select @ip=
	(
		TRY_CAST(PARSENAME(@ip, 1) as bigint) * 16777216 +
		TRY_CAST(PARSENAME(@ip, 2) as bigint) * 65536 +
		TRY_CAST(PARSENAME(@ip, 3) as bigint) * 256 +
		TRY_CAST(PARSENAME(@ip, 4) as bigint)
	)

У вас, правда, 2008R2, там нужно по другому

...

Рейтинг:

0 / 0

25.02.2020, 06:47

| Ответить | Цитировать | Написать

Error converting data type nvarchar to bigint

#39930379

Guf

Участник

Откуда: Новосибирск

Сообщения: 731

Рейтинг: 0 / 0

maldalik,

Проблема именно в грязных данных, потому что функция PARSENAME возвращает результат типа nvarchar. И этот результат не может быть быть преобразован в bigint.
авторпотому что это срабатывает даже для первой записи
Не существует никакой первой записи. SQL декларативный язык, мы говорим серверу, что мы хотим получить на выходе, как этого добиться сервер решает сам.
В случае запроса

Код: sql

1.
2.
3.

select dbo.inet_aton(ltrim(rtrim(ip)))
from mda_obor
where "первая запись"

Сервер вполне может решить выполнить преобразование для всей таблицы, а потом показать только "первую запись", что бы это не значило...

Код: sql

1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.

ALTER FUNCTION [dbo].[inet_aton] 
(
   @ip varchar(15) 
)
RETURNS bigint
AS
BEGIN
declare @ip_new bigint
--	RETURN
select @ip= -- Тут потенциальная ошибка. Присвоение строке числа без явного преобразования
	(
		CAST(PARSENAME(@ip, 1) as bigint) * 16777216 +
		CAST(PARSENAME(@ip, 2) as bigint) * 65536 +
		CAST(PARSENAME(@ip, 3) as bigint) * 256 +
		CAST(PARSENAME(@ip, 4) as bigint)
	)
select @ip_new = @ip -- Тут потенциальная ошибка. Присвоение числу строки без явного преобразования
if @ip > 2147483648 -- Тут потенциальная ошибка. Сравнение числа и строки без явного преобразования
	begin
		select @ip_new=@ip-4294967296 -- Ваще бред! Число = строка - число.
	end
return @ip_new
--RETURN @ip
END

...

Рейтинг:

0 / 0

25.02.2020, 06:57

| Ответить | Цитировать | Написать

4 сообщений из 4, страница 1 из 1

Форумы / Microsoft SQL Server [игнор отключен] [закрыт для гостей] / Error converting data type nvarchar to bigint

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=46&msg=39930376&tid=1686440]:	0ms
get settings:	9ms
get forum list:	13ms
check forum access:	4ms
check topic access:	4ms
track hit:	56ms
get topic data:	12ms
get forum data:	2ms
get page messages:	38ms
get tp. blocked users:	1ms
others:	322ms

total:	461ms