Почему получается округленный результат? / MySQL

ReSQL.ru

Мобильная версия Контакт Правила FAQ Помощь

Гость

Войти | Регистрация | Профиль | Очистить

Новые сообщения | Избранное

Форумы | Пользователи | Статистика | Мод. лог | Поиск

Доб. в избранное | Игнор. тему | Прикреп. тему | Пометить прочит. / непрочит. | Фильтр

Форумы / MySQL [игнор отключен] [закрыт для гостей] / Почему получается округленный результат?

8 сообщений из 8, страница 1 из 1

Почему получается округленный результат?

#40130967

LiYing

Гость

Есть простая функция:

Код: sql

1.
2.
3.
4.
5.
6.

CREATE FUNCTION `calc_payments_at_date`(`p_id` integer,`at_date` date) RETURNS float
BEGIN
	DECLARE result FLOAT;
	SELECT SUM(heating_sum) INTO result FROM payments WHERE id_proceeding=p_id AND payment_date<=at_date;
	RETURN result;
END

При выполнении

Код: sql

SELECT calc_payments_at_date(122, '2021-12-01')

возвращается 18837,4, в то время как в реальности payments.heating_sum = 18837,38
Собственно, сабж.
Замена на

Код: sql

RETURN ROUND(result, 2);

ничего не меняет.

PS MySQL 8.0.27

...

Рейтинг:

0 / 0

01.02.2022, 11:48

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40130969

Ролг Хупин

Участник

Откуда: Чебаркуль

Сообщения: 4 817

Рейтинг: 0 / 0

LiYing

Есть простая функция:

Код: sql

1.
2.
3.
4.
5.
6.

CREATE FUNCTION `calc_payments_at_date`(`p_id` integer,`at_date` date) RETURNS float
BEGIN
	DECLARE result FLOAT;
	SELECT SUM(heating_sum) INTO result FROM payments WHERE id_proceeding=p_id AND payment_date<=at_date;
	RETURN result;
END

При выполнении

Код: sql

SELECT calc_payments_at_date(122, '2021-12-01')

возвращается 18837,4, в то время как в реальности payments.heating_sum = 18837,38
Собственно, сабж.
Замена на

Код: sql

RETURN ROUND(result, 2);

ничего не меняет.

PS MySQL 8.0.27

а если заменить FLOAT?

...

Рейтинг:

0 / 0

01.02.2022, 11:58

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40130971

LiYing

Гость

Замена FLOAT на DOUBLE помогла. Но ответ на вопрос все равно интересен :)

...

Рейтинг:

0 / 0

01.02.2022, 12:00

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40130976

Ролг Хупин

Участник

Откуда: Чебаркуль

Сообщения: 4 817

Рейтинг: 0 / 0

LiYing

Замена FLOAT на DOUBLE помогла. Но ответ на вопрос все равно интересен :)

Это и есть ответ. Почитайте, что такое float

...

Рейтинг:

0 / 0

01.02.2022, 12:27

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40130984

Melkij

Участник

Откуда: Санкт-Петербург

Сообщения: 1 447

Рейтинг: 0 / 0

LiYing

возвращается 18837,4, в то время как в реальности payments.heating_sum = 18837,38

Не смог найти корректное упоминание этого поведения (кроме коммента под ответом здесь ), но в общем mysql округляет float до 6 знаков при выводе данных, если не попросить специально.

...

Рейтинг:

0 / 0

01.02.2022, 12:52

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40130986

LiYing

Гость

Ролг Хупин

Почитайте, что такое float

Вот честно, несколько раз прочитал https://dev.mysql.com/doc/refman/8.0/en/floating-point-types.html , но так и не понял почему 2 десятичных знака округлились до 1.

...

Рейтинг:

0 / 0

01.02.2022, 12:56

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40131012

Akina

Участник

Откуда: Зеленоград, Москва, Россия

Сообщения: 20 644

Рейтинг: 0 / 0

LiYing

так и не понял почему 2 десятичных знака округлились до 1.

Да потому что точности нехватает, ё моё!

https://dbfiddle.uk/?rdbms=mysql_8.0&fiddle=7547927b93bd60537776dbabefe6fca2

LiYing

Есть простая функция

Вот интересно, чем ты думал, делая тип выходного параметра FLOAT? у тебя небось payments.heating_sum - тоже FLOAT?

Для таких вещей есть тип данных DECIMAL. Причём обязательно с явным указанием количества десятичных знаков.

...

Рейтинг:

0 / 0

01.02.2022, 14:25

| Ответить | Цитировать | Написать

Почему получается округленный результат?

#40131027

LiYing

Гость

Akina,
Ой-ой, дядька, не ругайся :)
Мой косяк был с FLOAT - когда создавал функцию в дизайнере БД машинально выбрал этот тип вместо DOUBLE. My bad...

Akina

у тебя небось payments.heating_sum - тоже FLOAT?

Не все так плохо - DOUBLE там :)

...

Рейтинг:

0 / 0

01.02.2022, 15:00

| Ответить | Цитировать | Написать

8 сообщений из 8, страница 1 из 1

Форумы / MySQL [игнор отключен] [закрыт для гостей] / Почему получается округленный результат?

Цитировать

Написать

Автор*:

Ввести пароль для входа

Тема*:

Сообщение

Данное сообщение тематическое

Сообщение содержит картинки или видео 18+

Автор:

ВНИМАНИЕ! На данном подфоруме действуют строгие правила. Удостоверьтесь, что ваше сообщение соответствует им!

Форум или тема закрыты для гостей. Необходима авторизация!

Загрузить последнюю сохраненную версию

Вложение:

Вставить как галерею

Максимальный размер вложений: 4,0 МБ, аудио/видео: 8,0 МБ. Картинки большего размера ужимаются, если возможно.

Введите код, изображенный на картинке. Если код нечитаемый, кликните картинку, чтобы загрузить другой вариант.

Отправляя сообщение, я выражаю свое согласие с правилами форума и принимаю пользовательское соглашение.

Читали тему (0):

Читали форум (0):

Пользователи онлайн (0):

start [/forum/topic.php?fid=47&msg=40130971&tid=1827797]:	0ms
get settings:	10ms
get forum list:	12ms
check forum access:	4ms
check topic access:	4ms
track hit:	32ms
get topic data:	11ms
get forum data:	3ms
get page messages:	44ms
get tp. blocked users:	2ms
others:	257ms

total:	379ms