Перемножение больших чисел

Запросы, планы, оптимизация запросов, ...

Модераторы: kdv, CyberMax

Ответить
Володя Т.
Сообщения: 16
Зарегистрирован: 02 авг 2005, 19:35

Перемножение больших чисел

Сообщение Володя Т. » 06 дек 2006, 20:40

Друзья, подскажите.
Проблема, кажется, известная (Firebird 1.5.2 dialect 3).
Перемножая две переменные (в ХП) типа numeric(18,7) получается переполнение, даже если в них лежат совсем небольшие числа (например 37510.0 * 26.7625). Возникает это, кажется, из-за того, что оба перед умножением умножаются на 10 в степени 7.
Ситуация эта описана и, вроде бы, известна.
Вопрос: будет ли это исправлено (а может уже исправлено) в новых версиях FB (или в Yaffil) ?
(целесообразность использования такого типа, а так же использование вместо него плавующей арифметики не обсуждается)

dimitr
Разработчик Firebird
Сообщения: 888
Зарегистрирован: 26 окт 2004, 16:20

Сообщение dimitr » 06 дек 2006, 21:04

когда-нибудь будет исправлено

sallerman

Сообщение sallerman » 07 дек 2006, 13:16

dimitr писал(а):когда-нибудь будет исправлено
Хотелось бы быстрее ;)

Dimitry Sibiryakov
Заслуженный разработчик
Сообщения: 1436
Зарегистрирован: 15 сен 2005, 09:05

Сообщение Dimitry Sibiryakov » 07 дек 2006, 13:33

Нууу... Есть два способа ускорить этот процесс: сделать самому или забашлять кому-то чтобы сделал. :wink:

Ответить