Страница 1 из 1

Перемножение больших чисел

Добавлено: 06 дек 2006, 20:40
Володя Т.
Друзья, подскажите.
Проблема, кажется, известная (Firebird 1.5.2 dialect 3).
Перемножая две переменные (в ХП) типа numeric(18,7) получается переполнение, даже если в них лежат совсем небольшие числа (например 37510.0 * 26.7625). Возникает это, кажется, из-за того, что оба перед умножением умножаются на 10 в степени 7.
Ситуация эта описана и, вроде бы, известна.
Вопрос: будет ли это исправлено (а может уже исправлено) в новых версиях FB (или в Yaffil) ?
(целесообразность использования такого типа, а так же использование вместо него плавующей арифметики не обсуждается)

Добавлено: 06 дек 2006, 21:04
dimitr
когда-нибудь будет исправлено

Добавлено: 07 дек 2006, 13:16
sallerman
dimitr писал(а):когда-нибудь будет исправлено
Хотелось бы быстрее ;)

Добавлено: 07 дек 2006, 13:33
Dimitry Sibiryakov
Нууу... Есть два способа ускорить этот процесс: сделать самому или забашлять кому-то чтобы сделал. :wink: