Друзья, подскажите.
Проблема, кажется, известная (Firebird 1.5.2 dialect 3).
Перемножая две переменные (в ХП) типа numeric(18,7) получается переполнение, даже если в них лежат совсем небольшие числа (например 37510.0 * 26.7625). Возникает это, кажется, из-за того, что оба перед умножением умножаются на 10 в степени 7.
Ситуация эта описана и, вроде бы, известна.
Вопрос: будет ли это исправлено (а может уже исправлено) в новых версиях FB (или в Yaffil) ?
(целесообразность использования такого типа, а так же использование вместо него плавующей арифметики не обсуждается)
Перемножение больших чисел
-
- Заслуженный разработчик
- Сообщения: 1436
- Зарегистрирован: 15 сен 2005, 09:05