Skip site navigation (1) Skip section navigation (2)

Peripheral Links

Header And Logo

PostgreSQL
| The world's most advanced open source database.

Site Navigation

Search archives
  Advanced Search

Re: чёртово ок ругление


  • From: Maxim Boguk <mboguk(at)masterhost(dot)ru>
  • To: engineer <anton200(at)gmail(dot)com>
  • Cc: pgsql-ru-general(at)postgresql(dot)org
  • Subject: Re: чёртово ок ругление
  • Date: Wed, 03 Dec 2008 09:39:45 +0300
  • Message-id: <493629B1.1030307@masterhost.ru> <text/plain>

А какой тип имеет p_abon_play ? Если любой из float то это совершенно нормальное поведение.
Так как точно десятичные дроби в float в точном виде не представляются.
(у вас на самом деле происходит следующее присваивание скорее всего:
p_abon_pay := round(p_abon_pay::numeric(10,2), 2)::double;
и именно на ::double происходит превращение в некрасивый вид)

Надо объявить новую переменную типа numeric(10,2) и присваивать результат округления ей
(логика округления вопрос отдельный... может надо round... может достаточно привести  к типу numeric(10,2) )

И тд... вообще есть две школы подсчета таких вещей...
первая говорит что все входные данные надо привести в нужную фиксированную точность и далее с ней работать...
вторая говорит что надо все посчитать на максимальной точности а результат округлить до нужной вам точности.

--
SY, Maxim Boguk

engineer wrote:
Хай.

Тривиальная задача, округлить сумму до копеек.
Вот фрагмент:
		IF K_debug >= 2 THEN RAISE LOG '	FLOORing p_abon_pay[%] ->
p_abon_pay[%]', p_abon_pay, floor(p_abon_pay * 100.0) / 100.0; END IF;
p_abon_pay := floor(p_abon_pay * 100.0) / 100.0;
		IF K_debug >= 2 THEN RAISE LOG '	ROUNDing p_abon_pay[%] ->
p_abon_pay[%]', p_abon_pay, round(p_abon_pay::numeric(10,2), 2); END
IF;
p_abon_pay := round(p_abon_pay::numeric(10,2), 2);
		IF K_debug >= 2 THEN RAISE LOG '	p_balance[%] - p_abon_pay[%] ->
p_balance[%]', p_balance, p_abon_pay, p_balance - p_abon_pay; END IF;

А в логе вижу такое:

FLOORing p_abon_pay[24.193548387096776] -> p_abon_pay[24.190000000000001]
ROUNDing p_abon_pay[24.190000000000001] -> p_abon_pay[24.19]
p_balance[-29164.045435905457] - p_abon_pay[24.190000000000001] ->
p_balance[-29188.235435905455]

        ^^^^^^^^^^^^^^^^^
То есть в лог сначала выдаётся округлённый результат, а после
присвоения его опять же переменной - снова становится "некрасивым". Чо
делать-то?



Home | Main Index | Thread Index

Privacy Policy | About PostgreSQL
Copyright © 1996 – 2012 PostgreSQL Global Development Group