объясните...

flipper

привет всем.
так вот...
смотрю я в отладчике, а там...чудеса

ставлю точку прерывания...смотрю percent = 0.00 , I_CLOBJDAT-ATFLV = 1.5310000000000000E+01
выполняется строка

Code:

PERCENT = I_CLOBJDAT-ATFLV * 100.

опять смотрю... percent = 15.31 , I_CLOBJDAT-ATFLV = 1.5310000000000000E+01
разве percent не должен ли быть равным 1531 ??
или дело в типах I_CLOBJDAT-ATFLV - FLTP(15), PERCENT - DEC(5) ?
и после выполнения строчки :

Code:

RESULT_PRICE = ( PERCENT - ZSE012 ) * ZSE009.

где zse012 = 15.00 , zse009 = 38.26 result_price = 1186.06 ?? хотя (15.31-15)х38.26 = 11.8606 ?? какбы ту сотню умножили после вычисления....
не пинайте сильно...новичок я :oops:

sy-uname

flipper написал(а):

привет всем.
так вот...
смотрю я в отладчике, а там...чудеса

ставлю точку прерывания...смотрю percent = 0.00 , I_CLOBJDAT-ATFLV = 1.5310000000000000E+01
выполняется строка

Code:

PERCENT = I_CLOBJDAT-ATFLV * 100.

опять смотрю... percent = 15.31 , I_CLOBJDAT-ATFLV = 1.5310000000000000E+01
разве percent не должен ли быть равным 1531 ??
или дело в типах I_CLOBJDAT-ATFLV - FLTP(15), PERCENT - DEC(5) ?
и после выполнения строчки :

Code:

RESULT_PRICE = ( PERCENT - ZSE012 ) * ZSE009.

где zse012 = 15.00 , zse009 = 38.26 result_price = 1186.06 ?? хотя (15.31-15)х38.26 = 11.8606 ?? какбы ту сотню умножили после вычисления....
не пинайте сильно...новичок я :oops:

Опиши точно как задекларированны у тебя переменные, потому как ситуацию смоделировать не получается.

Сергей Королев

Вполне может быть, что у программы, которая в данный момент исполняется, снят флажок 'fixed point arithmetic" . В этом случае все типы с фиксированной точкой трактуются как целые (можно еще хэлп почитать про этот флаг). Вы ведь, видимо, user-exit программируете? Совет - переместите вычисления в вашу собственную программу, например, функциональный модуль, по умолчанию этот флаг будет включен. Надеюсь, поможет.

Гость

это рабочая формула расчета надбавки(скидки) условия в схеме калькуляции SD. Решил разобраться с алгоритмом вычисления надбавки и наткнулся к этой интересной штуке.
текст формулы(убрал не нужное)

Code:

  DATA: BEGIN OF I_CLOBJDAT OCCURS 0.
          INCLUDE STRUCTURE CLOBJDAT.
  DATA: END   OF I_CLOBJDAT.


  DATA: PERCENT_FACT LIKE ZS003-ZSE012, " DEC(5)
            ZSE009 LIKE ZS003-ZSE009,            " DEC(6)
            ZSE012 LIKE ZS003-ZSE012,            " DEC(5)
            RESULT_PRICE TYPE P DECIMALS 2.  
 ...
 CALL FUNCTION 'CLAF_CLASSIFICATION_OF_OBJECTS'
    ... 
     TABLES
           T_CLASS           = I_CLASS
           T_OBJECTDATA  = I_CLOBJDAT
    ...
  " здесь  РERCENT_FACT = 0.00  
  READ TABLE I_CLOBJDAT WITH KEY ATNAM = 'Z_MN_RATE'.
  IF SY-SUBRC = 0.
    РERCENT_FACT = I_CLOBJDAT-ATFLV * 100. " I_CLOBJDAT-ATFLV тип FLTP(16)
  ENDIF.
  " здесь  РERCENT_FACT = 15.31  I_CLOBJDAT-ATFLV = 1.5310000000000000E+01
  ...
  " здесь РERCENT_FACT = 15.31 ZSE012 = 15.00 ZSE009 = 38.26
  RESULT_PRICE =  ( PERCENT_FACT - ZSE012 ) * ZSE009.
  " после RESULT_PRICE = 1186.06 здесь KOMP-MGAME = 67.151 тип QUAN(13)
  RESULT_PRICE = RESULT_PRICE * KOMP-MGAME / 100000.
  " а здесь RESULT_PRICE = 796.45   

кто что может сказать? объясните...плиз

flipper

сообщение было моё...

Сергей Королев

Объяснение прежнее - в главной программе отключен флаг "Арифметика с фикс. точкой".

sy-uname

flipper написал(а):

сообщение было моё...

Тебе уже ответил Сергей Королев - дело в галке Арифметика с фикс. запятой

flipper

Спасибо ... не увидел пред. ответ

Правила форума

объясните...

Кто сейчас на конференции