тупой вопрос

apetrenko

есть переменная

A TYPE P decimals 14.
B TYPE P decimals 10.

сделать так получаю оверфлов

B = A.

как сделать правильно с округлением A к 10 знакам?

sibrin

apetrenko написал:

B = A.

Так переполнения не будет. Вот если наоборот, A = B и если B >= 10, то будет. Только в случае переполнения ни о каком округлении речь идти не может. Нужно ловить exception и дальше уже можно присвоить максимальное значение или как-то по-другому обработать.

sy-uname

apetrenko написал:

есть переменная

A TYPE P decimals 14.
B TYPE P decimals 10.

сделать так получаю оверфлов

B = A.

как сделать правильно с округлением A к 10 знакам?

У меня никакого оверфлов не наблюдается

Code:

DATA: a TYPE p DECIMALS 14.
DATA: b TYPE p DECIMALS 10.

a = '9.99999999999999'.
TRY .
    b = a.
    WRITE: / a, b.
  CATCH cx_sy_conversion_error.
    WRITE: / 'cx_sy_conversion_error'.

ENDTRY.

вернёт

Code:

9,99999999999999 10,0000000000

Возможно переполнение происходит в целой части?

apetrenko

sibrin написал:

apetrenko написал:

B = A.

Так переполнения не будет. Вот если наоборот, A = B и если B >= 10, то будет. Только в случае переполнения ни о каком округлении речь идти не может. Нужно ловить exception и дальше уже можно присвоить максимальное значение или как-то по-другому обработать.

Вы правы, я немного неправильно написал.

Правила форума

тупой вопрос

Кто сейчас на конференции