А какой дамп? Может с кодовой страницей что-то не так?

Попробуйте DECOMPRESS_BINARY. На выходе - также бинарные данные, классы которые работают с XML должны их нормально понимать.

А еще в отладчике, при просмотре переменных типа xstring, есть возможность посмотреть их как XML. Как раз будет понятно, правильно ли распаковалось.

гугл пишет, что 0x78da это zlib stream (расшир .Z и команда uncompress в linux),
если есть класс cl_abap_zip, попробуйте его