Можно ли в транзакции J3RKACT настроить user-exit где будет описан отличный от стандартного алгоритм интепретации, или данная транзакции служит только для связки правил разделения и сортировки?
Если нельзя, то каким образом можно настроить свой алгоритм?

Вы некорректно формулируете.
Данная транзакция связывает пользовательское правило выбора с правилом сортировки и правилом разделения.
Если вы через логические правила не можете настроить интерпретацию, то нужно расширять стандарт, но это уже никак не связано
с J3RKACT