Для акта сверки портебовалось выполнять ABAP разработку.

была сделана копия программы J_3RF_ASK, и внесены в нее необходимые изменения (ZJ_3RF_ASK).

Как сделать чтобы при выводе акта на печать, т.е при нажатии на клавишу "Печать сообщений о сальдо", запускалась моя измененная программа (ZJ_3RF_ASK).

Надо просто запускать вашу программу как вариант создать транзакцию к программе и запускать ее.
P.S. насколько помню эта программа не является программой печати как таковой...