Если главное окно ST02, то вот оно)
Проблема в том, что сейчас в системе никого нет, и эти данные ни о чем как мне кажется.

Ошибка была на матотчете за 11 месяцев:

Roll area...................... 6221072
Extended memory (EM)........... 372892912
Assigned memory (HEAP)......... 41341376
Short area..................... " "
Paging area.................... 40960
Maximum address space.......... 18446604390632442047

У другого пользователя примерно в это же время была ошибка
Roll area...................... 6232928
Extended memory (EM)........... 0
Assigned memory (HEAP)......... 2501200
Short area..................... " "
Paging area.................... 16384
Maximum address space.......... 18446604390632442047

и еще

Roll area...................... 6247664
Extended memory (EM)........... 171782128
Assigned memory (HEAP)......... 151872864
Short area..................... " "
Paging area.................... 2113536
Maximum address space.......... 18446604390632442047

Ок , а ST04 что показывает , запринтскриньте.
Если судить по дампам , то у вас идет наложение потребления памяти , такие можно получить имея в запасе и 100 гиг , но все же как я понял вам еще есть куда подтюнить систему.
Вы говорили что у вас сейчас 52 ГБ оперативки на хост. Если не меняли SGA_MAX_SIZE ~ 12GB , То можете спокойно выставить em/initial_size_MB ~ 20Gb (20000).
Так же нужно посмотреть и изменить (можете проверить что сейчас стоит через rz11).
ztta/roll_extension ~ 2000000000 (чтобы было не меньше этого значения, это примерно 2GB)
abap/heap_area_dia ~ 4000000000
abap/heap_area_nondia ~ 4000000000
abap/heap_area_total ~ 6000000000

В профайле оракла или через sto4 , узнайте сколько у вас PGA_AGGREGATE_TARGET на всякий случай?

вот ST04


Вот мой текущий профиль:

abap/heap_area_total = 4000000000
ztta/roll_extension = 4000000000
rsdb/obj/max_objects = 10000
rdisp/PG_MAXFS = 131072
rsau/max_diskspace/local = 20485760
rsdb/cua/buffersize = 30000
rsau/selection_slots = 2
rsdb/ntab/entrycount = 45000
ztta/roll_area = 6500000
rsdb/obj/buffersize = 65535
rsdb/obj/large_object_size = 16384
abap/heap_area_dia = 4000000000
rsdb/ntab/irbdsize = 9000
abap/buffersize = 1000000
em/initial_size_MB = 8192
abap/heap_area_nondia = 4000000000
login/system_client = 700
SAPSYSTEMNAME = PRD
SAPSYSTEM = 00
INSTANCE_NAME = DVEBMGS00
DIR_CT_RUN = $(DIR_EXE_ROOT)/run
DIR_EXECUTABLE = $(DIR_INSTANCE)/exe
exe/saposcol = $(DIR_CT_RUN)/saposcol
ssl/ssl_lib = $(DIR_EXECUTABLE)$(DIR_SEP)$(FT_DLL_PREFIX)sapcrypto$(FT_DLL)
sec/libsapsecu = $(ssl/ssl_lib)
ssf/ssfapi_lib = $(ssl/ssl_lib)
ssf/name = SAPSECULIB
rdisp/wp_no_dia = 20
rdisp/wp_no_btc = 5
exe/icmbnd = $(DIR_CT_RUN)/icmbnd
#-----------------------------------------------------------------------
# SAP Message Server parameters are set in the DEFAULT.PFL
#-----------------------------------------------------------------------
ms/server_port_0 = PROT=HTTP,PORT=81$$
rdisp/wp_no_enq = 1
rdisp/wp_no_vb = 1
rdisp/wp_no_vb2 = 1
rdisp/wp_no_spo = 1
ipc/shm_psize_10 = 136000000
ipc/shm_psize_40 = 112000000
rdisp/max_wprun_time = 6000
login/no_automatic_user_sapstar = 1
login/disable_multi_gui_login = 1
rec/client = 700
rsau/enable = 1



Кстати, оперативки могу еще накинуть виртуалке, ибо реальных 64, так что если оставить гипервизору гига 4, то можно сапу дать еще несколько гиг. Пусть подавится.

все-таки попробуйте увеличить этот параметр

Ну ,
1 )st04 первый экран бы ) а не этот )
2) PGA посмотрели сколько стоит? можете к примеру глянуть в st04--> statistical information --> PGA monitor , какие у вас значения "aggregate PGA target parameter" и "maximum PGA allocated" ?
3) em/initial_size_MB поставьте в 20000
4) rdisp/wp_no_vb ну хотя бы в 2 поставьте
5) После перезапуска запустите всех пользаков пусть тестят , как оттестят скажите результаты и снова в st02

P.S. to Ludens когда не хватает значения этого параметра , то в 99% случаев дампы идут SYSTEM_NO_SHM_MEMORY , это можно легко проверить в SHMM.
Уж 100% memory low не писалось бы у пользаков ... Но поменять этот парамерт 2 секунды , поставьте его в 200 , хуже точно не будет.

Вот ST04 первый экран


а вот PGA

abap/shared_objects_size_MB поставил 80, было по умолчанию 20

Ну сейчас (если вы выставили Em_initial_size_MB в 20000 и то что я выше посоветовал ) то можете тестить заново.
Потом еще посмотрите (после тестов) в st04-->Wait analysis-->filesystem requests там по сколько ms время отклика показывает.

Сколько сейчас системе отдали памяти в VMWare?

Короче:
Вот рекомендация по изменению параметров вашей системы при 16Gb памяти.

пока так же 52 гига отдано, отдам наверное остальное, все равно на этом гипервизоре других виртуалок не будет.

А параметры abap/heap_area_dia и abap/heap_area_nondia всетаки нужно уменьшить до дефолтных 2000000000?

А это откуда такая красота?

Еще, судя по симптомам "замерзания" при работе в диалоге, вам не хватило ваших 20 диалоговых процессов.
Проверить можно в SM50 нажав кнопку ЦП (часы). Если у всех диалоговых время CPU будет больше нуля, значит были моменты когда их не хватало.
И чем больше будет наименьшее значение, тем больше было времени таких "затыков".

Нужно увеличить rdisp/wp_no_dia
В рекомендациях avlag это есть

После изменения параметров и перезапуска посмотрите в ST06 сколько памяти останется свободной. Потом можно поднимать параметры. Некоторые.
На второй вопрос - да, лучше уменьшить. Эти параметры лимитируют память на одиночный процесс. Имеет смысл увеличивать (при увеличении памяти) параметр abap/heap_area_total - это лимит на все процессы в сумме.
Т.е. если три этих параметра равны, как у вас было в профиле, то вашу систему убьет уже второй процесс, который попытается выбрать свои лимиты. Поскольку предыдущий захотевший уже все съел.
Вообще погуглите по этим параметрам, ссылки на help.sap.com дают более-менее понятные принципы работы с памятью.