Текущее время: Ср, авг 20 2025, 07:14

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 15 ] 
Автор Сообщение
 Заголовок сообщения: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 13:52 
Старший специалист
Старший специалист

Зарегистрирован:
Чт, фев 16 2006, 15:46
Сообщения: 451
Откуда: Россия
Привет. Возникла проблема: резко просела производительность экстракторов.

Значит, смотрю лог. Там так:

Code:
Экстракция (сообщения): Все в порядке
Запрос данных получен  - 06:30:20
Выбор данных запланирован  - 08:56:05
6760 Записи отправлены ( 6760 Записи получены )  - 08:56:34
Выбор данных завершен - 08:56:34


То есть, кто может объяснить, что происходит на этапе между "Запрос данных получен" и "Выбор данных запланирован"? Какие операции, куда смотреть на более подробные логи?

Если смотреть по логам экстрактора раньше, то эта операция занимала 3 (прописью: "три") секунды. Сейчас сервер тупит 2 часа 26 минут, причём непонятно по какой причине.

_________________
Ян Владимирович,
http://www.vladimirovich.net


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:02 
Почетный гуру
Почетный гуру
Аватара пользователя

Зарегистрирован:
Вт, июл 03 2007, 10:26
Сообщения: 486
Откуда: Kazakhstan, Astana
Пол: Мужской
Добрый день.
Для всех без исключения экстракторов или для отдельных? Full or Delta? Размер пакета? Кол-во полей не увеличивали? Экстрактор стандартный или самописный?

_________________
"Great minds discuss ideas. Average minds discuss events. Small minds discuss people-Eleanor Roosevelt--Knowledge is to share, Keep it free, Keep sharing"


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:06 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вт, дек 12 2006, 23:57
Сообщения: 1002
Откуда: London
Пол: Мужской
Отреплицировать источник данных, переинициализировать дельту (если дельта-обновление) - не помогает?
Можно еще посмотреть, что твориться в SM50 в это время.
Если тихо, то пойти в RSA3 в исходной системе и протестировать нужный экстрактор.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:12 
Почетный гуру
Почетный гуру
Аватара пользователя

Зарегистрирован:
Ср, авг 16 2006, 03:22
Сообщения: 464
Пол: Мужской
Быть может в исходной системе фоновых процессов не хватает.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:13 
Старший специалист
Старший специалист

Зарегистрирован:
Чт, фев 16 2006, 15:46
Сообщения: 451
Откуда: Россия
Ммм, для многих. В данном случае я привёл лог 0FI_AR_4, дельта, и его вроде не расширяли.

У нас есть один экстрактор, самописный, который качает из самой системы в неё же (физически из таблички в систему) - вот у него всё нормально, такой разницы между этими событиями не появилось.

Посмотреть, что творится в SM50 в четыре часа ночи идея неплохая, но если честно - очень хочется ночами спать, вот.

Отреплицировать источник данных - проблема то у многих, и возникла одновременно.

_________________
Ян Владимирович,
http://www.vladimirovich.net


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:18 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вт, дек 12 2006, 23:57
Сообщения: 1002
Откуда: London
Пол: Мужской
Они по цепочке запускаются? Какие условия запуска?
Может действительно, куча экстракторов начинает работать и в исходной системе тупо не хватает фоновых процессов для них всех, поэтому кто-то сидит и курит в это время.

(зачем 4 утра? нельзя разве днем прогнать? предупредить юзеров и стартануть)


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:22 
Старший специалист
Старший специалист

Зарегистрирован:
Чт, фев 16 2006, 15:46
Сообщения: 451
Откуда: Россия
Цитата:
Они по цепочке запускаются? Какие условия запуска?
Может действительно, куча экстракторов начинает работать и в исходной системе тупо не хватает фоновых процессов для них всех, поэтому кто-то сидит и курит в это время.


Запускаются по цепочки, ну, там разные условия запуска :-) В основном - просто один за другим работать должны. Они и отрабатывают. Просто существенно медленнее.

В общем, проблема стала резко себя проявлять два дня назад, а цепочки никто не менял. И с R3 вроде никто ничего не делал. Проблема проявляет именно ночью, сейчас запустил на пробу экстрактор - отработал быстро.

Короче, если говорить о вопросах. Нужны логи (а так гадать кто что сделал в это время можно очень долго). Ести ли возможность получить более подробные логи об экстракторах со стороны R3 и со стороны BW?

Вот он написал "Запрос данных получен" и ждёт кучу времени. Где посмотреть, чего он ждёт?

_________________
Ян Владимирович,
http://www.vladimirovich.net


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:31 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вт, дек 12 2006, 23:57
Сообщения: 1002
Откуда: London
Пол: Мужской
[s]SM37?[/s]

SM21? )


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:35 
Старший специалист
Старший специалист

Зарегистрирован:
Чт, фев 16 2006, 15:46
Сообщения: 451
Откуда: Россия
Цитата:
SM21

Увы, там ничего по этой теме нет...

_________________
Ян Владимирович,
http://www.vladimirovich.net


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 14:59 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вт, дек 12 2006, 23:57
Сообщения: 1002
Откуда: London
Пол: Мужской
Тэк-с, окей.

RFC-соединение какого пользователя использует для подключения?
Он диалоговый или системный? (su01 смотрим).

Если диалоговый/системный, то смотрим сколько в R/3 диалоговых и фоновых процессов в SM50.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 16:02 
Специалист
Специалист

Зарегистрирован:
Пн, июл 18 2005, 12:10
Сообщения: 169
Пол: Мужской
не понимаю, что мешает посмотреть sm37 за ночь и понять что могло работать оновременно, благо время выполнения там есть. зачем ночью сидеть?


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 16:49 
Почетный гуру
Почетный гуру
Аватара пользователя

Зарегистрирован:
Вт, авг 17 2004, 09:59
Сообщения: 1097
Откуда: Moscow
Пол: Мужской
коллеги правильно говорят - смотрите нагрузку на систему ночью

очень часть такие проблемы возникают из за того, что одновременно в системе работают несоклько мощных фоновых заданий типа перегрузки регистра с миллиономаи документов или какой нить пересчет при закрытии или еще чего.. вроде как всего загружено 3-5 процессов, а система стоит колом ... так что ройте в этом направлении - тем более что вы сами сказали, что внезапно все без каких то злонамеренных действий...

и еще - потрясите админов - вдруг они запланировали бэкап на это время или какие нибудь процеудры обсдлуживания СУБД - тоже сажает серваки на ура...

так же админов трясоните - вдруг как на уровне операционнки на верваке в это время идет нехилая архивация базы с каким нить копированием ее кудато - тоже частенько убивает производительность...

_________________
In SAP we trust !


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Чт, май 20 2010, 20:17 
Почетный гуру
Почетный гуру
Аватара пользователя

Зарегистрирован:
Вт, июл 03 2007, 10:26
Сообщения: 486
Откуда: Kazakhstan, Astana
Пол: Мужской
Проблемы могут быть как на стороне Source System and BW.
Но, из всех симптомов, у Вас как и указали выше проблемы скорее всего на стороне Source System и вот почему =
На стороне Source System и на стороне BW могут выполнятся задачи. О которых сказал BW-ник.
Так как у вас проблемы при экстракции, то проблема по большей части на стороне Source System (Исходной системы).
Source System => InfoPackage => PSA
Source System, какие здесь могут быть проблемы = это те о которых описал BW-ник.
Source System и BW используют технологии ALE/tRFC позволяющих передавать данные.
Передача данных выполняется параллельно, значит нужно определять/настраивать уровень параллелизации.
Code:
Экстракция (сообщения): Все в порядке
Запрос данных получен  - 06:30:20
Выбор данных запланирован  - 08:56:05
6760 Записи отправлены ( 6760 Записи получены )  - 08:56:34
Выбор данных завершен - 08:56:34

Эти шаги выполняются на стороне Source system экстрактором. У вас стандартные экстракторы значит от SAP, здесь уже ничего не изменишь. И падение производительности носит системный характер.
Поэтому правильно заметили, что при экстракции необходимо определить проблемы с наличием свободных ресурсов Процессов. Транзакции sm50, sm51.
Далее проверяют обычно экстракцию в RSA3. Но у вас все OK.
Можно проанализировать в SE30 выбрав рабочие процессы с заданиями экстракции.
Фоновые задачи по экстракции на стороне ECC выполняет ALEREMOTE можем проанализировать SQL выражения (но это чаще всего для самописных экстракторов, но все таки просмотреть не помешает)его в ST05.
Обратите внимание на таблицу ROIDOCPRMS она очень важна для параллелизации. Число параллельных обработок = Число Фоновых процессов - 2.
Важен Размер Инфопакета влияющий на частоту выполнения например операции COMMIT в БД.
Все коды транзакции уже были описаны выше коллегами. А точный ответ вам вряд-ли кто даст, поскольку каждая система особенна по своему. Ваша проблема должна решаться с базисом.

549184 FAQ: What is important for extraction
417307 Extractor package size: Collective note for applications
157652 Main memory requirement for extraction from R/3

_________________
"Great minds discuss ideas. Average minds discuss events. Small minds discuss people-Eleanor Roosevelt--Knowledge is to share, Keep it free, Keep sharing"


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Пт, май 21 2010, 17:01 
Старший специалист
Старший специалист

Зарегистрирован:
Чт, фев 16 2006, 15:46
Сообщения: 451
Откуда: Россия
Мда... проблема проявляла себя три дня, и на четвертый как я сел её караулить ночью в SM50 - перестала.

У кого-то на небесах отличное чувство юмора :-)

_________________
Ян Владимирович,
http://www.vladimirovich.net


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Резкая потеря производительности работы экстракторов
СообщениеДобавлено: Вт, май 25 2010, 08:25 
Начинающий
Начинающий

Зарегистрирован:
Ср, июн 11 2008, 19:21
Сообщения: 5
Yanvladimirovich написал(а):
Привет. Возникла проблема: резко просела производительность экстракторов.

Значит, смотрю лог. Там так:

Code:
Экстракция (сообщения): Все в порядке
Запрос данных получен  - 06:30:20
Выбор данных запланирован  - 08:56:05
6760 Записи отправлены ( 6760 Записи получены )  - 08:56:34
Выбор данных завершен - 08:56:34


То есть, кто может объяснить, что происходит на этапе между "Запрос данных получен" и "Выбор данных запланирован"? Какие операции, куда смотреть на более подробные логи?

Если смотреть по логам экстрактора раньше, то эта операция занимала 3 (прописью: "три") секунды. Сейчас сервер тупит 2 часа 26 минут, причём непонятно по какой причине.


Привет,
Считаю, это может быть и проблема в BW и вот почему:
после того, как происходит "Запрос данных получен" экстрактор создает фоновое задание в системе, из которой экстракция будет делаться и посылает в BW "Выбор данных запланирован". При любых проблемах с этой системой фоновое задание будет создано быстро и поставлено в очередь на выполнение. Если в назначенное время старта у системы не окажется свободных ресурсов, старт выполнения будет задержан. Задачу и лог ее выполнения можно увидеть в SM37 - ее имя заканчивается на ID реквеста из BW. ID реквеста можно взять из монитора загрузки в BW. Утром, прийдя на работу, посмотрите, какая была задержка старта задачи, связанной с реквестом, а также лог ее выполнения. Там написано, когда началась выборка данных, когда их послали в BW. Сопоставив время, можно что-нибудь дальше разнюхивать.

Задержка может произойти при передаче сообщения "Выбор данных запланирован" из-за проблем в BW. Надо в системе- источнике открыть тр SM58 - очередь запросов TRFC для системы BW. В ней не должно быть много запросов. Если в ней все-таки их много, то надо разбираться, почему и в каком они статусе. Эти запросы по очереди должна обрабатывать BW. Если их много, то она их обрабатывает медленно, либо какой-то глючный экстрактор нагенерил их зря, а BW спокойно и планомерно их выполняет, либо просто сразу много экстракторов гонят свои данные в BW.

Надо проверить еще входящие IDOCи в BW (тр BD87). Если есть желтые и старые - смотреть, почему не происходит их обработка - либо настройки партнера, либо отказ системы из-за ресурсов.

Макс.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 15 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB