Текущее время: Чт, авг 07 2025, 21:16

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ 1 сообщение ] 
Автор Сообщение
 Заголовок сообщения: Передача данных из BI через PI\XI
СообщениеДобавлено: Вс, июн 17 2012, 02:05 
Ассистент
Ассистент

Зарегистрирован:
Чт, май 03 2007, 19:56
Сообщения: 43
Добрый день.
Стоит задача организовать выгрузку данных из BI в "стороннее приложение" с использование шины PI\XI, но со следующими "нюансами":
1) В пиковые моменты (не часто, но бывает) объем данных будет достигать милиона записей из кубов (около 10 Гб)
2) Передача должна быть организована в режиме а-ля онлайн (то бишь пользователь жмет кнопку и данные отправляются в PI - как вариант: запускается цепочка в бетче)

коллеги со стороны PI сказали что максимально возможный (с их точки зрения) объем одного пакета: 10 Мб, то есть для того чтобы передать милион записей придется делать около 1000 пакетов по 1000 записей каждый + работа немалого количества пользователей , которые могут одновременно захотеть послать данные . Соответственно, большая вероятность того, что PI просто не "выдержит" таких объемов и нужна грамотная выгрузка данных из кубов. Если PI принял 900 пакетов, а 100 не смог, то надо "рестартовать" с этих 100 пакетов.

После прочтения САПовской how to по интеграции BI с XI (сделанной еще для версии 3.5) остались вопросы: действительно ли стоит применять OPEN HUB (выгружать данные из кубов в Z-таблицу) и насколько "стабильно" это решение будет работать с большими объемами и с одновременной работой пользователей? или может лучше сделать Write-optimezed DSO, писать туда уже пакетами по 1000 записей, потом считывать из него по request'у и сразу после успешной отправки в шину, удалять request?
и еще, когда делать commit: после каждого успешно переданного (в PI) пакета или после передачи всего объема транзакционных данных? Первый вариант на, мой взгляд, не логичен с точки зрения "бизнеса" , второй с точки зрения техники.

В общем, если кому-либо приходилось решать похожие задачи - поделитесь плиз идеями.
Ну и заранее большое спасибо за любые советы, ответы на вопросы, подсказки и т.д.


Принять этот ответ
Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ 1 сообщение ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: Yandex [Bot]


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB