Текущее время: Чт, июн 26 2025, 20:07

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 45 ]  На страницу Пред.  1, 2, 3  След.
Автор Сообщение
 Заголовок сообщения:
СообщениеДобавлено: Чт, апр 03 2008, 14:58 
Почетный гуру
Почетный гуру
Аватара пользователя

Зарегистрирован:
Пн, дек 27 2004, 13:48
Сообщения: 772
Откуда: от верблюда
Bkmz написал:
к сведению...
Решение на некумулятивном кубе с притоками и оттоками не прокатило - на больших объемах валится в дамп.


А можно поподробнее - что за дамп, как боролись?
Ноты и sdn лопатили? в SAP писали?

_________________
Бросай курить, вставай на лыжи -
И вместо рака будет грыжа!


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Чт, апр 03 2008, 15:10 
Менеджер
Менеджер
Аватара пользователя

Зарегистрирован:
Чт, май 26 2005, 11:36
Сообщения: 651
Откуда: Киев-Москва
А если в ODS. Поле date_from - в ключе. Поле date_to - не в ключе.
Спокойно догружаете старую дельту, удаляете записи, если необходимо.

Самое важное - второй этап. Трансформация ODS самого на себя. Обновляется поле date_to. На expert routine анализируется записи по каждому компоненту ключа до (date_from) и присваивается date_to (date_from следующее минус 1 день).
Чтобы не было разрывов по временному ряду, не разбросало в разные пакеты данных, на DTP определить семантическую группу с ключем.
Такая модель работает достаточно хорошо.

Но, ещё раз повторюсь - идея не моя :(

_________________
Рисую потоки данных.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пт, апр 11 2008, 14:22 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
EVK написал(а):
А можно поподробнее - что за дамп, как боролись?
Ноты и sdn лопатили? в SAP писали?

Гавеленький дамп - MESSAGE_TYPE_X BRAIN 299 CHECK_KHANDLE система теряет указатель...
Поднимал месадж на него т.к. лекарства никакого не нашел, но буржуям нужен доступ в систему, а это никак не возможно, пришлось закрыть его без результата и придумать другое решение, более быстрое и гибкое.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пт, апр 11 2008, 14:29 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
Zharik написал(а):
А если в ODS. Поле date_from - в ключе. Поле date_to - не в ключе...

На самом деле я уже сделал решение, правда пришлось для этого попутно еще реализовать циклы для цепочек процессов 8)
Дату храню только одну, на которую и формирую остаток т.е. реально получаю остаток на каждый день в независимости от того, за какой промежуток времени отгрузили данные из исходной системы (хоть за год).


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт, апр 15 2008, 08:35 
Менеджер
Менеджер
Аватара пользователя

Зарегистрирован:
Чт, май 26 2005, 11:36
Сообщения: 651
Откуда: Киев-Москва
Bkmz написал:
На самом деле я уже сделал решение, правда пришлось для этого попутно еще реализовать циклы для цепочек процессов 8)
Дату храню только одну, на которую и формирую остаток т.е. реально получаю остаток на каждый день в независимости от того, за какой промежуток времени отгрузили данные из исходной системы (хоть за год).

Можно пару вопросов?
1. Вы пишите остатки даже за выходные дни? Т.к. иногда требуется считать сальды на первый и последний день месяца или на 10 число.
2. Не пугает, что объект хранения будет быстро расти?

_________________
Рисую потоки данных.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт, апр 15 2008, 10:12 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
Zharik написал(а):
Можно пару вопросов?
1. Вы пишите остатки даже за выходные дни? Т.к. иногда требуется считать сальды на первый и последний день месяца или на 10 число.
2. Не пугает, что объект хранения будет быстро расти?

1. Да, на каждый день - в банке 43 филиала (или больше), некоторые находятся за границей - в других часовых поясах, проводки есть и в выходные.
2.Не пугает :). Ежедневный прирост DSO ожидается порядка миллиона записей, тут уж ничего не поделаешь - придется партицировать DSO-шник в ручную (дает прирост производительности в 3-4 раза на активации - проверено).
p.s. По мне так лучше хранить разрывные остатки - большая экономия места, но реализация отчетности РСБУ требует остатков на каждый день...


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт, апр 15 2008, 11:11 
Специалист
Специалист

Зарегистрирован:
Ср, июл 12 2006, 11:57
Сообщения: 198
Пол: Мужской
Цитата:
Ежедневный прирост DSO ожидается порядка миллиона записей, тут уж ничего не поделаешь - придется партицировать DSO-шник в ручную (дает прирост производительности в 3-4 раза на активации - проверено).


Даже так? Здорово... спасибо за инфу, надо применить :)


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Ср, апр 23 2008, 16:52 
Менеджер
Менеджер
Аватара пользователя

Зарегистрирован:
Чт, май 26 2005, 11:36
Сообщения: 651
Откуда: Киев-Москва
Респект коллеге, связанному с банкингом. Сами эту тему топчем.
Прошу продолжать рассказывать про ход эксперимента.

Вопрос:
При заливке остатка задним числом Вам необходимо сгенерировать верную историю до следущего "настоящего" остатка. Как Вы это делаете?

_________________
Рисую потоки данных.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Ср, апр 30 2008, 09:45 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
Zharik написал(а):
Вопрос:
При заливке остатка задним числом Вам необходимо сгенерировать верную историю до следущего "настоящего" остатка. Как Вы это делаете?


У меня все идет от проводок, т.е. появляются или удаляются проводки задним числом, по ним расчитывается дельта для каждого дня и суммируется в DSO с остатками.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пт, авг 15 2008, 08:40 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
Инфа для заинтересованных :)
В ходе проекта реализованы:
расчет остатков по лицевым счетам на каждый день
учет изменений в проводках задним числом с отражением на текущих остатках
механизм дозагрузок данных из филиалов с которыми продолжительное время отсутсвовала связь
учет нестандартных операций с остатками на счетах
контрольные отчеты


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн, авг 18 2008, 06:44 
Менеджер
Менеджер
Аватара пользователя

Зарегистрирован:
Чт, май 26 2005, 11:36
Сообщения: 651
Откуда: Киев-Москва
Поздравляю.
Как реализовано хранение остатков и догрузка/перегрузка дельт?
А 101 округлённую форму делаете?

_________________
Рисую потоки данных.


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн, авг 18 2008, 09:56 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
Остатки сейчас лежат в одной банке, чуть позже будем делить на 12 кубов по месяцам чтобы жить было легче и пересчитывалоcm быстрее.
Ну а дозагрузка данных - это то же самое что изменения задним числом. Имея рабочий механизм протаскивания изменений з.ч. все дозагрузки легко в него ложатся, только на этапе новых проводок нужно действительно новые данные откинуть в стандартную обработку, а дозагрузы провести как изменения задним числом :)
101-ю будем собирать в SAP BW Add-on'e, который позволяет формировать отчетность по требованиям РСБУ (когда его пропатчат разработчики :).


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн, авг 18 2008, 10:07 
Ассистент
Ассистент

Зарегистрирован:
Ср, фев 14 2007, 12:06
Сообщения: 41
Bkmz написал:
к сведению...
Решение на некумулятивном кубе с притоками и оттоками не прокатило - на больших объемах валится в дамп.

Большие объемы - это сколько? У нас в ритейле работал куб с данными за 2 года.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
 Заголовок сообщения:
СообщениеДобавлено: Пн, авг 18 2008, 13:06 
Директор
Директор
Аватара пользователя

Зарегистрирован:
Вс, июн 26 2005, 22:41
Сообщения: 1135
Откуда: Москва
Пол: Мужской
master написал(а):
Большие объемы - это сколько? У нас в ритейле работал куб с данными за 2 года.

100 миллионов записей с разбивкой по дням (0CALDAY) - из некумулятива становилось невозможным извлечь остаток на заданную дату по всем счетам (3,5 млн. штук)
Какой интервал у вас использовался/используется?


Принять этот ответ
Вернуться к началу
 Профиль  
 
 Заголовок сообщения:
СообщениеДобавлено: Вт, авг 19 2008, 09:11 
Ассистент
Ассистент

Зарегистрирован:
Пт, дек 22 2006, 10:21
Сообщения: 29
Откуда: Moscow
Bkmz написал:
Остатки сейчас лежат в одной банке, чуть позже будем делить на 12 кубов по месяцам чтобы жить было легче и пересчитывалоcm быстрее.
Ну а дозагрузка данных - это то же самое что изменения задним числом. Имея рабочий механизм протаскивания изменений з.ч. все дозагрузки легко в него ложатся, только на этапе новых проводок нужно действительно новые данные откинуть в стандартную обработку, а дозагрузы провести как изменения задним числом :)
101-ю будем собирать в SAP BW Add-on'e, который позволяет формировать отчетность по требованиям РСБУ (когда его пропатчат разработчики :).


Как предполагается дальше данные загружать из 12 кубов? И сколько будет у Вас кубов через 5 лет, учитывая, рост объемов данных. Можно конечно архивировать, но тогда не так просто получить отчет за прошлый год, что вряд ли понравиться заказчику.
По поводу аддона по обязательной отчетности, я бы на Вашем месте не ждал. Я видел то что есть сейчас - такое патчами не лечится.


Принять этот ответ
Вернуться к началу
 Профиль Отправить email  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 45 ]  На страницу Пред.  1, 2, 3  След.

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: Ahrefs [Bot]


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  
cron
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
Русская поддержка phpBB