Российская академия наук

Суперкомпьютерный консорциум университетов России

Сборник трудов

Международная суперкомпьютерная

конференция

Научный сервис в сети Интернет:

все грани параллелизма

Конференция молодых ученых

Теория и практика параллельного программирования

г. Новороссийск, 23-28 сентября 2013 г.

Издательство Московского университета 2013 УДК 519.7 ББК 22.18 Н 34 Научный сервис в сети Интернет: все грани Н 34 параллелизма: Труды Международной суперкомпьютерной конференции (23-28 сентября 2013 г., г. Новороссийск).

– М.: Изд-во МГУ, 2013. – 589 с.

Данный сборник содержит доклады, включенные в программу Международной суперкомпьютерной конференции «Научный сервис в сети Интернет:

все грани параллелизма» и Всероссийской конференции молодых ученых «Теория и практика параллельного программирования». Конференции проводятся с 23 по 28 сентября 2013 года. Подробную информацию о конференциях можно найти в сети Интернет по адресу http://agora.guru.ru/abrau Конференция проводится при поддержке Российского фонда фундаментальных исследований.

© Московский государственный университет,

УКРАИНСКАЯ НАЦИОНАЛЬНАЯ ПРОГРАММА UA-GRID И ЕЕ ДОСТИЖЕНИЯ

А.Г. Загородний, С.Я. Свистунов, Л.Ф. Белоус, А.Л. Головинский Аннотация. Доклад посвящен результатам выполнения Государственной целевой научно-технической программы "Внедрение и применение грид-технологий на 2009-2013 годы", которые вывели Украину на современный уровень использования грид-технологий, и перспективам международного сотрудничества Украины в рамках Европейской грид-инфраструктуры (EGI) в качестве ее участника NGI_UA.

История развития Для того, чтобы можно было оценить тот путь, который прошла Украина на пути формирования гридсообщества, приведем краткую историческую справку развития грид в Украине [1-4].

Первый в Украине грид-кластер, который был включен в европейскую грид-инфраструктуру, был создан в Харьковском физико-техническом институте НАН Украины в рамках совместных проектов с Объединенным институтом ядерных исследований (г. Дубна, Россия) и Европейским центром ядерных исследований (ЦЕРН) (г. Женева, Швейцария) в 2002 году. Являясь грид-центром уровня Tier-2, по терминологии виртуального сообщества WLCG (Worldwide LHC Computing Grid), ННЦ ХФТИ обслуживает по настоящее время один из основных экспериментов (СMS) Большого Адронного Коллайдера (БАК).

В 2005 году на заседании Координационного Совета по проблемам информатики НАН Украины был рассмотрен вопрос о внедрение грид-технологий в научных учреждениях академии. Распоряжением № Президиума НАН Украины от 25 апреля 2006 г. была утверждена концепция и Программа «Внедрения Гридтехнологий и создание кластеров в Национальной академии наук Украины», Институт теоретической физики был выбран базовой организацией, отвечающей за выполнение Программы. Этой Программой было предусмотрено создание грид–кластеров в институтах Академии Наук с целью дальнейшего объединения их в первый украинский грид-сегмент.

Благодаря выполнению задач этой Программы в 2007-2008 годах была построена основа ресурснотехнической базы украинского Академического грида, и создан первый в НАН Украины (и вообще в Украине) грид-сегмент в составе Института теоретической физики, Института молекулярной биологии и генетики, Института клеточной биологии и генной инженерии, Главной астрономической обсерватории, Института физики конденсированных систем (г. Львов) и Киевского национального университета им. Тараса Шевченко.

По состоянию на начало 2008 г. она состояла из 16-ти грид-кластеров, объединенных высокоскоростными оптоволоконными каналами связи в единую грид-сеть. Cогласно договоренности с EUGridPMA, был создан Сертификационный центр открытых ключей в Украине, Одной из главных задач при создании украинской грид-инфраструктуры было оформление официального статуса НАН Украины в международной Грид-коллаборации WLCG, которая расположена в ЦЕРНе. Эта задача была успешно решена. На заседании управляющего комитета, которое состоялось 26 апреля 2006 г., Украина была принята в члены организации WLCG. Институт теоретической физики им. Н.Н.

Боголюбова был подключен к академической оптоволоконной Интернет-сети УАРНЕТ, что позволило начать на кластере ИТФ реальную практическую работу в AliEn-grid, который является частью общей гридинфраструктуры WLCG, и обслуживать прежде всего эксперимент ALICE.

На этом мы завершим историческую справку. К началу 2009 года в Украине был создан грид-сегмент Академии наук, который реально использовался в научных исследованиях.

Следующий этап развития грид-технологий в Украине начался в конце 2009 года, когда постановлением Кабинета Министров Украины от 23 октября 2009 года была утверждена Государственная целевая научно-техническая программа внедрения и применения грид-технологий на 2010-2013 годы (в дальнейшем именуемая UA-Grid).

Целью Программы является создание национального грид и широкое внедрение грид-технологий в научную и социально-экономическую сферу.

Основными исполнителями программы были определены Национальная академия наук Украины, Министерство образования и науки Украины и Министерство здравоохранения Украины. Институт теоретической физики им. Н.Н. Боголюбова НАН Украины является головной организацией по выполнению программы, а директор института, академик НАН Украины А.Г. Загородний назначен руководителем программы UA-Grid.

Для дальнейшего удобно рассматривать эту программу как состоящую из двух этапов.

До 2011 года продолжалось развитие инфраструктуры Украинского национального грид, в основном за счет увеличения количества устанавливаемых грид-кластеров и так называемых грид-платформ доступа (гридкластер с минимальными ресурсами, подключенный к грид-инфраструктуре для учебных целей). Именно на первом этапе была создана и в достаточной степени оттестирована основная грид-инфраструктура, созданы ресурсные центры, сформировались тематические виртуальные организации, были разработаны грид-сервисы, упрощающие работу ученых со своими прикладными пакетами.

На данный момент централизованное управление национальной грид-инфраструктурой осуществляют Координационный научно-технический совет Программы и образованный им исполнительный орган – Координационный комитет Программы.

Основными составляющими грид-инфраструктуры Украины являются:

• Базовый координационный грид-центр национального уровня (BCC);

• региональные координационные грид-центры (ROD);

• ресурсные центры национального уровня (ИК им. В.М. Глушкова и НТУУ КПИ);

• центр удостоверения цифровых сертификатов с региональными филиалами;

• центр регистрации запросов на цифровые сертификаты;

• центр сертификации грид-сайтов;

• центр регистрации виртуальных организаций и учета членов виртуальных организаций;

• центр мониторинга грид-инфраструктуры;

• центры виртуальных организаций;

• узлы национального грида (ресурсные центры).

Базовый координационный центр выполняет функции Провайдера инфраструктуры грид-ресурсов Украинского национального грида в отношениях с Международным грид-сообществом и подписывает международные соглашения в области взаимодействия на операционном уровне, которые вступают в силу после ратификации Координационным Комитетом программы UA-Grid.

Приводимый ниже мониторинг Украинского грид-сегмента со стороны ARC-middleware иллюстрирует успехи программы UA-Grid по привлечению участников.

На февраль 2013 года в Украинской грид-инфраструктуре зарегистрировано 38 кластеров с общим количеством ядер более 3100 и доступным дисковым пространством 250TB. Самым мощным ресурсным центром украинского грид является кластер Института кибернетики им. В.М. Глушкова (г. Киев) с пиковой производительностью порядка 20 Tflops. Конечно, на фоне самого мощного в мире суперкомпьютера Cray XK (17,59 Pflops) и подобными же порядками (Pbytes) файловых хранилищ достижения Украины по строительству вычислительной инфраструктуры весьма скромные.

Да, действительно, этими параметрами украинский грид похвастаться не в состоянии. Но что касается созданной грид-инфраструктуры и программного обеспечения, то украинский грид находится на передовых позициях на всех уровнях, начиная от grid-middleware, прикладных пакетов, виртуальных организаций и заканчивая созданием интегрированных систем управления суперкомпьютерами, которые позволяют пользователям-ученым использовать ресурсы HPC, не вникая в тонкости операционного окружения, включая грид и облачные вычисления.

Несмотря на явную недостаточность финансирования государственной программы, к участию в ней было привлечено значительное количество квалифицированных специалистов во всех основных академических и учебных организациях, которые понимали перспективу новых информационных технологий, среди которых грид-технологии занимают далеко не последнее место.

Не менее важно отметить инициативу ИТФ и НТУУ КПИ по подготовке молодых специалистов в области грид-технологий, по созданию учебных центров, учебных программ и изданию ряда учебных пособий.

Основные достижения, а также научные результаты, полученные партнерами UA-Grid проекта на первом этапе и в начале второго этапа, представлены в сборнике [5].

Однако, основной проблемой, в значительной степени нивелировавшей прилагавшиеся усилия, оставалась изолированность UNG, по причине отсутствия его в мировой грид-инфраструктуре в качестве члена так называемой Национальной Грид Инициативы (NGI).

Представление BCC в качестве провайдера грид-услуг на Украине позволило начать переговоры с руководством проекта EGI.eu об интеграции грид инфраструктуры Украины на техническом уровне в европейскую грид-инфраструктуру EGI. Согласованный «Меморандум о взаимопонимании» между EGI.eu и БКЦ, который определил процедуру и последовательность действий по развертыванию сервисов EGI.eu в Украине, был подписан в конце ноября 2011 года.

В середине июля 2012 г. украинская грид-инициатива Украины (NGI_UA) завершила процесс сертификации основных грид-сервисов и стала полноправным членом команды EGI на техническом уровне.

В настоящее время в состав NGI_UA в состоянии «сертифицировано» (промышленная эксплуатация) входят 12 грид-сайтов.

Процесс подключения украинских грид-сайтов в грид-инфраструктуру EGI продолжается. Можно констатировать, что Национальная Грид-Инициатива Украины (NGI_UA) функционирует как полноправный член международного грид-сообщества. Открыт путь использования общей инфраструктуры и интеграции на уровне виртуальных организаций. Виртуальная организация (Virtual Organization - VO) является динамическим сообществом людей и/или учреждений, которые совместно используют вычислительные ресурсы в соответствии с согласованными между ними правилами.

Международное сотрудничество Как можно заметить, международное сотрудничество началось с самого начала существования украинского грида (как уже ранее упоминалось, с 2002 года), когда ННЦ ХФТИ, а затем ИТФ НАН Украины и ряд других академических и учебных заведений стали членами коллаборации по физике высоких энергий WLCG.

Но за прошедшее время, как бы незаметно, грид-технологии проникли практически во все области знаний в виде того, что называется электронной наукой (e-science). Отражением этого расширения гридифраструктуры являются, прежде всего, виртуальные организации.

Коротко перечислим основные виртуальные организации, которые созданы в Украине, а также те, в которых украинские ученые принимают участие:

• MolDynGrid – молекулярная биология ( https://moldyngrid.org );

• Medgrid – медицинская грид-система для популяционных исследований в области кардиологии • ( http://medgrid.immsp.kiev.ua/http://medgrid.immsp.kiev.ua/ );

• SysBio – реконструкция сетей генной регуляции ( http://infrastructure.kiev.ua/ru/monitoring/56/ );

• MatModEn – математическое моделированию в задачах энергетики • ( http://infrastructure.kiev.ua/ru/monitoring/59/ );

• CompuChemGridUA — квантовая химия;

• Мultiscale - решение широкого спектра научно-прикладных задач, которые требуют многоаспектного подхода, начиная от квантово-химических расчетов и заканчивая мезоскопическим уровнем моделирования (http://www.icmp.lviv.ua/multiscale/ );

GEOPARD – Вычисление трехмерных сейсмических полноволновых моделей в грид-среде, исследования радиационно-стимулированных процессов, фазовых превращений и изоморфных замещений в минеральных структурах в связи с решением задач нано- и радиационной минералогии (http://vo.igmof.org.ua/http://vo.igmof.org.ua/);

VIRGO.UA - космология и астрофизика ( http://grid.virgo.org.ua/ );

CMS, ALICE - физика высоких энергий — коллаборация Церн;

Gaussian — квантовая химия (http://egee.grid.cyfronet.pl/Applications/gaussianvo);

WeNMR — создание мировой инфраструктуры для ЯМР-спектроскопии и структурной биологии ( http://www.wenmr.eu/);

Направления развития NGI_UA Сейчас достаточно сложно сказать как будет развиваться Украинское грид-сообщество в целом и гридинфраструктура, как технологическая платформа этого сообщества. Но у нас есть впечатляющий образец для подражания – Польская грид-инициатива, которая создавалась в рамках проекта PL-Grid (2009-2012) и получила дальнейшее развитие в проекте PL-Grid PLUS.

Создание инфраструктуры PL-Grid не только расширило количество вычислительных ресурсов, предоставляемых в польском научном сообществе – более 230 Тфлопс вычислительной мощности и более ТБ дискового пространства – но и реально привлекло большое количество пользователей к эффективному использованию этих ресурсов путем предоставления инновационных услуг сети и удобных инструментов, а также обеспечивая постоянную техническую поддержку.

Если в части ликвидации очевидного отставания в части суперкомпьютерных мощностей для NGI_UA достаточно сложно что-либо планировать, то по части использования грид-инфраструктуры и ее развития можно выделить следующие основные задачи:

• Поддержка функционирования центральных сервисов NGI_UA, выполнение всех требований EGI по обновлению промежуточного программного обеспечения (уже летом 2013 года будет выполняться переход на новую версию EMI-3), расширение числа грид-сайтов, входящих в состав NGI_UA.

• Внедрение в практику использования в NGI_UA так называемых SLА («Соглашение об уровне предоставления сервиса») – контрактов, призванных обеспечить надежное и гарантированное предоставление сервиса Виртуальным организациям.

• Налаживание международных связей с целью участия в совместных международных проектах.

• Разработка удобных и простых в изучении средств использования HPC-технологий для широкого привлечения ученых-непрофессионалов в области программирования и использования операционных Только восемь месяцев грид-сайты, входящие в NGI_UA, начали работать по правилам европейского грид-сообщества, и нам сейчас понятны ближайшие практические шаги в развитии Украинского грид, которые необходимо сделать. Но европейское гри-сообщество постоянно развивается.

В конце 2012 года EGI-InSPIRE опубликовало программный документ «EGI.EU transition plan to ERIC»

(План перехода от EGI.eu - фонда к консорциуму European Research Infrastructure Consortium) [6].

Совершенно очевидно, что до 2015 года время еще есть и сам указанный документ будет корректироваться, но уже сейчас нужно отслеживать тенденции развития европейского грид-сообщества, чтобы Украина была достойно представлена в будущей Цифровой программе Европы.

ЛИТЕРАТУРА:

1. А.Загородний, Г. Зиновьев, Е. Мартынов, С.Я. Свистунов: Украинский академический грид - Укріїнськомакедонський науковий збірник.: Випуск 4,Київ 2009, Вид. Нацональна бібліотека України імені В.І.Вернадського, с.140-150.

2. Е.Martynov, G.Zinovjev, S.Svistunov: Academic segment of Ukrainian Grid infrastructure - System Research and Information Technologies. : 2009. № 3., pp. 31–42.

3. S.Svistunov: Ukrainian Grid Infrastructure. Current state - Proceedings of the XXIII International Symposium on Nuclear Electronics &Computing (NEC'2011), Varna, Bulgaria, Sep. 12-19, 2011: Dubna, JINR, 2011, pp.246-252.

4. На шляху до европейского грид, Издательстве НТУУ КПИ ВПК «ПОЛИТЕХНИКА», 2012 г., 392 стр.

docid=1339&version=11&filename=EGI-D2.11-1339-V3.pdf.