В учебном пособии изложены сведения о параллельном программировании с использованием OpenMP для современных параллельных высокопроизводительных вычислительных систем с общей памятью. Учебное пособие может быть использовано в процессе подготовки и переподготовки специалистов в области информационных технологий и программирования, а также в процессе обучения студентов и аспирантов высших учебных заведений по аналогичным направлениям.

Лекция 1. Введение......9Классификация параллельных архитектур......9Современные направления развития параллельных вычислительных систем......10Межузловые соединения в параллельных системах......12Инструменты создания параллельных программ......13Лекция 2. Основные конструкции OpenMP......16Основные принципы OpenMP......16Принципиальная схема программирования в OpenMP......17Синтаксис директив в OpenMP......19Особенности реализации директив OpenMP......23Директивы OpenMP......25Директивы shared, private и de-fault......25Директивы firstprivate и lastprivate......27Директива if......28Директива reduction......29Директива copyin......30Директива for......32Директива do......32Директива workshare......33Директива sections......34Директива single......36Лекция 3. Загрузка и синхронизация в OpenMP......38Синхронизация процессов в OpenMP......39Синхронизация типа atomic......40Синхронизация типа critical......41Синхронизация типа barrier......42Синхронизация типа master......44Синхронизация типа ordered......44Синхронизация типа flush......46Загрузка процессов в OpenMP. Директива schedule......48Загрузка типа static......49Загрузка типа dynamic......50Загрузка типа guided......50Загрузка типа runtime......51Лекция 4. Дополнительные возможности OpenMP......52Задание переменных окружения с помощью функций runtime OpenMP......52Передача данных с помощью директивы threadprivate......54Устаревшая конструкция передачи данных в директиве parallel do в OpenMP......58Функции блокировки в OpenMP......59Лекция 5. Отладка программ в OpenMP......63Условия состязательности......63Мертвая блокировка......66Средства автоматизированной отладки в OpenMP......68Отладка многопоточных программ с помощью отладчика TotalView......75Лекция 6. Настройка и ускорение программ в OpenMP......81Основные принципы настройки и ускорения программ в OpenMP......81Иерархия памяти......83Настройка кэш-памяти......83Зависимости по данным......86Эффективность параллельных программ и масштабируемость......88Лекция 7. Средства автоматизированного распараллеливания программ......90Основные средства автоматизированного распараллеливания и принципы их работы......90Автоматическое распараллеливание программ с помощью компиляторов Intel......92Настройки компиляторов Intel для распараллеливания программ с использованием OpenMP......92Настройки компиляторов Intel для распараллеливания программ для кластеров с разделенной памятью......94Дополнительные настройки в kmpcluster.ini-файле......98Дополнительные настройки компилятора Fortran в Cluster OpenMP......100Переменные окружения Cluster OpenMP......100Особенности реализации переменных окружения OpenMP в Cluster OpenMP......102Специальные функции Cluster OpenMP......102Загрузка данных в общую для всех узлов кластера память в Cluster OpenMP......106Настройки отладчиков в Cluster OpenMP......108Настройка динамической памяти при отладке в Cluster OpenMP......110Сводка переменных окружения Cluster OpenMP......111Литература......113

Левин М.П.
Левин Михаил Петрович — закончил с отличием Московский энергетический институт (1978) и заочную аспирантуру Вычислительного центра АН СССР (1984). Cтарший научный сотрудник (1993). С 1978 по 1980 год работал в отделе теоретической газовой динамики и численных методов Центрального института авиационного моторостроения. С 1980 по 1994 год аспирант, инженер, младший научный сотрудник, научный сотрудник, старший научный сотрудник в отделе механики сплошных сред Вычислительного центра АН СССР (РАН). С 1994 по 2000 гг. работал в Германо-Российском совместном предприятии Eurosoft GmbH в качестве главного специалиста. В 2000-2001 гг. — профессор Korea Advanced Institute of Science and Technology (Taejon, South Korea). С 2001 no 2002 гг. научный сотрудник компании deCODE Genetics, Inc. (Reykjavik, Iceland). В 2003-2005 гг. — главный специалист по математическому моделированию в компании General Energy Technologies. С 2005 по 2006 ведущий инженер по высокопроизводительным вычислительным системам в Центре компетенции и экспертизы компании Kraftway Corporation PLC. С 2006 года по настоящее время работает в Московском исследовательском центре корпорации Samsung Electronics — руководитель отдела теории вычислительных систем (Computer Science Group). За время работы им опубликовано более 75 работ по численным методам, по методам решения задач механики сплошных сред, по программированию и информатике. М.П.Левин является автором вычислительного ядра широко известных программных комплексов MicroFe, proFEt, StarkES, PlaTo, предназначенных для расчета строительных конструкций методом конечного элемента.