37. Многопроцессорные и многомашинные системы. Разные способы организации многопроцессорного комплекса.

Любая вычислительная система (будь то супер-ЭВМ или персональный компьютер) достигает своей наивысшей производительности благодаря использованию высокоскоростных элементов и параллельному выполнению большого числа операций. Именно возможность параллельной работы различных устройств системы является основой ускорения основных операций. Параллельные ЭВМ часто подразделяются по классификации Флинна на машины типа SIMD (Single Instruction Multiple Data - с одним потоком команд при множественном потоке данных) и MIMD (Multiple Instruction Multiple Data - с множественным потоком команд при множественном потоке данных).

Можно выделить 4 основных типа архитектуры систем параллельной обработки:

Конвейерная и векторная обработка.

Основу конвейерной обработки составляет раздельное выполнение некоторой операции в несколько этапов (за несколько ступеней) с передачей данных одного этапа следующему. Производительность при этом возрастает т.к. одновременно на различных ступенях конвейера выполняются несколько операций. Главный принцип вычислений на векторной машине состоит в выполнении некоторой элементарной операции или комбинации из нескольких элементарных операций, которые должны повторно применяться к некоторому блоку данных.

Машины типа SIMD.

Машины типа SIMD состоят из большого числа идентичных процессорных элементов, имеющих собственную память. Все процессорные элементы в такой машине выполняют одну и ту же программу. Модель вычислений для машины SIMD очень похожа на модель вычислений для векторного процессора: одиночная операция выполняется над большим блоком данных. Обрабатывающие элементы таких процессоров - универсальные программируемые ЭВМ. Проявление вычислительной модели: циклы на элементах массива, в которых значения, вырабатываемые на одной итерации цикла, не используются на другой итерации цикла.

Машины типа MIMD.

В мультипроцессорной системе каждый процессорный элемент (ПЭ) выполняет свою программу независимо от других процессорных элементов. В мультипроцессорах с общей памятью имеется память данных и команд, доступная всем ПЭ. С общей памятью ПЭ связываются с помощью общей шины или сети обмена. Сеть обмена связывает процессорные элементы друг с другом. Ее вид:

1. Модель распределенных вычислений (программа делится на большое число параллельных задач, состоящих из множества подпрограмм).

2. Модель потоковых вычислений (каждая операция в программе рассматриваться как отдельный процесс). По получении входных данных операция выполняется, и полученное значение передается тем процессам, которые в нем нуждаются.

Многопроцессорные машины с SIMD-процессорами.

Многие современные супер-ЭВМ представляют собой многопроцессорные системы, в которых в качестве процессоров используются векторные процессоры или процессоры типа SIMD. Такие машины относятся к машинам класса MSIMD.

Машины типа MSIMD используют 2 принципа: векторные операции для тех частей программы, которые подходят для этого, и гибкие возможности MIMD-архитектуры для других частей программы.