Skip to content
TheChatArchiveThe Chat Archive
gpt-3.5-turbo-0125· OpenAIAi2 WildChat-4.8M (AI2)

//выделили верт измерение сетки int rowsFlags[2]={0, 1}; MPIComm rows;…

  1. User

    //выделили верт измерение сетки int rowsFlags[2]={0, 1}; MPI_Comm rows; MPI_Cart_sub(custom_communicator, rowsFlags, &rows); //и гор оси int colsFlags[2]={1, 0}; MPI_Comm cols; MPI_Cart_sub(custom_communicator, colsFlags, &cols);

    //раздача начальных значений А
    if(coords[X] == 0){
    	MPI_Scatter(a, numberRows * COLS_A, MPI_DOUBLE, partA, numberRows * COLS_A, MPI_DOUBLE, 0, cols);
    }
    MPI_Bcast(partA, numberRows * COLS_A, MPI_DOUBLE, 0, rows);
    
    MPI_Datatype column;
    MPI_Datatype resized_column;
    MPI_Type_vector(ROWS_B, numberColumns, COLS_B, MPI_DOUBLE, &column);
    MPI_Type_commit(&column);
    MPI_Type_create_resized(column, 0, (size_t)(numberColumns * sizeof(double)), &resized_column);
    MPI_Type_commit(&resized_column);
    
    //раздача начальных значений b
    if(coords[Y] == 0){
    	MPI_Scatter(b, 1, resized_column, partB, numberColumns * ROWS_B, MPI_DOUBLE, 0, rows);
    }
    MPI_Bcast(partB, numberColumns * ROWS_B, MPI_DOUBLE, 0, cols);
    //посчитали
    part_multiply(partC, partA, partB, numberRows, numberColumns);
    
    MPI_Datatype block;
    MPI_Datatype block_resized;
    MPI_Type_vector(numberRows, numberColumns, COLS_B, MPI_DOUBLE, &block);
    MPI_Type_commit(&block);
    MPI_Type_create_resized(block, 0, (size_t)(numberColumns * sizeof(double)), &block_resized);
    MPI_Type_commit(&block_resized);
    int recv_counts[size];
    for(size_t i = 0; i < size; i++){
    	recv_counts[i] = 1;
    }
    

    как здесь распределяются данные

  2. Assistant

    Здесь данные распределяются следующим образом:

    1. Используется двумерная решетка с коммуникатором custom_communicator.
    2. Выделяются два подкоммуникатора: один для строк (rows) и один для столбцов (cols).
    3. Начальные значения матрицы A распределяются по столбцам. Процесс с координатами [0, Y] (где Y - номер столбца) отправляет свою часть матрицы A другим процессам в подкоммуникаторе cols с использованием функции MPI_Scatter.
    4. Затем каждый процесс в подкоммуникаторе rows получает свою часть матрицы A с помощью MPI_Bcast.
    5. Тип данных column создается для передачи столбцов матрицы B.
    6. Начальные значения матрицы B также распределяются по столбцам. Процесс с координатами [X, 0] (где X - номер строки) отправляет свою часть матрицы B другим процессам в подкоммуникаторе rows с использованием функции MPI_Scatter.
    7. Затем каждый процесс в подкоммуникаторе cols получает свою часть матрицы B с помощью MPI_Bcast.
    8. Выполняется умножение матрицы A на матрицу B.
    9. Создаются типы данных block и block_resized для правильной передачи результатов умножения.
    10. Для последующего сбора результирующих данных процесс создает массив recv_counts, в котором указывается, сколько блоков данных каждый процесс должен получить в результате операции сбора.
  3. User

    и как это работает в двух словах

  4. Assistant

    В данном коде параллельно вычисляется умножение матриц A на B с использованием двумерной решетки процессов. Данные распределяются по столбцам и передаются между процессами с помощью функций MPI_Scatter и MPI_Bcast. Результаты умножения собираются с учетом размера блоков данных для каждого процесса.

  5. User

    и что происходит в 1 блоке что во 2 и как они распределяются логически

  6. Assistant
    1. В первом блоке происходит распределение частей матрицы A по столбцам между процессами в подкоммуникаторе cols и частей матрицы B по столбцам между процессами в подкоммуникаторе rows. После этого происходит умножение этих частей матриц для получения части результирующей матрицы C.

    2. Во втором блоке процессам отправляются и получаются части результирующей матрицы C, полученной после умножения частей матриц A и B. Результаты умножения собираются с учетом размеров блоков данных для каждого процесса.

    Распределение данных логически происходит следующим образом:

    • Первоначальные данные матриц A и B разбиваются на части и отправляются процессам внутри подкоммуникаторов cols и rows.
    • После умножения процессы обмениваются частями результирующей матрицы C с учетом объема данных, который каждый процесс должен получить при операции сбора.
  7. User

    зачем здесь resized_column

  8. Assistant

    В данном коде resized_column используется для правильного определения типа данных при передаче столбцов матрицы B с использованием функции MPI_Scatter.

    Тип данных column создается с помощью функции MPI_Type_vector для описания передачи столбцов матрицы B. Однако, при использовании MPI_Scatter требуется указать смещение в битах от начала типа данных для каждого процесса, чтобы корректно разбить данные на части. Для этого и используется создание resized_column с помощью MPI_Type_create_resized, чтобы определить смещение в битах на основе размера элемента столбца матрицы B.

    Таким образом, resized_column позволяет корректно передавать данные столбцов матрицы B между процессами при использовании операции MPI_Scatter.

  9. User

    и как он здесь понимает какого размера это должно быть

  10. Assistant

    Тип данных resized_column используется для корректного определения смещения в битах для передачи столбцов матрицы B при использовании функции MPI_Scatter.

    При создании resized_column с помощью MPI_Type_create_resized, указывается смещение в битах относительно начала типа данных column, чтобы определить, откуда начинается передаваемый столбец. Размер обрезанного типа данных resized_column определяется автоматически на основе указанного смещения и размера столбца матрицы B, который передается в качестве аргумента функции MPI_Scatter.

    Таким образом, благодаря использованию resized_column и указанию смещения в битах, MPI интепретирует правильно размер передаваемого столбца матрицы B.

  11. User

    в какой это строке

  12. Assistant

    MPI_Type_create_resized используется в следующей строке кода:

    MPI_Type_create_resized(column, 0, (size_t)(numberColumns * sizeof(double)), &resized_column);
    

    В этой строке создается resized_column путем изменения размера данных типа column с указанием смещения в битах от начала типа данных column и нового размера данных, который равен размеру столбца матрицы B в битах.

  13. User

    а тут что MPI_Type_vector(ROWS_B, numberColumns, COLS_B, MPI_DOUBLE, &column);

  14. Assistant

    В этой строке кода:

    MPI_Type_vector(ROWS_B, numberColumns, COLS_B, MPI_DOUBLE, &column);
    

    функция MPI_Type_vector используется для создания нового произвольного типа данных column, который описывает блок данных, в котором элементы расположены в виде вектора. Конкретно в данном случае, она создает тип данных для передачи столбцов матрицы B.

    Аргументы функции означают следующее:

    • ROWS_B - количество элементов в каждом блоке, в данном случае это количество строк в столбце матрицы B.
    • numberColumns - количество блоков данных, в данном случае это количество столбцов в матрице B.
    • COLS_B - расстояние (шаг) между элементами в байтах внутри каждого блока.
    • MPI_DOUBLE - тип данных элементов в блоке (в данном случае это вещественные числа типа double).
    • &column - адрес, куда будет записан созданный произвольный тип данных.

    Итак, эта строка создает тип данных column, который описывает структуру столбцов матрицы `B для дальнейшей передачи между процессами.

  15. User

    так а как он здесь обрабатывает смещение MPI_Type_create_resized(column, 0, (size_t)(numberColumns * sizeof(double)), &resized_column);

  16. Assistant

    MPI_Type_create_resized используется для создания нового произвольного типа данных, основанного на существующем типе column, но с измененным смещением.

    В данном конкретном случае:

    • Исходный тип данных column описывает структуру столбцов матрицы B.
    • Смещение в битах от начала типа данных column установлено равным 0, что означает, что первый столбец начинается с начала типа.
    • Новый размер данных, указанный как (size_t)(numberColumns * sizeof(double)), вычисляется как размер столбца матрицы B в битах, что является правильным смещением от начала типа для корректной передачи столбцов матрицы B.

    Таким образом, MPI_Type_create_resized позволяет создать новый тип данных resized_column, который является производным от типа column с учетом правильного смещения для корректной передачи данных столбцов матрицы `B.

  17. User

    а зачем все-таки было писать так сложно //выделили верт измерение сетки int rowsFlags[2]={0, 1}; MPI_Comm rows; MPI_Cart_sub(custom_communicator, rowsFlags, &rows); //и гор оси int colsFlags[2]={1, 0}; MPI_Comm cols; MPI_Cart_sub(custom_communicator, colsFlags, &cols);

    //***раздача начальных значений А и B
    if(coords[X] == 0){
    	MPI_Scatter(a, numberRows * COLS_A, MPI_DOUBLE, partA, numberRows * COLS_A, MPI_DOUBLE, 0, cols);
    }
    MPI_Bcast(partA, numberRows * COLS_A, MPI_DOUBLE, 0, rows);
    //создаем и тип данных "столбец" и раздаем
    MPI_Datatype column;
    MPI_Datatype resized_column; //кусок строки нужного размера
    MPI_Type_vector(ROWS_B, numberColumns, COLS_B, MPI_DOUBLE, &column);//сделали созданный тип вектором
    MPI_Type_commit(&column);//и закрепили
    MPI_Type_create_resized(column, 0, (size_t)(numberColumns * sizeof(double)), &resized_column);//смещаем в битах от начала столбец 
    MPI_Type_commit(&resized_column);
    if(coords[Y] == 0){
    	MPI_Scatter(b, 1, resized_column, partB, numberColumns * ROWS_B, MPI_DOUBLE, 0, rows);
    }
    MPI_Bcast(partB, numberColumns * ROWS_B, MPI_DOUBLE, 0, cols);
    

    а не просто скатер и бкаст

  18. Assistant

    Использование сложных операций передачи данных, таких как создание типов данных MPI_Type_vector и MPI_Type_create_resized, а затем их комбинация с функциями MPI_Scatter и MPI_Bcast, имеет свою цель и позволяет более гибко управлять передачей данных в параллельной среде. На практике это может обеспечить оптимизацию обмена данных и улучшение производительности параллельного алгоритма.

    Более простые операции MPI_Scatter и MPI_Bcast обычно используются для простой передачи данных, но когда требуется передача сложных структур данных, например, столбцов матрицы, или когда необходимо управление смещением и размером передаваемых данных, такие более сложные методы становятся необходимыми.

    Кроме того, использование созданных типов данных может помочь в унификации кода и обеспечении его более строгой структуры, что делает его более понятным и поддерживаемым.