Параллелизм описывают на разных уровнях
SIMT и SIMD часто стоят рядом в объяснении вычислений. Оба термина помогают обсуждать обработку множества данных, но их нельзя считать одинаковой единицей архитектуры. Программный поток CUDA и векторный регистр CPU имеют разные роли. Поэтому число потоков GPU нельзя напрямую сравнить с шириной одной CPU-инструкции и вывести производительность по одному отношению.
Материал посвящён уровням модели, не повторяя общий счёт CUDA-ядер. Здесь нет универсальных процентов и результатов ноутбуков. Для точного вывода нужны ISA, API и архитектура. Упрощённая аналогия может помочь, но не должна превращаться в утверждение, что все GPU являются одним огромным векторным CPU с одинаковыми правилами для каждой операции и памяти.
SIMD
В соответствующей модели инструкция действует над предусмотренным набором элементов. Но ширина представления и фактическая реализация требуют документации. Нельзя считать каждый бит регистра отдельным независимым ядром. Формат данных также имеет значение: одно и то же число битов не означает одинаковое число элементов для любых типов и операций, которые использует программа.
Поддержка ISA не гарантирует, что приложение выбрало конкретную инструкцию. Компилятор и библиотека могут использовать другой путь. Поэтому наличие векторного расширения в спецификации CPU не является измеренным ускорением задачи. Для сильного вывода нужны активная реализация и сопоставимый результат, а не только список возможностей, который красиво выглядит в карточке ноутбука.
SIMT
Модель CUDA предоставляет множество программных потоков с предусмотренной организацией. Но это не означает столько же независимых процессоров Windows. Потоки группируются и используют ресурсы архитектуры по её правилам. Нельзя умножить их количество на паспортную частоту и получить корректный показатель полезной работы, игнорируя операции, ограничения и фактическую резидентность запуска.
Также программный поток не равен отдельной физической линии на всё время жизни. Планирование и распределение имеют значение. Для объяснения сохраняют уровни: запуск, блок, warp и аппаратный ресурс в применимой модели. Смешение их создаёт мнимую точность, когда большое число элементов программы ошибочно представляется постоянным числом одновременно работающих независимых вычислителей.
Управление потоком
Разные элементы работы могут иметь свои данные и условные пути. Но это не отменяет правил группового выполнения. Нельзя объявлять SIMT полной независимостью каждого действия без стоимости взаимодействия. При этом наличие ветвления не является автоматическим фиксированным штрафом. Для количественного вывода нужны фактические данные и профиль, а не только исходный if в коде.
Векторные маски и другие средства CPU также требуют отдельной семантики. Похожий результат программы не делает механизмы идентичными. Для статьи полезнее сохранять определения, чем переименовывать одну модель в другую ради краткости. Аналогия остаётся аналогией, пока не подтверждено конкретное соответствие, которое действительно относится к выбранным операциям, архитектуре и используемому API.
Память
Расположение данных и характер обращений влияют на обе области, но одинаковый размер массива не гарантирует одинаковую работу. Передача и доступ имеют свои ограничения. Поэтому нельзя сравнивать CPU и GPU по числу элементов одной операции, забывая подготовку. Для профессионального проекта важен полный результат, включая поддерживаемый путь и допустимую точность, а не победа одного сокращения в абстрактной таблице.
Также общая адресная модель не означает физически одинаковую память. Виртуальные указатели, размещение и когерентность имеют отдельные определения. Нельзя переносить свойства одной платформы на другую только по общему слову parallel. Для количественного объяснения нужны документы и методика, а не предположение, что вся работа с данными устроена одинаково из-за похожей цели алгоритма.
Что полезно сравнивать
Покупателю нужен тест программы, а не число условных «параллельных ячеек». Если есть архитектурная таблица, сохраняют формат, операцию и источник. Теоретические величины не смешивают с измеренными. Также результат настольной конфигурации нельзя автоматически перенести на мобильную с другим питанием, памятью и устройством системы только по поддержке того же интерфейса.
Для разработчика сначала проверяют одинаковую работу и результат. Более быстрый алгоритм с другой задачей не доказывает преимущество SIMT или SIMD. Полезное сравнение раскрывает реализацию и границы. Если детали неизвестны, их допустимо оставить неизвестными, не назначать универсальный коэффициент эффективности из красивого отношения числа потоков к ширине регистра.
Вектор внутри потока
Программный код может использовать составные типы и операции даже внутри одной модели потоков. Поэтому нельзя считать любое слово vector доказательством перехода всей программы на CPU SIMD. Важны API, инструкция и уровень описания. Название структуры данных не раскрывает физическое выполнение.
Это полезно при чтении профиля: одна строка исходного кода может порождать другую организацию аппаратной работы. Но по этому общему принципу нельзя восстановить каждую инструкцию без соответствующего источника. Для отчёта сохраняют наблюдаемое отдельно от предполагаемого. Похожий алгоритм не гарантирует одинаковые ресурсы, а общая математическая задача не превращает разные архитектуры в один механизм с универсальным переводом единиц.
Перед публикацией
Определения и модельная применимость требуют NEEDS_FACTCHECK_LATER. Главный вывод: SIMT, SIMD, программный поток и физическая линия различаются; похожая идея параллельных данных не создаёт прямого пересчёта ресурсов и не заменяет проверку реальной задачи.