Короткий ответ
NPU (neural processing unit) — отдельный блок внутри процессора, спроектированный под операции нейросетей (матричные умножения INT8/FP16). Он делает это при малой мощности, освобождая CPU и GPU. В Core Ultra (Meteor Lake) это Intel AI Boost с ~11 TOPS INT8 (у Ultra 5 135H по спецификации Intel: NPU Peak TOPS 11, суммарно платформа ~33 TOPS с учётом CPU и GPU); в Lunar Lake (Core Ultra 200V) — NPU 4-го поколения до 48 TOPS, у топовых 258V суммарная платформенная производительность — 115 TOPS. У конкурента, Ryzen AI 300, NPU XDNA 2 даёт 50 TOPS. На практике NPU ускоряет фоновые ИИ-функции: эффекты видеозвонков, размытие фона, локальные функции ИИ в ОС и приложениях — но не игры и не классические программы.
Что NPU делает и чего не делает
Ускоряет (типовые задачи NPU):
- ИИ-эффекты видеозвонков: размытие фона, автокадрирование, зрительный контакт (Intel прямо указывает поддержку Windows Studio Effects в спецификациях чипов с NPU).
- Локальные модели компьютерного зрения: распознавание объектов, шумоподавление фото, сегментация.
- Компактные языковые модели и ассистенты, работающие офлайн через оптимизированные фреймворки.
- Постоянно активные функции с малым энергобюджетом: NPU эффективнее CPU/GPU в ваттах, поэтому «всегда включённый» ИИ-фон — его ниша.
Не ускоряет:
- Игры — рендер остаётся работой GPU; NPU не участвует в кадровой частоте.
- Классические программы (браузер, офис, монтаж таймлайна) — они не используют нейрооперации.
- Крупные LLM «как у серверов»: NPU берёт компактные модели; тяжёлый инференс всё ещё дело GPU с большой памятью.
Поколения NPU и цифры
| Платформа | NPU | TOPS (INT8) | Комментарий |
|---|---|---|---|
| Meteor Lake (Core Ultra серия 1) | NPU 3 «Intel AI Boost» | ~11 | суммарно платформа ~33–34 TOPS (CPU+GPU+NPU); поддерживает OpenVINO, WindowsML, DirectML, ONNX RT |
| Lunar Lake (Core Ultra 200V) | NPU 4 | до 48 | платформа 258V в сумме — 115 TOPS |
| Strix Point (Ryzen AI 300) | XDNA 2 | 50 | по данным AMD для Ryzen AI 9 365 |
Производители публикуют TOPS по-разному (интенсивность INT8, с разреженностью или без), поэтому сравнивайте платформы по официальным спецификациям, а не по цифрам из реклам. Историческая сводка поколений Intel (NPU3 → NPU4 → дальше) систематизирована в отраслевых обзорах VideoCardz.
Зачем NPU, если есть CPU и GPU
- Энергоэффективность. Матричные операции на маленьких ваттах: ИИ-эффекты звонка на NPU почти не трогают заряд; на CPU — съедают часы автономности. Именно поэтому NPU живёт в чипе, а не «в облаке».
- Офлайн и приватность. Локальные модели не отправляют данные наружу — камера, микрофон и документы обрабатываются на устройстве.
- Готовность платформы. ОС и приложения всё шире задействуют NPU (фильтры, ассистенты, генеративные функции) — чип с NPU не устареет для этих сценариев морально раньше времени.
- Разгрузка GPU. Пока NPU обрабатывает ИИ-слой, GPU остаётся свободным для интерфейса и рендера — меньше фризов при работающих фоновых функциях.
Как проверить и включить NPU
- Наличие: «Диспетчер устройств» → «Нейропроцессоры» (NPU) — или сверьте процессор на ark.intel.com (раздел NPU Specifications).
- Драйвер: установите OEM-пакет Intel NPU driver (или AMD AI-стек для Ryzen AI) — без него приложения не увидят ускоритель.
- Фреймворки: приложения обращаются к NPU через OpenVINO/DirectML/ONNX RT (перечень поддержанных фреймворков — в спецификациях Intel ARK).
- Проверка работы: в «Диспетчере задач» на вкладке производительности появляется графика NPU — при активации ИИ-функций (например, эффектов камеры Windows) видна нагрузка.
Что это значит при покупке
- Мобильная работа и звонки — NPU-платформа (Core Ultra, Ryzen AI 300) даёт заметно лучшую автономность при активных ИИ-функциях и запас на будущее ПО.
- Игровой ноутбук — NPU не влияет на FPS; переплата за ИИ-брендинг в игровом классе — вопрос цены, а не производительности в играх.
- Бюджетный ноутбук — NPU в дешёвых моделях встречается редко и почти не используется; важнее память и SSD.
Контекст выбора между платформами с NPU и без — в сравнении Core Ultra и 13-го поколения и в статье о маркировке Intel; флагманский iGPU рядом с NPU у AMD разобран в материале о Radeon 890M.
FAQ
NPU заменяет видеокарту для нейросетей? Нет. NPU — про эффективные компактные модели и фоновые функции. Для серьёзного инференса (большие LLM, генерация изображений) по-прежнему нужен GPU с большим объёмом памяти.
Сколько TOPS достаточно? Ориентир практический: ~11 TOPS (Meteor Lake) хватает для эффектов звонков и лёгких моделей; 40–50 TOPS (NPU 4/XDNA 2) — уровень для новых, более требовательных функций ОС и приложений. Конкретные требования зависят от ПО и растут со временем.
Почему производительность NPU считают в TOPS INT8? Нейросетевые операции выполняются преимущественно в 8-битных целых числах; TOPS — триллионы таких операций в секунду. FP16 и другие точности дают другие значения — отсюда и различия цифр у разных вендоров.
Нужен ли NPU для обычного офиса? Без ИИ-функций — нет: офисные задачи от NPU ничего не получают. Но как «запас на срок владения» NPU-платформа оправдана, если ноутбук планируется на 4–5 лет.
Виден ли NPU в Linux? Поддержка зависит от ядра и стеков вендора; на практике основные сценарии NPU сегодня — Windows с фирменными драйверами. Для Linux-специфичных задач уточняйте состояние поддержки вашего дистрибутива и ядра.