Гайд · Рабочие задачи
NPU или GPU в ноутбуке: кто выбирает устройство для модели

Планировщик ОС не переносит любую модель на NPU автоматически. Устройство выбирается через приложение, runtime, execution provider и поддерживаемые операции.
Отделите системное планирование от размещения модели
ОС распределяет вычислительные ресурсы и управляет устройствами, но для выполнения нейросети нужен программный путь, который умеет использовать выбранный ускоритель. Приложение обращается к runtime, а тот использует доступные механизмы выполнения. Наличие NPU в процессоре и цифра TOPS не подтверждают, что установленная программа отправляет туда свою модель. Сначала выясните, каким runtime пользуется приложение и какой механизм ускорения оно поддерживает.
Для пользовательской функции ищите требования разработчика к ОС, драйверу, модели оборудования и версии приложения. Для собственного проекта запишите формат модели, точность и нужные операторы. Инференс уже подготовленной модели и обучение являются разными задачами; поддержка одного пути не обещает другого. Полезное описание конфигурации содержит название приложения или проекта, runtime, provider, устройство и версию драйвера. Без этой цепочки сравнение NPU и GPU остаётся сравнением паспортных блоков, не фактического поведения программы.
Execution provider связывает runtime с поддерживаемым устройством
ONNX Runtime описывает execution providers как средства выполнения поддерживаемых частей графа на конкретной программной платформе. Интерфейс GetCapability позволяет определить, какие узлы или подграфы provider может обработать. Поэтому выбор ускорителя начинается с доступного provider и поддерживаемых операций, а не с автоматического преобразования любого кода в работу NPU.
Название производителя provider не всегда соответствует одному типу аппаратного блока. В документации Windows ML перечислены разные реализации, включая OpenVINO, QNN и другие, с отдельными условиями устройств и драйверов. Проверяйте именно выбранную реализацию и аппаратное устройство. Например, само название OpenVINO не означает, что используется NPU: этот стек рассматривает несколько устройств и режимов. Для сравнения полезно фиксировать полный путь выполнения, иначе программа на CPU и программа на NPU могут ошибочно попасть в одну строку из-за общего названия библиотеки.
Граф может быть разделён между ускорителем и CPU
Если выбранный provider поддерживает только часть операций, runtime может разместить другие части через доступный следующий путь. ONNX Runtime описывает разделение графа и использование providers в установленном порядке. Поэтому присутствие NPU в сеансе не доказывает, что каждый оператор выполнен на нём. Перемещение данных и границы между частями графа тоже относятся к общей работе модели.
Проверьте политику fallback своего приложения. Некоторые сценарии допускают CPU для неподдерживаемых узлов, другие требуют выполнения всей модели на определённом устройстве и должны завершаться ошибкой при нарушении условия. Эти варианты полезны для разных задач и дают разные результаты. Не оценивайте ускорение по единственному сообщению «provider доступен». Нужны сведения о размещении операций и полный результат работы. Если часть графа не поддерживается, решение может заключаться в другой модели или конвертации, а не в выборе ноутбука с большим заявленным TOPS.
Windows ML позволяет явный выбор и политики устройства
В документации Windows ML Microsoft предлагает начать с явного выбора execution providers для предсказуемости. Программа перечисляет доступные устройства через GetEpDevices, фильтрует нужный provider и тип оборудования, затем добавляет его в параметры сеанса. Важно также обработать ситуацию, когда подходящего устройства нет. Это работа приложения с доступными механизмами, а не обещание, что пользовательская ОС сама выберет NPU для любого процесса.
Другой путь — Device Policies: в документации перечислены варианты, включая MAX_PERFORMANCE, PREFER_NPU и MAX_EFFICIENCY. Они задают предпочтение или цель выбора, но их нельзя читать как гарантию полного выполнения каждого оператора на NPU. Microsoft также предупреждает, что список устройств может меняться после обновления providers или драйверов. Для воспроизводимого сравнения сохраните версии и выбранную политику; если программа скрывает эту настройку, подтвердите поведение по её документации или доступному журналу, а не предполагайте устройство по режиму энергопитания Windows.
NPU имеет требования к модели, точности и операциям
Руководство QNN execution provider для ONNX Runtime описывает поддерживаемый путь Qualcomm и условия работы с моделями. Для NPU важны поддержанные типы операций и требования к представлению данных, включая квантование в соответствующем сценарии. Формат ONNX сам по себе не подтверждает, что любая экспортированная модель исполнима выбранным provider. Проверяйте ограничения конкретной версии, а не только расширение файла.
Изменение точности или квантование требует проверки результата модели на представительных входах. Более короткое время выполнения не является достаточным критерием, если меняется пригодность выходных данных. Уточните, кто выполняет преобразование: поставщик приложения, отдельный инструмент или ваша собственная цепочка подготовки. Если функция использует готовую модель разработчика, покупателю важнее официальное подтверждение поддерживаемого оборудования и программы. Для собственного проекта необходима отдельная проверка экспорта, загрузки и размещения операций. Только после неё можно осмысленно сравнивать NPU с GPU для той же задачи.
Режимы OpenVINO не заменяют проверку выбранного устройства
Документация OpenVINO рассматривает CPU, GPU и NPU, а также автоматические и неоднородные режимы выполнения. Сохраняйте номер документации и версии runtime: набор поддерживаемых устройств и возможности режимов меняются. Открытая здесь страница относится к документации 2025, поэтому её описание способов выбора не следует выдавать за неизменные правила всех последующих выпусков.
Различайте выбор одного устройства, автоматический выбор и распределение работы по поддерживаемым устройствам. Они могут иметь разные требования и смысл для задержки, пропускной способности и запуска приложения. Нельзя считать автоматический режим синонимом NPU только потому, что этот блок есть в ноутбуке. Для испытания сначала подтвердите работу модели на явно указанном устройстве, затем сравните доступные автоматические режимы в тех же условиях. Сохраните параметры компиляции модели и журнал выбранного оборудования: это поможет объяснить результат после смены версии драйвера или runtime.
Измеряйте размещение, задержку и полный путь данных
Документация профилирования ONNX Runtime описывает сбор событий выполнения. Используйте такие сведения, чтобы проверить размещение узлов и время операций, если приложение предоставляет этот доступ. Дополнительно измеряйте полный путь: подготовку входа, запуск модели и обработку результата. Время одного ядра ускорителя и задержка пользовательской функции отвечают на разные вопросы. Для камеры или аудио добавьте реальные условия поступления данных.
Сравнивайте одну модель, одинаковые входы, точность, размер пакета и версии программного стека. Отдельно запишите первый запуск и устойчивый режим, поскольку подготовка и компиляция могут создавать дополнительную работу. Для оценки энергопотребления нужны измерения в определённых условиях; название политики MAX_EFFICIENCY не является готовым результатом измерения. TOPS также не заменяет задержку и качество модели. Если требуется работа на батарее, проверьте тот же сценарий с соответствующим питанием и настройками, сохраняя результаты как наблюдения конкретной конфигурации.
Выбирайте ноутбук по поддерживаемой функции и прозрачному пути
Для готового приложения попросите подтверждение нужной функции на конкретной ОС и оборудовании. Для собственной модели составьте матрицу runtime, provider, драйвера, поддерживаемых операций, точности и допустимого fallback. Убедитесь, что выбранный путь доступен в приобретаемой комплектации. Если в документации указано только наличие NPU, а функция не описана, нельзя заключить, что она будет ускоряться именно этим блоком.
NPU может быть подходящим устройством для определённого поддерживаемого инференса; GPU остаётся отдельным вариантом с собственными ресурсами и программными требованиями. Сравнение должно учитывать реальную модель, полное время обработки и качество результата. Когда приложение не предоставляет выбор, существенным критерием становится его официальная совместимость и наблюдаемое поведение. Когда выбор доступен разработчику, полезен явный подтверждённый путь до перехода к автоматическим политикам. Так решение опирается на исполняемую функцию, а не на предположение о том, как ОС распорядится рекламными вычислительными блоками.
Проверяемые источники
Редакция сверила порядок действий с официальной документацией. Названия пунктов и возможности зависят от модели и версии системы.
- Microsoft: Windows ML providers ↗Проверено 5 октября 2026 г.
- Microsoft: select execution providers ↗Проверено 5 октября 2026 г.
- ONNX Runtime: EP architecture ↗Проверено 5 октября 2026 г.
- Intel: OpenVINO devices ↗Проверено 5 октября 2026 г.
- ONNX Runtime: QNN EP ↗Проверено 5 октября 2026 г.
- ONNX Runtime: profiling ↗Проверено 5 октября 2026 г.
Связанные материалы
Частые вопросы
Какой чеклист перед покупкой «NPU или GPU в ноутбуке: кто выбирает устройство для модели»?
Для «NPU или GPU в ноутбуке: кто выбирает устройство для модели» сверьте порты, апгрейд, дисплей, автономность и гарантию именно по SKU.
Что проверить в первые дни с «NPU или GPU в ноутбуке: кто выбирает устройство для модели»?
После покупки «NPU или GPU в ноутбуке: кто выбирает устройство для модели» обновите BIOS/драйверы с сайта вендора и проверьте нагрев/порты.
Хватит ли iGPU для сценария «NPU или GPU в ноутбуке: кто выбирает устройство для модели»?
Если «NPU или GPU в ноутбуке: кто выбирает устройство для модели» про офис/браузер — часто да; для CAD/игр смотрите дискретную GPU и TGP конфига.
Когда «NPU или GPU в ноутбуке: кто выбирает устройство для модели» лучше не брать?
Если в паспорте «NPU или GPU в ноутбуке: кто выбирает устройство для модели» нет нужных портов/яркости/гарантии под ваш сценарий.
Как проверить по шагам
- Измените один фактор и сравните результат
- Поставьте официальные обновления ПО
- Сохраните модель/версии и обратитесь в поддержку при необходимости
- Уточните симптом и условия для «NPU или GPU в ноутбуке: кто выбирает устройство для модели»
Акцент: NPU или GPU в ноутбуке: кто выбирает устройство для модели
Практический акцент к «NPU или GPU в ноутбуке: кто выбирает устройство для модели»: сначала безопасные проверки без разборки.
Записывайте результат каждого шага — иначе легко потерять причинно-следственную связь.
Официальные прошивки и оригинальные кабели надёжнее случайных замен.
Смежные материалы раздела рядом, если симптом похож, но меню другое.
Перед сервисом сохраните модель, версии ПО и фото ошибки.
Почему так бывает
Симптом «NPU или GPU в ноутбуке: кто выбирает устройство для модели» чаще сбой цепочки (питание, сигнал, софт), а не мгновенный отказ узла. Начните с внешнего: кабель, сеть, энергосбережение, перезагрузка.
Меняйте один фактор за проверку — иначе вывод размывается.
Пошаговые проверки
- Воспроизведите симптом и запишите условия.
- Уберите временные режимы и лишние аксессуары.
- А/Б на исправном кабеле/блоке/сети.
- Сброс только нужного раздела настроек.
- Обновление ПО — после резервной копии.
Когда в сервис
Запах гари, люфт разъёма, трещины, повтор на любом аксессуаре — к мастеру. Не покупайте по одному отзыву без воспроизводимого теста.