LiteRT Next предоставляет унифицированный интерфейс для использования нейронных процессоров (NPU), не заставляя вас индивидуально ориентироваться в компиляторах, средах выполнения или зависимостях библиотек, специфичных для конкретного поставщика. Использование LiteRT Next для ускорения NPU позволяет избежать многих осложнений, специфичных для конкретного поставщика или устройства, повышает производительность для вывода в реальном времени и больших моделей и минимизирует копии памяти за счет использования аппаратного буфера с нулевым копированием.
Если вы уже зачислены в программу раннего доступа LiteRT NPU, войдите в авторизованную учетную запись, чтобы просмотреть документацию NPU. Если вы еще не зачислены, зарегистрируйтесь в программе раннего доступа:
Для больших языковых моделей (LLM) мы рекомендуем использовать нашу платформу LiteRT-LM для выполнения необходимой сквозной обработки для выполнения NPU:
[[["Прост для понимания","easyToUnderstand","thumb-up"],["Помог мне решить мою проблему","solvedMyProblem","thumb-up"],["Другое","otherUp","thumb-up"]],[["Отсутствует нужная мне информация","missingTheInformationINeed","thumb-down"],["Слишком сложен/слишком много шагов","tooComplicatedTooManySteps","thumb-down"],["Устарел","outOfDate","thumb-down"],["Проблема с переводом текста","translationIssue","thumb-down"],["Проблемы образцов/кода","samplesCodeIssue","thumb-down"],["Другое","otherDown","thumb-down"]],["Последнее обновление: 2025-06-24 UTC."],[],[]]
