- Google Gemini отказался от шахматного матча... (149)
- Ведущий разработчик Far Cry 4 рассказал об... (150)
- Виртуальные награды Discord Orbs вышли из... (156)
- На «Газель», «Соболь», «Садко», «Валдай» и... (132)
- В «М.Видео-Эльдорадо» назвали самые... (146)
- Горячая пора: изменение климата угрожает... (139)
- $600 млн за 12 минут: платформа для создания... (134)
- Microsoft прекратит поддержку новых функций... (139)
- «Чайку» ГАЗ-13 бывшего президента Болгарии... (190)
- Google Chrome прекратит поддержку macOS 11... (131)
- Большой Hyundai, способный заменить... (143)
- Календарь релизов — 14–20 июля: RoboCop:... (138)
- Даже в чехлах iPhone 17 Pro и iPhone 17 Pro... (146)
- В отечественном мессенджере Max началось... (156)
- Lenovo представила первый белый ThinkPad —... (148)
- Хардкорный внедорожник BAW 212 оказался в... (118)
Теперь-то наконец блоки NPU в процессорах Intel станут полезными? Компания открыла исходный код своей библиотеки ускорения NPU Acceleration Library
Дата: 2024-03-02 18:12
Компания Intel открыла исходный код своей библиотеки ускорения NPU Acceleration Library, позволяющей компактным моделям искусственного интеллекта работать непосредственно на блоках NPU в процессорах Meteor Lake.

Библиотека создана на языке Python и призвана помочь разработчикам улучшить свои продукты при условии запуска их на блоках NPU новейших процессоров Intel. Библиотека позволяет запускать компактные языковые модели вроде Gemma-2b или TinyLlama прямо на NPU, не требуя никакого облачного сервера. Собственно, это именно то, зачем вообще в процессорах нужны аппаратные блоки NPU, и то, чего на данный момент не хватает.

Напомним, блоки NPU есть в процессорах Intel Meteor Lake и AMD Ryzen 7040/8040. Пока что для большинства пользователей эти блоки совершенно бесполезны.
Подробнее на iXBT
Предыдущие новости
Honor представила Pad 9 — планшет среднего уровня с чипом Snapdragon 6 Gen 1 и батареей на 8300 мА·ч
В рамках выставки MWC 2024 компания Honor представила несколько новинок, включая глобальные версии смартфонов Magic6 Pro и Magic V2 RSR Porsche Design, а также производительный ноутбук MagicBook Pro 16. Вместе с этим китайский производитель привёз на выставку планшетный компьютер Pad 9, который известен на китайском рынке как Tablet 9. Honor Pad 9 оснащён большим...
NASA свернуло проект по дозаправке спутников — у подрядчика не хватило опыта и выросли аппетиты
Накануне стало известно, что в NASA решили свернуть проект по заправке спутников на орбите, стоимость которого перевалила за $2 млрд. Поводом для разрыва контракта стала аудиторская проверка агентства, выявившая перерасход средств и отсутствие необходимой квалификации у подрядчика, компании Maxar. Источник изображения: ИИ-генерация Кандинский...
Redmi Note 13 Turbo будет по-настоящему «турбо». Он получит Snapdragon 8s Gen 3 и аккумулятор на 5000 мА·ч с поддержкой 100-ваттной зарядки
В Сети появились подробности о будущем смартфоне Redmi Note 13 Turbo. Как сообщается, он получит новую однокристальную систему Qualcomm SM8635, которая выйдет в марте под названием Snapdragon 8s Gen 3. Уже по названию понятно, что производительность SM8635 будет высокой — примерно на уровне Snapdragon 8 Gen 2. Однако Redmi Note 13 Turbo будет не единственной модель на SM8635 —...
Лунные аппараты SLIM и «Одиссей» борются с термическими вызовами во время наступившей лунной ночи
Два небольших лунных аппарата на Луне — японский и американский — активно собирают изображения и данные. Оба аппарата питаются только от солнечных батарей и не предназначены для выживания в холодных 14-дневных лунных ночах. На этой неделе японский аппарат SLIM успешно вернулся к работе после преодоления всех трудностей своей первой лунной ночи. Сможет ли он сделать это снова и...