IBM представила новый высокоэффективный процессор для ИИ

С ростом эффективности и производительности ИИ-систем растет и их энергопотребление. Несмотря на это, есть множество идей о том, как снизить это потребление. IBM и Intel экспериментировали с процессорами, имитирующими поведение нейронов, а IBM также исследовала выполнение вычислений нейронных сетей в фазовой памяти.

Теперь IBM представила NorthPole — процессор объединяющий разные идеи и создает чрезвычайно эффективный чип для работы с нейросетями, основанными на выводе. Например, для классификации изображений или транскрибирования аудио, чип может быть в 35 раз более эффективным, чем GPU.

NorthPole основан на принципах нейроморфных вычислений, но он не является нейроморфным. Основное отличие — распределение памяти и исполнительных единиц, что снижает энергопотребление. Так, NorthPole, подобно его предшественнику TrueNorth, состоит из большой матрицы вычислительных блоков, каждый из которых содержит локальную память и исполнительные возможности.

Еще одна особенность — это развитая сетевая инфраструктура на чипе. Каждый блок оптимизирован для выполнения вычислений с низкой точностью, что повышает эффективность.

Однако из-за своей уникальности команда, работающая над NorthPole, разработала собственное программное обеспечение для его обучения и выполнения.

При тестировании NorthPole показал, что может выполнять в 25 раз больше вычислений за с тем же энергопотреблением, чем сравнимый GPU. Однако стоит учесть, что несмотря на тестирование чипа, IBM рассматривает его как прототип, и пока неизвестно, будет ли он коммерчески реализован.

Также у NorthPole есть серьезное ограничение: он специализирован только для одной категории задач ИИ. Эффективность достигается благодаря специализированному дизайну под определенные задачи.