AnalogAI будет использовать нейроморфную память memBrain SAGE компании Silicon Storage Technology, входящей в Microchip, в своих первых процессорах реального Edge AI. Архитектура рассчитана не только на локальный инференс, но и на обучение моделей непосредственно в конечном устройстве.
AnalogAI выбрала аппаратную интеллектуальную собственность memBrain SAGE компании Silicon Storage Technology (SST), дочерней структуры Microchip, для своих первых процессоров Edge AI. Задача проекта - перенести не только выполнение нейросетевых моделей, но и их адаптацию к реальным условиям непосредственно в конечное устройство.
В обычной периферийной системе модель чаще всего обучается в дата-центре, а на устройстве выполняется только инференс. Такой подход хорошо работает, пока условия эксплуатации заранее известны. Если же робот, беспилотник или автомобиль должен адаптироваться к новым объектам, шумам, движениям и другим изменениям среды, часть вычислений приходится возвращать в облако или выполнять на более мощном локальном процессоре.
AnalogAI планирует использовать аналоговые вычисления в памяти - analog compute-in-memory, или aCIM. В архитектуре memBrain данные весов нейронной сети хранятся в ячейках энергонезависимой памяти на плавающем затворе, а операции умножения и суммирования выполняются непосредственно рядом с ними. Это сокращает постоянный обмен между вычислительными блоками и внешней памятью.
SST выделяет несколько особенностей memBrain:
- хранение весов нейросети в энергонезависимых SuperFlash-ячейках;
- выполнение векторно-матричных операций непосредственно в массиве памяти;
- снижение объема передач данных между памятью и вычислительными блоками;
- возможность интеграции IP в стандартные полупроводниковые процессы;
- ориентация на нейросетевые задачи с жесткими ограничениями по мощности и задержке.
Большинство современных нейронных сетей выполняет огромное количество операций MAC - умножение с накоплением. При традиционной архитектуре процессор или ускоритель постоянно получает веса из SRAM или внешней DRAM. Энергия тратится не только на арифметику, но и на перемещение данных. Compute-in-memory переносит часть вычислений в сам массив памяти, чтобы уменьшить этот поток.
AnalogAI заявляет для будущих процессоров потребление около 1 Вт или ниже. Целевые применения включают адаптивных гуманоидных роботов, беспилотные летательные аппараты, транспортные системы и другие устройства, которые должны анализировать физический мир в реальном времени. В таких системах ограничение по мощности важно не меньше производительности: увеличение энергопотребления усложняет охлаждение и сокращает время работы от аккумулятора.
Ключевое отличие проекта - ставка на локальное обучение. Устройство должно корректировать модель после развертывания, а не использовать неизменный набор параметров, подготовленный заранее. Это потенциально позволяет учитывать индивидуальные особенности конкретного робота, сенсора или рабочей среды без постоянной передачи исходных данных на удаленный сервер.
memBrain SAGE построена на технологии SST SuperFlash. Компания уже развивает решения для 40- и 28-нм производственных процессов и указывает в дорожной карте переход к 22 нм. Поскольку речь идет об IP-блоке, технология может встраиваться в специализированные SoC вместе с цифровой логикой, интерфейсами и другими функциональными узлами.
SST также предоставляет услуги по интеграции IP. Это важно для аналоговых вычислений в памяти, где итоговые параметры зависят не только от схемы нейросетевого массива, но и от технологического процесса, периферийной аналоговой обвязки, калибровки и интерфейсов с цифровой частью кристалла.
Стороны не раскрыли характеристики первого коммерческого процессора AnalogAI, сроки серийного выпуска и конкретную производительность в TOPS. Поэтому пока проект следует рассматривать как объявление о выборе базовой вычислительной технологии. Тем не менее подтверждено, что будущие изделия должны одновременно поддерживать инференс и обучение на периферии при мощности порядка одного ватта.
Для Microchip и SST это еще один вариант применения встроенной энергонезависимой памяти за пределами обычного хранения кода и данных. SuperFlash в memBrain используется как аналоговая среда для представления весов и выполнения вычислений, что позволяет объединить память и нейросетевой ускоритель в одном аппаратном блоке.
Память на плавающем затворе сохраняет записанное состояние без питания. В нейроморфной схеме уровень проводимости ячейки может кодировать вес нейронной связи, а суммарный ток по столбцу массива формирует результат множества операций одновременно. Такой принцип отличается от цифрового MAC-блока, где каждое значение считывается как двоичное слово и обрабатывается отдельной арифметической логикой.
При этом аналоговый подход требует калибровки и учета разброса параметров ячеек. Именно поэтому memBrain поставляется как интегрируемый IP-блок, а SST сопровождает его адаптацию к конкретному технологическому процессу. В проекте AnalogAI эта память должна стать вычислительной основой, а остальные функции процессора - интерфейсы, управление и цифровая обработка - будут строиться вокруг нее.
