По словам Муниба Минхазуддина из Ambarella, агентам также потребуется процессор и ускорение для работы на периферийных устройствах.
Компания Ambarella использует агентов ИИ для разработки своего ПО, помогая новым независимым поставщикам ПО переносить свои приложения на оборудование Ambarella за считанные дни, а не месяцы, как это требовалось ранее, Об этом рассказал Муниб Минхазуддин, специалист по работе с клиентами в Ambarella.
«Традиционным способом для [производителей чипов] связаться с разработчиками было предоставление API-интерфейсов, публикация на GitHub, создание сообществ, обучение и привлечение большого количества людей для разработки кода в вашей системе», - сказал Минхазуддин. «Это требует больших ресурсов, большого количества людей, много денег и огромное количество времени».
Ambarella внедрила агентный уровень в свои API и SDK, с которыми разработчики могут взаимодействовать. По словам Минхазуддина, этот агентный уровень позволил интернет-провайдерам перенести код на оборудование Ambarella за считанные дни, по сравнению с месяцами, которые они потратили бы раньше.
«[Сначала мы подумали], что это, должно быть, заслуга умных инженеров, или технологии, или наших продуктов», - отметил он. «Но при использовании той же формулы с последующими поставщиками ПО получается то же самое. Это случалось с полдюжины раз. Это действительно работает».
По сравнению с большинством приложений, используемых в центрах обработки данных, встроенное ПО значительно проще и не требует больших моделей для анализа.
«К счастью, здесь очень много фиксированных функций», - заявил Минхазуддин. «Они не так широко используются, поэтому мы можем взять эти очень фиксированные функции и превратить их в навыки агентов, а затем передать их через агентный уровень в механизмы для создания приложений».
По словам Минхазуддина, встраиваемое ПО может стать одним из первых секторов, полностью внедривших агентов ИИ для разработки.
«Многие проблемы, связанные с протоколом контекста модели (MCP) и агентами ИИ, по-прежнему актуальны в крупных центрах обработки данных и облачных моделях, поскольку количество перестановок очень велико», - отметил он. «Мы пришли к выводу, что [проблема] более ограничена на периферии, поэтому для нас это на самом деле более эффективно».
По словам Минхазуддина, компания Ambarella уже внедрила поставщиков ПО на свою аппаратную платформу в сфере здравоохранения, розничной торговли и робототехники, причем некоторые из них используют агентов всего в течение трех дней, но настоящий тест заключается в том, смогут ли они преобразовать эту скорость в более быстрые системы проверки концепции для конечных клиентов.
«За последние 4 месяца [наши партнеры по интернет-маркетингу] внедрили наши наборы для разработки в 20 крупных розничных сетях в США, крупных сетях кофеен и автосалонах», - добавил он.
Что касается розничной торговли, то у многих покупателей уже есть своего рода сетевые модули на месте, а второй модуль обслуживает кассовые системы и другие приложения, которые могут работать в магазине. Третий модуль может быть добавлен для анализа с помощью ИИ данных с камер наблюдения и другой аналитики.
«Возникает интересная закономерность: можете ли вы объединить эти три блока?», - сказал Минхазуддин. «Можно ли объединить сетевую функцию, торговую точку, прикладную систему и функцию искусственного интеллекта [в одном блоке]? Вы можете значительно сократить капитальные затраты, если сможете консолидировать три различные рабочие нагрузки в одной системе».
По словам Минхазуддина, клиенты розничной торговли ценят системы на кристалле от Ambarella за агрегацию и анализ камер видеонаблюдения, а также за другие функции ИИ, отметив, что объединение нескольких коробок стоимостью в несколько тысяч долларов каждая может значительно сэкономить в сети из десятков тысяч магазинов.
Агенты на периферии
Со временем агентам также потребуется запускаться непосредственно на периферийных устройствах. Для большинства других типов приложений ИИ центральный процессор системы работает как главный, а большая часть вычислений выполняется на графическом процессоре или ускорителе. При использовании агентов ИИ центральный процессор необходим для запуска концепции автономного ИИ.
«Соотношение CPU и GPU быстро меняется из-за агентов ИИ», - сказал Минхазуддин. «У нас уже есть процессорное ядро Arm в нашей системе на кристалле ... мы можем сбалансировать работу центрального процессора и встроенного ускорителя для выполнения функций агента естественным образом».
Рассматривает ли Ambarella возможность изменения соотношения производительности процессора и ускорения на своем оборудовании в соответствии с требованиями приложений агентов?
«Возможно, в будущих продуктах», - сообщил Минхазуддин. «Это будет соответствовать тому, куда движется отрасль».
По словам Минхазуддина, агенты могут работать в алгоритме edge box или в камере, или и в том, и в другом месте. В конструкции алгоритма edge box от Ambarella используется один чип N1-655. Компания публично продемонстрировала логический вывод для 20-разрядной модели MoE, и теперь у нее есть готовые к эксплуатации 35-разрядные модели.
«[N1-655] достаточно хорош, чтобы выполнять локальную обработку, логический вывод, работу с агентами и все это в хорошо контролируемой степени», - добавил он. «Комбинации камеры и блока могут устранить требования к большим серверам».
По словам Минхазуддина, распределение рабочей нагрузки между камерой и алгоритмом edge box – это решение заказчика.
«Мы продолжим совершенствовать саму камеру», - сказал он. «Если вы сможете объединить эти различные потоки, вам не понадобится сервер [для размещения в стойке]. Вы по-прежнему можете использовать небольшое устройство – такова схема».
От алгоритма edge box к облаку
Минхазуддин сказал, что рынок ИИ развивается в двух направлениях: от облака к алгоритму edge box и наоборот.
В секторе «от облака к алгоритму edge box» владельцы центров обработки данных хотят расширить возможности логического вывода, используя системы с несколькими стойками в качестве оперативного расширения своей инфраструктуры, по-прежнему обладающие огромными размерами моделей и мощным вычислительным оборудованием. По словам Минхазуддина, экосистема ПО здесь аналогична корпоративному программному обеспечению.
Сектор «от алгоритма edge box до облака» состоит из двух подсекторов с отраслевыми программными экосистемами, и Ambarella занимается обоими из них.
Один из них – физический искусственный интеллект. В предыдущих версиях Интернета вещей данные с датчиков оцифровывались и анализировались, но решения принимали люди. По словам Минхазуддина, современные физические приложения искусственного интеллекта собирают данные с мультимодальных датчиков и объединяют их, чтобы точно представлять физическую систему с более высоким уровнем автономии.
«Более высокая автономность означает, что эти системы должны не просто воспринимать и осязать; вы должны принимать некоторые решения на местном уровне, и как только вы принимаете решение, вы должны действовать, чтобы они были полностью самодостаточными», - заявил он. «Если бы эта система была подключена к облаку, решение о перемещении роботизированной руки должно было бы приниматься в облаке… она должна быть полностью автономной».
Другой сектор «от алгоритма edge box к облаку» - это «пограничный блок», достаточный для объединения данных с нескольких датчиков, собирающих данные в другом месте, возможно, комбинируя несколько методов работы датчиков, возможно, с использованием нескольких моделей.
«Точкой агрегации необязательно должно быть облако, и вам на самом деле не нужен массивный сервер», - сообщил он.
По его словам, N1-655 позиционируется в обоих этих сегментах «от алгоритма edge box к облаку», но многокристальным системам Ambarella, возможно, придется подождать немного дольше.
«В архитектурном плане нам предстоит проделать большую работу, чтобы достичь этого», - сказал он. «Наша производительность на ватт на нашей системе на кристалле очень высока, но если мы начнем добавлять много систем на кристалле, нам понадобятся сверхбыстрая многослойная оперативная память, последовательная шина последовательная периферийных устройств PCI Express… Можно ли взять много таких систем на кристалле, разместить их на платах M.2 и подключить их друг к другу, да, но будет ли это по-настоящему многокристальной кластерной архитектурой? На самом деле нет».
Рабочие нагрузки ИИ, вероятно, продолжат колебаться между периферией и облаком. При этом Минхазуддин отметил, что ИИ возник в центрах обработки данных, переместился ближе к облаку и появляется на периферии.
«В какой-то момент наступит некоторый уровень равновесия, при котором некоторые рабочие нагрузки будут лучше всего выполняться в облаке, некоторые – в центре обработки данных, а некоторые – на периферии, но все они будут взаимодействовать друг с другом; все они связаны друг с другом», - рассказал он. «Вот тут-то мы и достигнем равновесия, но я не думаю, что мы уже там».
