Китайская компания представила систему за $140 для эффективного обучения ИИ без западного железа

Стремясь конкурировать с высокопроизводительным железом, доминирующим на рынке ИИ, и обойти введенные США запреты на поставку топовых GPU, китайский производитель Intellifusion представил ИИ-систему DeepEyes с заявленной производительностью в области ИИ 48 TOPS и ценником в 1000 юаней, или примерно 140 долларов. Использование более старого 14-нм техпроцесса и специализированной интегральной схемы (ASIC) — еще один способ для Китая обойти санкции и оставаться конкурентоспособным на рынке ИИ.

Первый ИИ-бокс Deep Eyes использует систему на чипе DeepEdge10Max для достижения производительности в 48 TOPS при обучении в формате int8. Во втором полугодии компания выпустит Deep Eyes с DeepEdge10Pro и производительностью до 24 TOPS. А в 2025 году выйдет новая система на DeepEdge10Ultra с производительностью 96 TOPS. Цены на предстоящие модели пока не заявлены. Но если Intellifusion удастся сохранить начальную стоимость около 1000 юаней в долгосрочной перспективе, они могут быстро захватить рынок.

Для справки, чтобы соответствовать заявленным Microsoft требованиям к "ПК для ИИ", современные ПК должны иметь производительность NPU не менее 40 TOPS. Таким образом, ближайшие планы Intellifusion, похоже, должны вскоре сделать их чипы пригодными для многих ИИ-задач, особенно если учесть, что большинство существующих NPU имеют скорость до 16 TOPS. Однако чипы Snapdragon X Elite, как ожидается, будут демонстрировать 40 TOPS наряду с лучшей в отрасли производительностью iGPU уже в конце этого года.

Как заявил Чэнь Нин — председатель Intellifusion:

В ближайшие три года 80% компаний по всему миру будут использовать большие модели. [...] Стоимость обучения большой модели исчисляется десятками миллионов, а цена универсальных машин для обучения и вывода обычно составляет один миллион юаней. Большинство компаний не могут позволить себе такие расходы.

Хотя утверждение, что 80% компаний во всем мире будут использовать ИИ, пока невозможно проверить, стоимость входа для бизнеса действительно крайне высока. Некоторые даже шутят, что создать истинный ИИ общего назначения возможно уже сейчас, но он будет таким дорогим и таким огромным, что никто не в состоянии потянуть его.