Чип-стартап XCENA привлёк $135 млн на ставке, что главный узкий момент ИИ — память, а не вычисления
Каждый раз, когда вы задаёте вопрос ChatGPT, запрос запускает эстафету передачи данных. Информация покидает память, проходит через CPU для предварительной обработки, затем отправляется на GPU для тяжёлых вычислений и возвращается обратно — и весь этот путь повторяется для каждого слова, которое генерирует ИИ.
Узкое место здесь структурное: на каждый запрос приходится задействовать одни из самых дорогих и самых энергоёмких чипов в индустрии. Именно эту неэффективность и пытается устранить XCENA — стартап с офисами в Южной Корее и США. Компании четыре года, и она разработала чип, который размещает вычислительные возможности гораздо ближе к DRAM — быстрым чипам кратковременной памяти, где хранится активнo используемые процессором данные, — позволяя выполнять рутинные операции рядом с памятью, без дорогостоящих постоянных переходов между CPU, GPU и памятью.
Если это решение заработает в масштабе, последствия для стоимости ИИ-инфраструктуры могут быть значительными — именно этим во многом объясняется интерес инвесторов. XCENA только что привлекла $135 млн в раунде Series B при оценке в $570 млн, доведя общий объём привлечённых средств до $185 млн.
Гендиректор XCENA Jin Kim основал стартап в 2022 году вместе с CTO Dohun Kim и CPO Harry Juhyun Kim — все трое ветераны Samsung и SK Hynix, гигантов рынка памяти, поставляющих чипы для GPU Nvidia. «CPU и GPU за десятилетия стали умнее. Память — нет. XCENA хочет это изменить», — сказал Kim в интервью TechCrunch. «Недавний рост цен на память и акций, связанных с этим сегментом, указывает на более широкий сдвиг в ИИ-инфраструктуре в сторону memory-centric architectures», — добавил он. (В этом месяце три компании, доминирующие на мировом рынке чипов памяти — Samsung, SK Hynix и Micron, — впервые каждая достигли капитализации в $1 трлн.)
XCENA строит свой бизнес на тезисе, что «inference — это не только проблема вычислений; всё чаще это проблема масштабирования памяти», сказал Kim.
Чип XCENA, MX1, подключается к CPU через CXL (Compute Express Link) — по сути, выделенную скоростную полосу между процессором и памятью — и обрабатывает данные ещё до того, как им нужно покинуть модуль памяти. Он переносит вычисления к данным, а не наоборот. Компания утверждает, что то, для чего раньше требовалось 10 серверов, потенциально может работать на одном.
«Хотя GPU отлично справляются с матричным умножением — тяжёлой математикой, лежащей в основе обучения ИИ-моделей, — большая часть сопутствующей координации данных, включая предварительную обработку, управление KV cache (системой, которая хранит контекст предыдущего диалога, чтобы модели не приходилось обрабатывать его заново) и data caching, по-прежнему выполняется на CPU. Наш чип берёт эти задачи на себя прямо внутри модуля памяти», — сказал Kim.
Спрос на решения для памяти резко вырос со второй половины прошлого года, и компания считает, что время работает на неё.
Переговоры с несколькими глобальными поставщиками памяти находятся на ранней стадии, хотя Kim отказался называть компании. Идеальные клиенты XCENA — hyperscalers, которые тратят десятки миллиардов долларов в год на ИИ-инфраструктуру: даже небольшой выигрыш в эффективности памяти может означать сотни миллионов долларов экономии.
MX1 пока остаётся прототипом. Чипы для массового производства должны сойти с линий Samsung к концу 2026 года, а выручку компания рассчитывает начать получать в 2027 году.
Пока производители neural processing unit (NPU) пытаются бросить вызов Nvidia в задачах обучения, XCENA нацеливается на memory-intensive слой, который лежит в основе всей этой инфраструктуры.
Ближайшие конкуренты XCENA — Astera Labs и Marvell, обе компании торгуются на Nasdaq и работают над памятью следующего поколения и её подключением. Marvell — крупный, уже устоявшийся игрок, тоже работающий в той же области, сказал Kim, добавив, что различие сводится к интеллектуальной собственности. «У нас тысячи ядер», — сказал Kim. Судя по публичным спецификациям, подход Marvell, напротив, опирается на несколько универсальных ядер.
Эти ядра построены на RISC-V — open source-архитектуре для разработки чипов — и оптимизированы специально для обработки данных, при этом каждое ядро намеренно сделано небольшим и эффективным. Помимо самих ядер, XCENA разрабатывает собственную внутреннюю иерархию памяти, interconnect bus и DRAM controller — уровень вертикальной интеграции, который большинство чип-компаний, включая более крупных конкурентов, обычно передают подрядчикам.
Серию B совместно возглавили сеульские VC-фирмы Altinum и IMM Investment, а также Corstone Asia и действующие инвесторы SBI Investment и Mirae Asset Capital. В компании более 90 сотрудников в офисах в Пангё, технологическом центре недалеко от Сеула, и в Sunnyvale; сейчас она также обсуждает дополнительное финансирование с международными инвесторами.
При покупке по ссылкам в наших материалах мы можем получить небольшую комиссию. Это не влияет на нашу редакционную независимость.
Kate Park — репортёр TechCrunch, который пишет о технологиях, стартапах и венчурных инвестициях в Азии. Ранее она работала финансовым журналистом в Mergermarket, освещая M&A, частный капитал и венчурные инвестиции.
Материал — перевод статьи с английского.