Q&A: Temporal хочет стать основой надежности для агентного ИИ
Сооснователь Temporal Самар Аббас рассказывает о надежности ИИ, исполнении процессов и о том, что должны учитывать ИТ-руководители по мере того, как агентные ИИ-инструменты становятся все более распространенными.
По мере того как ИИ смещается от генерации ответов в больших языковых моделях (LLM) к армиям агентов, которые сами совершают действия, растет риск того, что сбои начнут влиять на надежность систем.
Компания Temporal из Белвью, штат Вашингтон, основанная в 2019 году, рассчитывает решить эту проблему, стабилизируя ИИ и длительные вычислительные процессы с помощью технологии durable execution. Она надежно возобновляет упавшие вычислительные процессы на других хостах. Если машина выходит из строя в середине транзакций agentic AI, компания поднимает функцию на другом хосте, чтобы она продолжила работу ровно с того места, где остановилась. Temporal утверждает, что ее процесс durable execution обеспечивает гарантию durability 100%.
Компания занималась такого рода проблемами распределенных систем задолго до бума generative AI (genAI), и сегодня ее инфраструктура используется Coinbase, Airbnb и OpenAI.
Для лиц, принимающих ИТ-решения, предложения Temporal обещают повысить надежность ИИ-операций — особенно в регулируемых отраслях. Сооснователь Samar Abbas недавно поговорил с Computerworld о технологии компании, надежности ИИ, исполнении и о том, что ИТ-лидерам стоит учитывать при оценке и внедрении agentic AI.
AWS
Как Temporal стала основой, питающей ИИ-системы? «Недавно OpenAI объявила, что мы обеспечиваем работу многих ее продуктов под капотом — вот где и находится Temporal.
«Пару лет назад, по мере того как LLM становились умнее, кейсы были связаны с генерацией результатов. Теперь отрасль переходит к agentic-решениям, где ИИ не просто генерирует ответы, а совершает действия. Чем дольше такие системы работают, тем больше инструментов они вызывают и тем больше ценности создают.
«Они превращаются в целую армию агентов, координирующихся для выполнения сложных задач. Это начинает выглядеть как распределенные системы. Мы становимся той самой authority execution, надежностным каркасом для этих agentic-систем, чтобы они могли выполнять задачи от A до Z».
Что происходит на бэкенде, чтобы поддерживать их стабильность? «Это новая парадигма построения приложений, мы называем ее durable execution. Если вы пишете функцию и происходит сбой, вы теряете все состояние. Когда машина падает, мы сохраняем состояние. Мы бесшовно воссоздаем эту функцию на другом хосте и продолжаем выполнение ровно с того места, где оно остановилось, без того, чтобы вы как разработчик написали хотя бы одну строку кода.
«Это не просто cache, это операционная система, гарантирующая выполнение в условиях отказов. Мы даем гарантию durability 100%. Люди могут использовать это для mission-critical сценариев, например для расшифровки разговоров врачей, где потеря даже одного [слова] имеет серьезные последствия».
Существовала ли эта проблема до ИИ? «Мой сооснователь и я занимаемся этим почти всю карьеру, то есть почти три десятилетия. Мы решали проблему distributed systems в Amazon, Microsoft, а потом Uber, прежде чем основать Temporal. Мы определенно до ИИ.
«По мере того как все больше рабочих нагрузок уходит в cloud и становится распределенным, возникает этот класс сбоев. Это уже пятая система, которую я строю. Я сделал simple workflow, затем durable task framework в Azure, затем Cadence в Uber, а теперь Temporal. Компании примерно семь лет, но кодовой базе больше 10 лет, потому что мы начали еще в Uber, и она с тех пор работает в production».
И теперь вы решаете ту же проблему в масштабе ИИ? «Забавно, но особенно в ИИ та же проблема теперь возникла в гигантском масштабе, будто под стероидами, потому что agentic-системы выходят в продакшн и делают реальную работу. Мы обеспечиваем каждую транзакцию Coinbase, каждую историю Snap, каждое бронирование Airbnb, каждый заказ Yum Brands — KFC, Pizza Hut, Taco Bell.
«Пару лет назад казалось, что мы переинвестировали в масштаб и надежность платформы. Потом ИИ появился так мощно, что теперь я спрашиваю команду: как нам масштабироваться еще в 10 раз, 100 раз и даже в 1000 раз? Эти агенты выходят на рынок так, как мы не могли себе представить».
Можете привести конкретный пример этой гарантии 100%? «Когда вы переводите деньги — debit или credit — представьте, что сбой происходит после того, как вы списали средства со счета. Temporal гарантирует выполнение всей функции от начала до конца в присутствии любых сбоев. В конечном счете мы продаем надежность.
«Сегодня разработчики тратят 80% времени на то, чтобы встроить в свои системы устойчивость, работая с низкоуровневыми примитивами вроде queues, databases, retry mechanisms и durable timers и собирая все это вместе. То, что даем мы, устраняет эту необходимость. И именно такая надежность становится критически важной по мере того, как предприятия переводят агентов в production».
Почему CIO и другие ИТ-лидеры должны заботиться о надежности ИИ? «Эти агенты уже реальны, это больше не прототипы и не [proofs of concept]. Они выполняют значимую работу в организациях. Надежность и durability 12 месяцев назад вообще не были в поле зрения CIO. Сейчас это главный стоп-фактор. Особенно в регулируемых отраслях, если транзакция остается незавершенной, возникают реальные регуляторные риски.
«Именно это и тормозит переход к стадии ИИ. Об этом речь идет практически в каждом разговоре, в первые 10 минут, когда я общаюсь с CIO».
CW: Где сегодня сосредоточены самые трудные проблемы? «Security, governance, identity, authorization, authentication. Именно здесь сосредоточено большинство проблем, а экосистема очень незрелая. Даже с MCP я вижу, что организации испытывают трудности с внедрением MCP, чтобы строить этих агентов. Это область, где очень много пространства для инноваций и большой объем работы, в том числе здесь, в Temporal».
Какие навыки должны развивать разработчики и CIO в эпоху ИИ? «Самый важный навык сейчас в том, что разработчики должны сильнее ориентироваться на продукт. Инженеры с продуктовым мышлением будут преуспевать, потому что весь поток разработки ПО — ручное написание кода, ручная отладка, тестирование — будет выглядеть совершенно иначе. Работа инженера теперь — строить систему, которая строит систему.
«В мире ИИ происходят две вещи. Во-первых, в индустрию приходит гораздо больше инженеров, потому что компании вроде Replit или Lovable делают разработку доступной людям без профессиональной подготовки. Во-вторых, будет написано намного больше приложений, чем когда-либо прежде. Фокус смещается к тому, как запускать все эти приложения безопасно и надежно, со всеми guardrails. Именно туда движется отрасль».
Материал — перевод статьи с английского.
Оригинал: Q&A: Temporal aims to be the reliability backbone for an agentic AI economy