Liberty Mutual готовит legacy-системы к масштабированию ИИ
Пока ИИ стремительно меняет отрасли, Liberty Mutual Insurance выстраивает стратегический курс: компания выбирает сценарии применения технологии и одновременно перестраивает свои legacy-системы.
В мае страховая компания запустила приложение для разговорного AI-расчета стоимости автострахования, которое позволяет пользователям ChatGPT от OpenAI получить расчет от Liberty Mutual через чат-взаимодействие, а не через заполнение онлайн-формы.
Возможность работать с поставщиком large language model появилась после многих лет, которые компания потратила на подготовку технологического фундамента к будущему, включая переход в облако и упрощение систем, сказал Andrew Palmer, EVP и CIO глобального розничного бизнеса Liberty Mutual. По мере развития ИИ страховая компания продолжит модернизировать свои основные платформы, делать данные готовыми для ИИ и тщательно выбирать сценарии применения и партнеров для новых возможностей, сказал Palmer.
Хотя Liberty Mutual и сотрудничала с OpenAI в приложении для расчета страховки, стратегия компании — оставаться model agnostic, создавая слой абстракции поверх данных на мейнфрейме, который позволит работать с AI-провайдерами через возможности Model Context Protocol, открытого стандарта, связывающего ИИ с местом хранения данных. Liberty Mutual работает над этим слоем абстракции вместе со своим партнером по мейнфрейму IBM.
«Возможность сохранять опциональность, а также контекст и память внутри наших моделей, чтобы мы могли проходить через очень сложный бизнес и не привязываться к одной системе, — это стратегическая ставка, в которой мы очень уверены», — сказал Palmer.
Подготовка к AI-ready и независимой от моделей основе
114-летняя страховая компания более 10 лет переносит рабочие нагрузки в облако, сократив количество своих дата-центров по всему миру с 13 до одного основного, сказал Palmer.
Хотя 85% рабочих нагрузок уже перенесены в облако, Liberty Mutual сохраняет hybrid cloud strategy, которая похожа на подход компании к поставщикам AI-моделей.
«У нас значительная доля compute и storage приходится на AWS, но у нас есть cloud agnostic strategy, которая позволяет при необходимости переносить рабочие нагрузки в Google и Azure. Мы используем все три платформы», — сказал Palmer. «Это хорошо сработало для нас по многим направлениям. С frontier labs это особенно важно».
Поскольку поставщики AI-моделей продолжают развивать свои предложения, Palmer сказал, что «не стоит привязываться» к одному продукту, особенно на фоне того, что потребление AI tokens в компаниях растет очень быстро.
Команда Liberty Mutual по AI FinOps анализирует все AI-модели компании и отслеживает использование tokens на уровне отдельных сотрудников и групп. Для AI-сценариев tokens можно ограничивать или добавлять, а Palmer сказал, что работает над тем, чтобы переложить ответственность на operations managers за привязку use cases к бизнес-результатам.
Данные также будут играть критически важную роль в дальнейшем улучшении использования AI-моделей Liberty Mutual и потребления tokens, сказал Palmer.
«Нельзя запускать ИИ на плохих данных», — сказал он, добавив, что готовность данных к загрузке в data catalogs и context windows для AI-моделей сделает их работу эффективнее.
«Если заставлять систему работать со всеми этими хранилищами и приложениями, пытаясь понять, что происходит, вы сжигаете огромное количество лишних tokens», — сказал он. «И, вероятно, вы не получите нужного результата с точки зрения контекста».
Модернизация мейнфрейма
Основные платформы Liberty Mutual по-прежнему работают на мейнфрейме, и именно это остается главной задачей для страховщика, сказал Palmer. Путь модернизации мейнфрейма займет пять лет: компания переводит платформу на Guidewire Software.
Тем временем работа Liberty Mutual с IBM над слоем абстракции позволяет модернизированным фронтенд-системам работать в облаке и дает компании возможность использовать новейшие AI-возможности.
«Мы много инвестировали в модернизацию основных платформ, чтобы убедиться, что они готовы, и данные готовы», — сказал Palmer.
В конечном счете, по словам Palmer, компании не могут масштабировать ИИ поверх слабой инфраструктурной базы — и, как он считает, многие организации с этим сталкиваются. Пока компании добавляют AI-возможности, лишь немногие переводят эти сценарии в реальную бизнес-ценность.
«Если вы просто гонитесь за блестящей игрушкой и думаете, что не нужно делать тяжелую работу, это потом даст о себе знать», — сказал Palmer.
Материал — перевод статьи с английского.