MTS AI полностью перенесла в облако процесс обучения и инференса моделей ИИ

Компания MTS AI, разрабатывающая продукты и решения на базе генеративного ИИ, технологии обработки естественного языка и компьютерного зрения, полностью перенесла в облако MWS процесс обучения и инференса моделей ИИ, а также больших языковых моделей, сообщает пресс-служба компании.

В MTS AI отметили, что за счет этого удалось сэкономить более 1 млрд рублей инвестиций.

Основу сервисов компании составляют ML-модели, обучающиеся на тысячах терабайтов данных. Также компания использует GPU, чтобы ускорить процесс обучения.

Для сложных задач клиенты компании используют сервисы на основе больших языковых моделей, среди которых LLM, Cotype, Kodify и другие.

В MTS AI отметили, что работа с моделями в облаке делится на 3 этапа. Первый – деплой и предобучение моделей с помощью виртуальной инфраструктуры с GPU ускорителями. Второй – глубокой обучение моделей на суперкомпьютере. Третий – переход моделей на инференс в облаке MWS.

Как рассказал директор по LLM-продуктам MTS AI Сергей Пономаренко, переход в облако позволяет использовать тот объем вычислительных ресурсов, который необходим для работы, не тратя большие суммы на закупку серверов.