Ускоряем инновации, ищем эффекты для бизнеса

— Меня зовут Алексей Базанов, я руководитель программ проектов ИИ в НЛМК ИТ. Моя цель повышать эффективность непроизводственных направлений бизнеса с использованием больших языковых моделей (БЯМ или Large Language Models, LLM).

Я большой энтузиаст LLM, очень верю в эту технологию и те новые возможности, которые она принесла. При этом смотрю на использование LLM через призму области её применения и принимаю во внимание ограничения. Очень большое внимание и я, и коллеги уделяем правильному построению и тестированию систем LLM.

Нам важно быть уверенными в ИТ-системах, которые мы внедряем. Особенно это важно для приложений, использующих LLM, поскольку такие модели по своей сути вероятностные (это широко известная особенность технологии: если задать один и тот же вопрос LLM несколько раз, можно получить разные ответы).

Платформа ИИ

У нас развёрнута и работает платформа ИИ как часть более широкой технологической платформы НЛМК. Она значительно снизила трудозатраты в разработке backend и frontend, подготовке документации и бизнес-анализе.

У нас действует большая программа по развитию платформы ИИ за счёт добавления новых сервисов по хранению данных, тестированию приложений LLM. Кроме новых сервисов, например, таких как векторная и графовая базы данных, мы усиливаем вычислительные мощности, закупая видеокарты.

Как мы работаем

1.      Сначала проводим короткую встречу в узком составе: бизнес-аналитик, эксперт и архитектор ИИ, чтобы понять какую задачу хотим решить и оцениваем, насколько она выполнима, какие выгоды принесет бизнесу и какую технологию лучше использовать.

2.    Если требуется проверить реализуемость идеи, то тестируем её с помощью Proof of Concept (PoC) и, если он прошел успешно, создаем минимальный жизнеспособный продукт (MVP), чтобы показать, как решение будет работать.

3.    Защищаем проект перед руководством, доказывая, что он принесёт экономическую выгоду.

4.   После тестов оцениваем результаты, получаем финансирование для следующего этапа и двигаемся дальше.

Какие прикладные решения уже разработаны

·       Корпоративный университет: генерация архитектуры курсов, в дальнейшем — контента.

·       IT-поддержка: автоматизация ИТ-поддержки на основе LLM. Результаты следующих этапов развития — бот, отвечающий на стандартные вопросы пользователей и маршрутизирующий обращения.

·       Развитие AI в Разработке: инструменты на основе LLM, помогающие разработчикам писать код быстрее и эффективнее.

·       AI-ассистенты для поиска по базам знаний: ассистенты, помогающие быстро находить нужную информацию в обширной базе регламентов, документов, карт процессов.

Планы на будущее

Мы видим большой потенциал применения LLM в повышении эффективности бизнеса и ИТ. Решаем текущие задачи, автоматизируем работающие процессы и думаем над архитектурой бизнес-процессов компании будущего.