Интервью
Совместный проектsoftline
К главной

Как запустить конвейер ИИ-проектов

О развитии технологий ИИ, потенциальных эффектах для бизнеса и рисках рассказывает Максим Милков, руководитель направления «Искусственный интеллект» компании Softline Digital (ГК Softline)
Максим Милков
Максим Милков
Руководитель направления «Искусственный интеллект» компании Softline Digital (ГК Softline)
— Как развивается рынок ИИ сегодня?

— Последние 70 лет искусственный интеллект (ИИ) развивается по спирали: интерес к этому направлению то усиливается, то затухает. Периодически возникают условные «зимы» ИИ и робототехники. Сегодня интерес повсеместно возрастает, это общемировая тенденция.

Текущий уровень развития технологий позволяет реализовать прикладные проекты и запускать различные продукты на базе ИИ. В первую очередь продвигаются три направления: обработка огромного массива данных, обработка текстов (большие языковые модели), а также обработка фото- и видеоматериалов (машинное зрение).

Основной прогресс заметен сейчас по второму направлению: идет бурный рост проектов по обработке текстов, где используются генеративные модели. Они предполагают серьезные инвестиции, поскольку очень требовательны к ресурсам. Для их работы нужно мощное «железо» и «ускорители» вычислений (специализированные видеокарты, которые позволяют быстро обрабатывать большие массивы данных для нейросетей). Круг поставщиков здесь довольно узок, а из-за высокого спроса сильно завышены цены, что может тормозить повсеместное проникновение таких решений.

Сейчас ИИ в принципе находится на инвестиционной стадии — в соответствии со стандартным циклом развития любой технологии. Первые версии решений, уникальные разработки всегда стоят очень дорого. Затем начинается оптимизация: постепенно модели используют меньше ресурсов, а их качество растет. Со временем технология становится окупаемой, а вендоры начинают получать прибыль.

— Какие тенденции на рынке ИИ вы бы выделили как ключевые? Что в первую очередь востребовано заказчиками?

— В мировой практике сформировалось больше доверия к переносу ресурсоемких вычислений в облачную инфраструктуру, чем в российской. Компании в других странах чаще используют частные облака либо передают обезличенные данные в публичное облако. Отечественный же заказчик пока готов отдавать в облако лишь малую часть задач. Его здесь ограничивают строгие требования службы безопасности, а также длительные юридические согласования, которые могут затормозить проект на полгода.

Новую технологию хочется побыстрее «пощупать», поэтому сроки внедрения, пилотирования, получения для этого нужных доступов и пр. важны. Если они слишком затягиваются, проект становится неинтересен заказчику. Соответственно, большинство российских компаний предпочитает использовать для проектов ИИ внутреннюю инфраструктуру, настраивая доступ к необходимым данным во внутреннем контуре. Данные сегодня — важный ресурс и ценность для компании, которыми она не готова делиться или передавать во внешние сервисы.

В то же время российские заказчики готовы потреблять из облака решения, связанные с конвертацией текста в речь и обратно. Также это могут быть задачи по распознаванию текста, оцифровке документов, обработке и распознаванию изображений и пр. Отдельное направление — создание в облаке инфраструктуры рабочих мест для специалистов по работе с данными (data scientists, DS). Это обеспечивает гибкость и масштабируемость ресурсов по требованию, когда, например, потребуется обработать в десять раз больше данных, чем вчера. Облака очень полезны для задач, подразумевающих неравномерную и нецикличную нагрузку в потреблении ресурсов.

— Как развивается ИИ-направление в Softline? Какие особенности проектов вы могли бы выделить?

— У нас широкий портфель как внутренних, так и внешних проектов с привлечением технологий ИИ. Поскольку все заказчики разные, у всех разные объемы данных и разные требования к безопасности, мы подходим достаточно гибко к использованию возможностей собственного облака Softline. У нас всегда есть запас мощностей, которые мы можем использовать для неравномерной нагрузки. Это позволяет оптимизировать внутренний бюджет и расходы на потребление вычислительных ресурсов для проектов. В том числе у нас есть внутренний мини-ЦОД, мощности которого загружены под всевозможные пилоты, под задачи внутренней разработки, тестирования и т. д.

Во внешних проектах мы можем выделить под задачи заказчика частное облако, чтобы хранить данные и выполнять задачи моделирования. Когда требуется более интенсивное использование вычислительных мощностей под более масштабные задачи (например, не хватает самого дефицитного ресурса — ускорителей), по согласованию с заказчиком мы можем делать в облаке расчеты, предварительно обезличив данные.

В ряде случае у нас нет доступа к продуктивным данным — заказчики не готовы выносить их из внутреннего контура. Тогда мы запускаем обучение моделей на переданных им тестовых данных в отдельном контуре, а затем обученная модель уже без нашего участия переносится в активный контур и начинает работать на реальных данных.

Создать качественную тестовую выборку, которая хорошо передавала бы все свойства данных, — отдельное искусство. При обучении модели должны быть учтены все нюансы, чтобы обеспечить ее работоспособность. Вся эта конструкция очень усложняет работу. Как правило, такие проекты затягиваются, потому что требуют множества итераций, а задача сама по себе динамична, и модель нужно регулярно дообучать. Но других путей, к сожалению, нет, если требования к безопасности данных у заказчика очень жесткие.

— Какие значимые задачи, связанные с проектами ИИ, вы реализуете в этом году?

— Мы ведем классические задачи, связанные с обработкой табличных данных, реализуем всевозможные прогнозные модели (например, прогнозирование спроса, реакций на предложение, маркетинговая аналитика) или модели оттока. Это задачи «вечные», которые модифицируются за счет добавления новых источников данных, расширения спектра информации, которую модель может использовать. Происходит непрерывная подстройка моделей под текущие реалии и возможности поставки данных.

С учетом сегодняшнего дефицита ресурсов, кадров и пр. проекты ИИ — недешевое удовольствие. Для компаний среднего сегмента отбить такой проект тяжело. Здесь встает вопрос демократизации инструментов, например, за счет готовых коробочных решений от вендора.

Рутинные проекты могут длиться в зависимости от масштаба от трех месяцев до 1–1,5 лет. Наша цель — построить своего рода конвейер ИИ-проектов. Суть такого подхода в том, чтобы обеспечить реализацию новых идей, возникающих у заказчика, качественно, с управляемыми сроками и бюджетом.

— Какие эффекты ожидаются от внедрения ИИ по итогам проектов?

— Большинство коммерческих компаний, внедряя технологии ИИ, делают это, чтобы получить практическую пользу. Все понимают, что ИИ работает, есть множество примеров экономического эффекта от этих технологий и в России, и за рубежом.

К примеру, в промышленном секторе организации с высокой степенью цифровизации накапливают широкий спектр данных. На их базе можно достаточно точно оценивать метрики и технологические характеристики, показывающие, насколько хорошо справилась ИИ-модель. При миллиардных оборотах даже доли процента эффекта, за которые борются модели, дают хорошие показатели в деньгах — десятки или сотни миллионов рублей в годовом исчислении.

Как правило, крупные компании применяют ИИ в максимально критичных процессах. Например, для банков это управление рисками, оценка заемщиков и пр. Это стандартные задачи, которые решаются десятилетиями, если не столетиями. Привнесение в них новых технологий (например, ИИ) позволяет улучшать метрики. Даже если речь идет о проценте или доле процента, получаемый в итоге эффект окупает проект с лихвой.

— Какие сферы бизнеса больше всего выигрывают от использования искусственного интеллекта и почему?

— Основной заказчик проектов ИИ сегодня — крупный бизнес, а также госорганизации, поскольку было принято решение о внедрении технологий ИИ в государственное управление. Их уже апробируют на уровне госкомпаний федерального масштаба. Это действительно очень масштабные проекты, в которых задействованы десятки, если не сотни источников как однородных, так и неоднородных данных, распределенных по всей стране.

Другое направление — промышленность. Здесь обычно идут не очень крупные проекты, а скорее портфель локальных задач. У нас выделена по этому направлению отдельная подкоманда, занимающаяся внедрением ИИ в промышленных компаниях.

— Как в целом организована ваша команда, занимающаяся ИИ?

— В целом у нас довольно большая команда, которая разделена на несколько технологических направлений. Больше всего в команде дата-сайентистов, примерно два десятка. Есть дата-инженеры, архитекторы, тимлиды (или старшие специалисты). Отдельное направление — команда по компьютерному зрению. В нее, помимо дата-сайентистов, входят архитекторы, которые выстраивают платформу для машинного зрения, а также инженеры, которые подбирают видеокамеры, освещение и пр. Есть также отдельная команда, которая отвечает за поставку данных, команда промышленного интернета вещей (IIoT).

На направление генеративных моделей выделены фул-тайм три человека, по сути, это лаборатория, которая не столько создает, сколько исследует те модели, которые уже существуют на рынке, ведь новые генеративные модели появляются сейчас примерно раз в месяц.

Цель — понять, как внедрять эти технологии, чтобы они приносили пользу. Для этого собираем последние наработки, тестируем их внутри Softline в тесном взаимодействии с командами по разработке. Консультируем заказчиков по проведению пилотов. Мы видим спрос на такие услуги: многие компании либо уже запустили, либо планируют пилотирование сервисов на базе генеративных моделей, в первую очередь для задач маркетинга.

Источник: данные ПАО «Софтлайн»
— В конце ноября Softline Digital стала лауреатом Национальной премии в области промышленных технологий «Приоритет-2023». Расскажите подробнее об этом проекте.

— Да, действительно, наш проект по прогнозу закупочных цен и органолептических показателей сырого молока для молокоперерабатывающего завода был признан одним из лучших в номинации «Цифровизация производства». Этот проект мы реализовали при помощи собственной разработки — платформы AiLine*, решения для аналитики больших данных, внедрения цифровых советчиков и двойников с помощью машинного обучения и ИИ. Платформа уже задействована не только в пищевой промышленности, но и в горнодобывающей и перерабатывающих отраслях. AiLine помогает прогнозировать производственные параметры изготовляемого продукта и его стоимость, выявлять аномалии. Это позволяет предприятиям существенно повышать эффективность производства и оптимизировать свою деятельность. Все разработки и проект Softline Digital нацелены на сокращение затрат и улучшение работы предприятий, самая важная мысль в том, что новые технологии, ИИ и машинное обучение не заменяют сотрудников, а помогают им.

— Какова ваша позиция в отношении этических вопросов, связанных с использованием искусственного интеллекта? Насколько необходимо создание собственного кодекса этики ИИ в России?

— Вопрос этики в связи с ИИ широко обсуждается во всем мире. Поскольку речь идет о потенциальной технологической революции, развитием ИИ нужно управлять во избежание рисков локальных и глобальных масштабов. В настоящий момент разрабатывается международная документная база по регулированию ИИ. Пока она носит скорее рекомендательный характер.

При этом в каждой стране есть свои нюансы, и единый документ вряд ли будет одинаково реализуем повсеместно. Имеет смысл проработать собственный, внутренний кодекс этики и правил регулирования ИИ. По сути, он исходит из трех законов робототехники, которые описывал Айзек Азимов, теперь они расширяются и адаптируются к текущим реалиям. В России уже несколько лет действует комитет по этике, который выпустил свой документ по вопросам этики ИИ. Мы в Softline его подписали.

Сегодня мы имеем дело со «слабым» ИИ: это не актор, а просто помощник или подсказчик для человека, сам по себе он не принимает никаких решений. Ответственность здесь на человеке, и значит, все риски этики в связи с ИИ лежат на разработчиках, внедренцах и пользователях ИИ.

Некоторые риски могут быть связаны с тем, что при разработке или использовании технологий, вольно или невольно, происходит смещение (bias), когда ИИ в каких-то вопросах предвзят. Это может быть случайностью, либо ошибкой, допущенной при сборе и обработке данных, либо целенаправленным действием. Соответственно, кодекс этики ИИ направлен на то, чтобы контролировать такие процессы и минимизировать риски.

Источник: данные ПАО «Софтлайн»
— Насколько заметен дефицит кадров в области ИИ, из вашей практики? Как вы решаете эту проблему?

— В случае с разработкой ИИ речь идет о людях, которые должны обладать целым набором компетенций, софт- и хард-скилов. Они должны обладать фундаментальными научными знаниями. Уметь коммуницировать с командой и заказчиками, глубоко погружаться в проблематику задачи. Быть отчасти и бизнес-аналитиками, и программистами, и математиками, и инженерами.

В зависимости от масштаба и сложности проекта эта универсальность варьируется. У нас есть проекты, где одновременно работают 70 человек, и здесь заложено гораздо больше узких ролей. Есть отдельные команды бизнес-аналитиков, дата-сайентистов, которые разрабатывают модели ИИ, инженеров, которые их внедряют, специалистов, которые обеспечивают работоспособность ИИ-сервисов (DevOps), а также ML- и дата-инженеров (machine learning engineer — специалист, который создает и обучает алгоритмы работы с большими данными). Зачастую чем больше проект, тем ýже компетенции. Чем он более локальный, тем более универсальны участвующие в нем люди, примеряющие на себя несколько ролей одновременно.

Конечно, искать таких специалистов довольно тяжело, это очень конкурентный рынок. Можно выращивать их внутри, под конкретное направление. Это игра вдолгую, когда мы набираем стажеров со старших курсов профильных университетов из разных городов страны. Но в целом бренд компании и ее известность на рынке — хорошие мотиваторы, чтобы найти нужных специалистов.

Читайте также:

Статья
Как происходит трансформация и развитие бизнеса в новых условиях
Интервью генерального директора Softline Владимира Лаврова
Статья
Как развивается бизнес Softline в новых условиях рынка
Интервью директора по маркетингу Softline Елены Шедовой
Статья
Как бизнес реагирует на уход зарубежных ИТ-поставщиков
Интервью вице-президента Softline Андрея Благоразумова
Статья
Как развивать команду в новых экономических условиях
Интервью директора по персоналу Softline Натальи Лиходиевской
Статья
«Частные облака — ключевой тренд ближайшего будущего»
Интервью руководителя облачного бизнеса Softline Дмитрия Исаева
Статья
Как бизнес-приложения изменяют работу компаний
Интервью генерального директора SL Soft Тагира Яппарова
Статья
Почему повышается спрос на ИТ-услуги, в чем их специфика и точки роста
Интервью директора по сервисам в России ГК Softline Олега Тремзина
Статья
Безопасность, утечки и переход на российское ПО: что сейчас движет ИТ-отрасль вперед
Интервью руководителя управления информационной безопасности компании Softline Дмитрия Васильева
Статья
Финишировать первыми: опыт успешного выхода на биржу российской ИТ-компании
Интервью финансового директора ГК Softline Артема Тараканова
Статья
Как меняется спрос на внешнюю разработку и тестирование готовых продуктов
Интервью директора по заказной разработке компании «Девелоника» (ГК Softline) Виктор Алгазин
Статья
Как инновации ускоряют развитие компании
Интервью директора по инновационным проектам Softline Светланы Ильичевой