ИИ: умно и просто
Сервисы, созданные на основе искусственного интеллекта, становятся все более совершенными и все более доступными для пользователей, считает эксперт Сергей Кобелев
Андрей Семеркин, программный директор Forbes Club
— Какие российские и зарубежные ИИ-сервисы доступны сегодня российскому пользователю?
— Прежде всего — прозвучавший из всех колонок — YandexGPT, а также GigaChat от «Сбера». Своего цифрового ассистента развивают команды Tinkoff AI, JustAI, VK, МТС. Зарубежные сервисы в основном доступны через VPN, хотя со временем доступ этот упрощается. Например, в ChatGPT теперь не надо указывать телефон и соответственно искать международные номера телефонов для регистрации. Своя модель Gemini есть у Google, она доступна без СМС, но потребуется VPN.
— Какие из этих моделей применимы в бизнесе и в каком качестве?
— В конце 2023 года компания «Яков и партнеры» (бывшая McKinsey — Forbes Club) выпустила большое исследование «Искусственный интеллект в России – 2023: тренды и перспективы», в котором говорится, что базой для развития ИИ-сервисов является клиентский бизнес — все, что связано с поддержкой пользователя. Однако мой опыт показывает, что этим дело не ограничивается. LLM-модели (Large Language Model — языковая модель, состоящая из нейронной сети со множеством параметров — Forbes Club) помогают работать с текстом: пользователи пишут запросы и получают ответы. Эти сервисы классно помогают в HR, маркетинге и продажах. Я использовал этот сервис во время стратегической сессии.
— Как именно?
— Несколько фаундеров обладали совершенно разными видениями будущего. Настолько разными, что я не мог собрать эти подходы в систему: это были лебедь, рак и щука. А ChatGPT с этой задачей справился — модель смогла объединить несовместимые, казалось бы, точки зрения.
— Это был сеанс многопользовательской игры: несколько человек сели за компьютеры, создали общий сеанс и начали задавать вопросы?
— К сожалению, таких возможностей у этой модели пока нет, поэтому информацию я вводил последовательно: сначала позицию одного фаундера, затем второго, затем третьего… Многопользовательские сеансы — это, видимо, дело будущего. Технологии продолжают развиваться — хорошая новость состоит в том, что сервисы запоминают историю общения с пользователем и стараются готовить как можно более точные ответы на его вопросы. Например, я искал отели в Турции, и ChatGPT выдавал ответы с учетом тех ограничений, которые я сформулировал во время прошлых сеансов.
— Как эти модели используют компании?
— Ответ на этот вопрос ответ дала компания «Яков и партнеры» в исследовании, которое я упоминал. На основе их данных я построил график, показывающий, в каких направлениях бизнес применяет инструменты ИИ На графике указана доля компаний, внедряющих ИИ в бизнес-функции, от общего числа опрошенных:
— На этом графике показано использование текстовых сервисов, таких как ChatGPT?
— Да, в фокусе исследования — языковые модели, там не рассматриваются сервисы, которые генерируют изображения, звук или видео.
— Насколько высок «порог сложности» — какими компетенциями должна обладать компания, чтобы начать использовать такие сервисы в бизнесе?
— Сервисы с каждым шагом становятся все проще. Раньше, например, MidJorney (модель для генерации изображений — Forbes Club), был набор параметров, которые нужно было указать как хэшеги через запятые и дефисы, то есть рядовой пользователь должен был строить запрос как программист. Теперь задача выглядит несравнимо проще — достаточно просто указать: «Хочу картинку розового торта». Соответственно раньше были курсы о том, как строить запросы для работы с MidJorney, теперь эти курсы не нужны.
Аналогичная картина и в других сервисах, построенных на алгоритмах. Пользователь просто дает задание чат-боту: «Напиши мне коммерческое предложение для этого продукта». Описывает продукт и получает текст. Если нужно что-то изменить, пользователь дает новое задание и получает новый результат.
— То, о чем вы говорите, годится для решения относительно простых задач, но ведь есть задачи более высокого уровня, когда нужно интегрировать алгоритмы в бизнес-процесс. Какие компетенции нужны в таких случаях?
— Во главе процесса должен стоять инженер или архитектор, который хорошо разбирается в инструментах и технологиях искусственного интеллекта и машинного обучения, он же поможет сформировать команду. Вместе они определят необходимый набор инструментов. Далее уже в зависимости от задачи, будут выбраны LLM-модели и механики взаимодействия с ними.. Например, компания может поручить алгоритмам оценивать входящий поток резюме, сортировать CV, анализировать и направлять качественные резюме на следующий уровень — на собеседование.
— Кого компании должны включать в состав подобной команды?
— В зависимости от конкретной ситуации — системных аналитиков, архитекторов, «питонистов» (программистов, работающих на языке Python — Forbes Club), продакт-менеджеров, тестировщиков. Конечно, в этой ситуации «порог сложности» будет выше и создание проекта обойдется дороже, чем в случае с «розовым тортом», но тем не менее, это будет не настолько сложное мероприятие, как, например, пару лет назад. Потому что модели становятся все умнее, но при этом все проще в интеграции и дешевле.
— А если нужно обрабатывать не поток текстов как в случае с резюме, а поток цифр, каков будет состав команды?
— В этом случае также нужно прибегать к помощи разработчиков, чтобы получать первичные данные в корректном формате и настроить процесс передачи и обработки этих данных с LLM. У Python есть много библиотек для анализа данных. Иногда про ИИ говорят, что «модели фантазируют», но при связке с Python, модели получают запрос от человека на естественном языке и подбирают библиотеки, которые нужно подключить для решения конкретной задачи. Грубо говоря, модели делают то, что раньше делали специалисты по Data Science. В результате обычному пользователи становится проще решать объемные задачи. Например, алгоритмы могут быстро проанализировать 100 000 строк, найти в этом массиве «всплески», кластеризовать первичные данные по каким-то параметрам и т.д. При этом состав команды не будет отличаться от предыдущего шага.
— Каким должен быть состав команды, если компания хочет с помощью алгоритмов решить несколько задач, например, поставить на поток описание вакансий, автоматизировать процесс продаж, оптимизировать те или иные финансовые показатели?
— Любую из этих задач можно решить в чате в формате 1:1. Например, HR-менеджер пишет ChatGPT: «Сделай мне описание вакансии» и получает документ. В данном случае надо научить HR-менеджера работать с чатом. Это я назвал бы повышением эффективности сотрудника и для решения такой задачи нужен промпт-инженер, который научит правильному общению с LLM.
Есть и другой подход, когда система не только создает текст с описанием вакансии, но и сама решает, где разместить эту вакансию, получает отклики, анализирует их и передает HR-менеджеру лишь самых перспективных кандидатов. Для решения такой задачи требуется полноценная продуктовая команда разработки. Пять лет назад в эту команду требовалось бы включить Data Scientist, ML-Engineer, Data Engineer (Аналитик данных, специалисты по машинному обучению сервисов, работе с данными. — Forbes Club), которые стоят по 600-700 тыс. рублей в месяц. Сегодня они уже не нужны, потому с их задачами справляются обычные разработчики.
— Значит ли это, что алгоритмы подрывают рынок труда высокооплачиваемых специалистов?
— Высокооплачиваемые специалисты, которых я назвал, переходят на сторону разработчиков моделей. Компаниям, которые создают и развивают LLM модели, очень нужны эти ребята. Спрос на них просто колоссальный. Зарплаты доходят до десятков тысяч долларов в год. Когда мы слышим, что «Яндекс» или «Тинькофф» создали свою LLM — это означает, что рынок труда для специалистов по машинному обучению идет в гору. А вот компании, которая хочет внедрить в свой бизнес разработку от «Яндекса», эти специалисты уже не нужны — эта компания просто будет использовать готовые решения.
— Насколько готовые? На классическом рынке между разработчиком софта и потребителем стоит системный интегратор, который помогает адаптировать решение к нуждам конкретного заказчика. Актуальна ли такая схема, если мы говорим о рынке ИИ-сервисов?
— Да. Если представить себе большую компанию, которая решает не единственную задачу про найм сотрудника, а множество задач, то такой компании нужен интегратор, который поможет выстроить всю систему комплексно, поставить эти решения на единые рельсы, связать задачи между собой. Недавно о создании такой платформы объявила компания EPAM. Модели обновляются очень быстро, поэтому компаниям-клиентам нужна будет помощь в интеграции новых решений в их бизнес. Эти задачи будут решать системные интеграторы с их гигантскими чеками за работу и клиентскую поддержку.
Одновременно будет развиваться и другой трек — небольшие, но опытные команды интеграций, решающие узкие задачи внедрения генеративных ИИ в бизнес. При этом у бизнеса всегда будет выбор, использовать облачные модели или модели с открытым кодом для работы в закрытом контуре..
— Аналог Linux? Проекты с открытым кодом?
— Да, можно так сказать. Например, Llama (принадлежит компании Meta, которая запрещена в России.— Forbes Club) или Mistral. Эти модели активно развиваются при поддержке сообщества и быстро догоняют «облачных» лидеров.
— От чего будет зависеть выбор клиента: работать с проектами с открытым кодом или нет?
— От того, готов ли он отдать свои данные, например, финансовые, в «чужой» контур, например, в зарубежную компанию OpenAI или в Сбере с Яндексом. При этом можно отметить, что из данных можно вычищать персональные данные или корпоративную тайну, но это трудоемкая задача. Альтернатива этому пути, держать всю информацию в в собственном корпоративном контуре и использовать для этого модели с открытым исходным кодом.
Но при этом стоит отметить, что несмотря на активное участие сообщества в развитии моделей с открытым кодом, они все равно отстают от из «закрытых» аналогов по качеству ответов и глубине понимания.
— Вы назвали компанию EPAM в качестве примера интегратора сервисов, созданных на основе алгоритмов. Есть ли другие примеры?
— Есть. Такие интеграторы нужны, наверное, очень большим многопрофильным заказчикам, таким как вертикально интегрированные холдинги, банки и так далее. Однако, подчеркну еще раз, в подобных случаях перед клиентами не стоит задача сформировать у себя компетенции по развитию моделей — эти компетенции находятся на стороне «Яндекса», Google, OpenAI, и разработчики передают клиенту «рычаги» управления своими сервисами: бери и пользуйся.
Что касается среднего бизнеса, как я говорил выше, на него работают маленькие студии, которые сейчас стали появляться на рынке. У меня в окружении есть пять таких студий, каждая из которых специализируется на какой-то функции, например, на анализе разговоров службы поддержки клиентов. Это небольшие задачи, решение которых стоит небольших денег.
— Что вы понимаете под словом «небольших»?
— Например, я периодически провожу консультации, лекции для корпоративной аудитории. И мне кажется классным, когда я даю аудиторию возможность поработать с ChatGPT, потому что многие про него слышали, но не многие с ним взаимодействовали. Я запускаю маленький телеграм-бот, чтобы пользователь мог сразу после лекции зайти в чат и пообщаться с GPT4. Для каждой компании создается новый бот, который учитывает специфику данного бизнеса. Создание такого бота программистами обходится мне порядка 20 тыс. рублей. Бюджет одной из задач — анализ разговоров с клиентами — составил около 300 тыс. рублей. При этом нужно различать цену разработки и цену поддержки. За любой вопрос и ответы, который мы отправляем или получаем от OpenAI, мы платим деньги. Сумма зависит от числа связок вопрос-ответ и от количества символов в ней. Чем больше запросов — тем больше счет.
— Вы привели график, который построили на данных компании «Яков и партнеры». Можете ли вы сказать, в каких секторах этого графика наиболее высокий уровень конкуренции: где больше игроков?
— По моим сведениям — в HR, маркетинге и продажах. Этому есть объяснение: от того, что компания оптимизирует работу отдела продаж, она получит быстрый эффект. От того, что станет нанимать сотрудника за месяц, а не за полгода — тоже, особенно, если компания нацелена на рост и собирается нанимать много людей. Таким образом, предложение в секторе сервисов на основе ИИ, нацелено на те стороны бизнеса, где быстро можно получить требуемый результат, и где есть постоянный спрос на улучшение.
— Посмотрим на эту ситуацию глазами инвестора. Можно ли предположить, что в условиях, когда российский капитал не пускают на зарубежные рынки, инвесторы просто «обречены» инвестировать в ИИ?
— Скорее да, чем нет. Но отрасль развивается так стремительно, что риски подобных инвестиций непредсказуемы. Например, в 2023 году появилось много стартапов, которые использовали возможности ChatGPT для анализа файлов формата PDF. Эти стартапы привлекали инвестиции для развития своих сервисов. А потом в ChatGPT появилась кнопка со скрепочкой, с помощью этой кнопки пользователь может приложить файл PDF для анализа. В этот момент все стартапы, которые развивали технологию анализа PDF, стали не нужны.
Другой кейс. В России был пул компаний, которые разрабатывали сервис для автоматического создания карточек товаров для маркетплейсов — эта рутинная задача занимает очень много ресурсов — сложно создавать карточки вручную, если у компании большой ассортимент. Затем в «Яндекс.Маркете» появилась кнопка, позволяющая автоматически создать карточку товара, используя YandexGPT: пользователь вводит заголовок, нажимает кнопку и автоматически создается описание товара. В этот момент все стартапы, которые развивали этот сервис, потеряли ключевую фишку.
— Значит ли это, что на рынке ИИ-сервисов складывается олигопольная обстановка и что небольшим компаниям лучше пользоваться готовыми сервисами от лидеров, а не развивать собственные наработки?
— На российском рынке ИИ-сервисов лидируют «Сбер», «Яндекс», «Тинкофф», при этом сам рынок в мировом масштабе невелик. У компаний, которые я назвал, есть ресурсы для создания больших моделей. Во-первых, есть деньги, это важно, потому что создание больших моделей стоит десятки и сотни миллионов долларов. Во-вторых, есть компетенции, что не менее важно. В-третьих, есть клиентская база, что тоже критически важно, потому что для моделей нужны большие данные, на которых учатся нейросети. Это не значит, что список участников рынка закрыт — свои проекты в этой области развивают Альфабанк, «Авито», ВТБ, «Озон», причем, это развитие не исключает сотрудничество компаний друг с другом…
Что же касается небольших компаний, то, прежде чем инвестировать в развитие ИИ-сервисов, нужно оценить корпоративные финансовые, интеллектуальные ресурсы и размер дата-сета, то есть объема клиентских данных. Может случиться так, что, компания найдет деньги на оплату труда дорогостоящих специалистов по машинному обучению и работе с данными, но у нее не хватит данных для обучения модели. И, повторю, компания не застрахована от того, что однажды на «Яндексе» или другом сервисе появится новая кнопка, которая обесценит все инвестиции, которые компания сделала в развитие своего собственного сервиса.
— Если компания пойдет по консервативному пути — не станет развивать собственные сервисы, а воспользуется решениями от лидеров, кто в компании должен отвечать за интеграцию: CIO, CDTO, CTO?
— Думаю, CIO, поскольку он отвечает за информатизацию бизнеса.
— А если CIO не хватит компетенций? Как быстро идет формирование рынка консалтинга в сфере ИИ в мире и в России?
— Этот рынок формируется по нескольким направлениям. Есть консультанты, которые приобрели экспертизу, когда участвовали в создании проектов на стороне разработчиков.
Интерес к этой теме проявляют классические консалтинговые агентства из «Большой четверки», другие компании, такие как McKinsey и BCG. В 2023 году BCG выпустила потрясающее исследование на эту тему — они проанализировали работу 700 консультантов, одни из которых пользовались возможностями GPT4, другие — нет. Разница в эффективности составила 40%.
Наконец, компетенциями делятся интеграторы, такие как EPAM, о котором я уже рассказывал.
У каждой категории консультантов, которые я перечислил, свои возможности и своя целевая аудитория: первая группа консультантов сотрудничает с малыми и средними компаниями, вторая и третья — с крупными.
Сергей Кобелев — консультант по внедрению генеративных ИИ. Окончил математический факультет Иркутского государственного университета. 16 лет опыта в IT, включая должности Lead Product Manager в «Яндексе», «Точке», Альфа-банке. Помогает по внедрению генеративных ИИ компаниям «Финам», S7 Airlines, «Билайн», специализируется на формировании плана и стратегии ИИ-трансформации.
По оценке компании «Яков и партнеры», полный экономический потенциал ИИ в России к 2028 году составит 22–36 трлн руб. в номинальных ценах, а реализованный эффект к 2028 году может достичь 4,2–6,9 трлн руб., что эквивалентно влиянию на ВВП до 4%. В абсолютном выражении около 70% потенциала приходится на шесть ключевых для российской экономики отраслей — транспорт и логистику, банковскую отрасль, ритейл, добывающую промышленность, производство потребительских товаров, ИТ-отрасль. В компании «Яков и партнеры» создана отдельная практика и уже почти год идут активные проекты в области ИИ.
Источник: исследование «Яков и партнеры» «Искусственный интеллект в России – 2023: тренды и перспективы»