Сейчас многие компании проявляют большой интерес к генеративному искусственному интеллекту (Generative AI или GenAI). Руководство требует использовать эти технологии, но компании не всегда знают, с чего начать. Хотя почти все задумываются о внедрении искусственного интеллекта, успешно сделать это удалось лишь 9% компаний.
В этой статье мы расскажем, как можно быстро, за несколько недель, превратить идеи по использованию генеративного ИИ, LLM и RAG в работающие решения.
Генеративный искусственный интеллект (Generative AI — GenAI): новый этап развития искусственного интеллекта
GenAI использует алгоритмы машинного обучения для генерации текста, изображений и даже программного кода. Его работа опирается на несколько ключевых направлений:
- Фреймворки машинного обучения. Включают в себя технологии классификации, анализа сходства, кластеризации и интеллектуальной обработки документов.
- Обработка естественного языка (Natural language processing — NLP). Извлекает ключевую информацию из текста и переводит речь в текст и обратно. Понимание естественного языка (Natural language understanding — NLU) позволяет пользователям делать запросы так, как они общались бы с другим человеком. NLU распознаёт намерения и все важные детали. Большие лингвистические модели (Large language models — LLMs) используют специализированные модели для точного распознавания, суммирования, перевода, прогнозирования и ответа на запросы на естественном языке.
- Поиск. Использует интеллектуальный и семантический поиск, а также обработку на естественном языке.
- Data Mining & Analytics. Включает в себя процессную аналитику (process mining), выявление закономерностей и взаимосвязей в данных, предиктивную аналитику, помогает анализировать большие объёмы данных.
Общекорпоративные задачи для генеративного ИИ
Как можно использовать генеративный ИИ в реальных рабочих процессах? Мы выделили три основные области, где генеративный ИИ может быть полезен практически для любой компании: это анализ настроений, автоматизация работы с обращениями и извлечение информации. Конечно, это лишь часть того, что ИИ может предложить, но эти задачи самые универсальные и понятные.
Давайте разберём, почему ИИ так эффективно справляется с ними и как это помогает бизнесу.
Анализ настроений (Sentiment Analysis) с помощью больших языковых моделей: как извлечь числовые оценки из текстов на естественном языке
Анализ настроений — это метод, который позволяет оценить эмоциональную окраску текста, извлекая из него количественные показатели, отражающие мнения и настроения людей. Этот подход используется для обработки неструктурированных данных, таких как посты в социальных сетях, отзывы клиентов, опросы сотрудников, обзоры продуктов и других текстов.
Компании применяют анализ настроений для мониторинга репутации бренда, улучшения качества обслуживания, анализа конкурентной среды и даже для прогнозирования рыночных трендов. Например, выявляя негативные отзывы, можно своевременно реагировать на проблемы, а положительные комментарии могут быть использованы для продвижения.
В политике анализ настроений помогает понять общественное мнение и настроения избирателей, а в финансах — предсказать движение цен на основе новостного фона.
Этот метод позволяет понять, как люди воспринимают компанию, продукты или услуги, и использовать это понимание в работе.
Управление заявками и обращениями с использованием ИИ и LLM
Генеративный ИИ значительно упрощает управление заявками и обработку обращений, автоматизируя создание черновиков ответов, прогнозирование проблем, приоритизацию и классификацию запросов.
Как ИИ применяется в управлении обращениями и заявками (тикетами)
Первое направление — самообслуживание клиентов. Представьте виртуального ассистента или чат-бота, который отвечает на сложные вопросы так, как это сделал бы реальный человек. Он понимает язык и местоположение клиента, анализирует его настроение и обеспечивает круглосуточную поддержку, сохраняя «единый голос бренда» без участия оператора.
Второе направление — поддержка операторов. Искусственный интеллект помогает операторам, предлагая персонализированные сценарии общения с клиентами. Например, если клиент звонит в кол-центр или службу поддержки, ИИ заранее определяет его намерения и предлагает оператору подходящие ответы, а также быстро предоставляет информацию о клиенте.
Третье направление — обучение и развитие операторов. После разговора ИИ создаёт краткое резюме, включающее основные моменты и принятые меры. Кроме того, ИИ может предложить оператору рекомендации по дальнейшим действиям или дополнительному обучению.
Пример использования генеративного ИИ в ИТ-поддержке
С увеличением числа цифровых сервисов компании сталкиваются с ростом числа инцидентов, что создаёт дополнительную нагрузку на ИТ-поддержку. В таких условиях генеративный ИИ становится ключевым инструментом для автоматизации и повышения эффективности управления ИТ-услугами (ITSM — Information Technologies Sevice Management).
1. ИИ-поиск
Одна из ключевых функций GenAI — улучшенный интеллектуальный поиск, который вместо простого списка результатов сразу даёт готовые ответы. Это позволяет сотрудникам быстро находить нужную информацию и снижает количество запросов в службу поддержки, экономя время и снижая нагрузку на команду.
2. Обобщение информации по обращениям
GenAI автоматически создаёт краткие описания чатов между сотрудниками и инженерами поддержки. Это полезно для новых инженеров, которым нужно быстро понять суть проблемы. Если запрос был подан не через чат, ИИ также создаёт краткий обзор проблемы, указывая, что уже было сделано и какие шаги нужно предпринять дальше.
3. Генерация черновиков ответов
GenAI автоматически генерирует ответы на запросы, что снижает нагрузку на специалистов.
4. Генерация тестовых сценариев
AI также может создавать тестовые сценарии на основе анализа кода и требований, ускоряя тестирование и улучшая качество разработки ПО.
5. Подсказки и интеллектуальная поддержка сотрудников
ИИ предоставляет ИТ-специалистам полезные рекомендации и информацию для обработки запросов, особенно в сложных случаях. Это сокращает время на решение инцидентов и улучшает качество обслуживания.
6. Автоматизация отчётности и управление знаниями
GenAI автоматически создаёт отчёты о решении инцидентов, записывая все предпринятые шаги. Это упрощает работу и помогает следовать лучшим практикам ITIL. Кроме того, AI автоматически создаёт и обновляет статьи базы знаний, что позволяет сотрудникам быстро находить решения.
7. Маршрутизация и эскалация обращений
ИИ помогает автоматически классифицировать и направлять заявки к нужным специалистам. Также ИИ выделяет приоритетные заявки и даёт рекомендации по их эскалации, что помогает быстрее решать проблемы и повышает качество обслуживания.
В чём наиболее заметно применение ИИ в управлении заявками и обращениями?
- Снижается нагрузка на поддержку благодаря автоматизации ответов на типовые запросы и использования клиентами AI-сервисов самообслуживания.
- Большинство проблем решаются при первом обращении. GenAI быстро извлекает данные о клиенте и истории предыдущего взаимодействия с ним, помогая операторам точно отвечать на вопросы и устранять проблемы с первого раза.
- Сокращается время отклика и время обработки заявок. ИИ может сократить время, затрачиваемое операторами на общение с клиентом, благодаря предоставлению нужных данных в режиме реального времени и инструкций по решению проблемы.
- Улучшается контроль качества. ИИ усиливает контроль качества и обучение сотрудников поддержки, собирая информацию из разговоров и переписки с клиентами, определяя, что можно было бы сделать лучше, и обучая операторов.
Извлечение полезной информации из неструктурированных данных с помощью LLM и RAG
Одно из ключевых применений ИИ — это извлечение важной информации из больших объёмов неструктурированных данных. Это особенно актуально при работе с многостраничными финансовыми и маркетинговыми отчётами, юридическими документами и другими видами документации, которые сложно анализировать вручную.
Generative AI позволяет автоматизировать этот процесс, превращая громоздкие отчёты в понятные данные, которые легко использовать в работе и для аналитики.
Примеры применения ИИ для извлечения данных.
- Анализ объёмных многостраничных финансовых и отраслевых отчётов. GenAI может автоматически извлекать ключевые финансовые показатели и тренды из документов.
- Анализ рыночных отчётов и документации конкурентов. В маркетинге тоже часто нужно анализировать большие объёмы данных из отчётов аналитических агентств (например, Gartner или Forrester) или из отчётов конкурентов. GenAI помогает быстро извлекать нужные данные.
- Соответствие нормативным требованиям. GenAI может автоматически проверять документацию и юридические контракты на соответствие требованиям. Это снижает риски и помогает компании соблюдать законы и регламенты.
Эволюция ИИ в компаниях: от извлечения структурированных данных до ИИ-приложений
Внедрение искусственного интеллекта в компании — это процесс, который часто состоит из трёх ключевых этапов: аналитика данных, оптимизация бизнес-процессов и создание интерактивных пользовательских решений.
Отправная точка применения ИИ: извлечение и аналитика данных
С появлением больших языковых моделей компании получили возможность преобразовывать неструктурированные данные, такие как отзывы клиентов, отчёты, документация и данные из социальных сетей, в удобные для анализа структурированные форматы.
Раньше обработка таких данных требовала много времени и сил, но теперь, благодаря LLM, можно автоматически извлекать ключевую информацию и превращать её в готовую для использования форму.
Например, при анализе отзывов клиентов LLM может автоматически определять настроение отзыва и присваивать оценку. Эти оценки затем можно загружать в CRM-систему для расчёта средних значений, предиктивной аналитики, сегментации клиентов и разработки маркетинговых кампаний, а также для прогнозирования оттока клиентов или роста продаж. Далее в статье есть конкретный пример использования этой технологии.
LLM используются в решении самых разных бизнес-задач, таких как Customer 360, финансовое планирование, аналитика продаж и многие другие.
Оптимизация бизнес-процессов с использованием генеративного ИИ
После освоения аналитики данных с применением GenAI, компании переходят к следующему этапу — интеграции GenAI в свои бизнес-процессы.
Чтобы использовать результаты анализа и прогнозов, которые получены с применением ИИ, нужно сделать их доступными в инструментах и системах, которыми ежедневно пользуются сотрудники. Это — задача обратного ETL.
Что такое обратный ETL?
Обратный ETL — это процесс передачи данных, хранящихся в центральных репозиториях, таких как хранилища данных, в бизнес-приложения и инструменты, которые используют сотрудники, например, в CRM, программное обеспечение для автоматизации маркетинга или аналитические панели. Этот процесс обеспечивает актуальность и доступность данных для ежедневной работы, синхронизируя их между всеми инструментами и приложениями, используемыми в компании.
В чём разница между ETL и обратным ETL?
ETL (Extract, Transform, Load) — это процесс, включающий извлечение данных из различных источников, их преобразование и последующую загрузку в хранилище данных. Иногда данные сначала загружаются в хранилище, а затем преобразуются — это называется ELT. Подробнее про ELT и ETL можно почитать в нашей публикации Что такое конвейеры данных и зачем они вам?
Отличие ETL от обратного ETL заключается в направлении перемещения данных. Если ETL направлен на сбор и консолидацию данных в аналитической платформе, то обратный ETL нацелен на извлечение данных из централизованного хранилища и их интеграцию в рабочие инструменты для использования сотрудниками.
Практическое применение
Примером использования обратного ETL может быть интеграция прогнозов спроса, созданных с помощью ИИ, в системы управления цепочками поставок, что позволяет более точно планировать закупки и производство. В маркетинге ИИ помогает разрабатывать персонализированные кампании, а обратный ETL затем передаёт данные в системы, автоматизируя настройку таргетинга и сегментации.
Разработка приложений и чат-ботов со встроенным ИИ
Приложения и чат-боты на основе ИИ меняют взаимодействие с клиентами и внутренние процессы.
С помощью ИИ компании могут предоставлять быстрые ответы на запросы на естественном языке. ИИ делает маркетинг более персонализированным и эффективным. Приложения на основе ИИ анализируют поведение пользователей и предлагают продукты и услуги, которые действительно нужны клиентам.
Внутри компании ИИ оптимизирует процессы, улучшает коммуникации и помогает сотрудникам быстрее получать доступ к нужной информации. Виртуальные ассистенты на базе ИИ ускоряют обучение и развитие сотрудников и повышают их продуктивность.
Интеграция ИИ с существующими системами усиливает их возможности и помогает бизнесу адаптироваться к изменениям.
ИИ-конвейер c Epsilon Workflow
Это процесс внедрения ИИ в компании, охватывающий все ключевые этапы, начиная с подготовки данных и заканчивая интеграцией AI в операционную деятельность компании. Вся настройка и управление выполняются прямо на платформе Epsilon Workflow, что делает этот процесс доступным и удобным для пользователей.
Подробное описание каждого шага представлено в следующих пунктах.
1. Подготовка данных для ИИ: основы точной работы модели
На этом этапе происходит сбор, очистка, структурирование и разметка данных, которые будут использоваться для обучения и работы AI-модели. Важно обеспечить высокое качество данных, так как они являются основой для точной работы AI. Процесс включает в себя устранение ошибок и дубликатов, а также создание специализированных наборов данных, которые AI сможет эффективно использовать для анализа и генерации ответов.
2. Промпты: как задавать запросы для оптимальной работы LLM модели
Промпт — это текстовый запрос, который вы вводите, чтобы взаимодействовать с AI-моделью. То, как вы сформулируете запрос, напрямую влияет на то, насколько точными и полезными будут ответы ИИ.
Вот что можно делать в Epsilon Workflow:
- Подключать большие языковые модели (LLM) к своим рабочим процессам без необходимости писать код. Это помогает решать различные задачи, используя уже имеющиеся данные.
- Быстро переключаться между разными моделями, такими как GigaChat, Yandex GPT, GPT-4.o или Llama 3.1, чтобы протестировать их и выбрать ту, которая лучше всего справляется с задачей по точности, скорости или стоимости.
- Создавать цепочки запросов (промптов) для работы с неструктурированными данными.
3. Делаем LLM экспертом по любому предмету, используя RAG (Retrieval-Augmented Generation): обеспечение контекста для повышения точности
Большие языковые модели (LLM) обладают значительным потенциалом, но их точность зависит от тех данных, на которых они обучены. В условиях конкретной отрасли или компании, где важны контекст и специфика, стандартные LLM могут ошибаться и выдавать некорректные ответы, так называемые «галлюцинации».
Чтобы повысить точность, мы в Epsilon Workflow используем метод Retrieval Augmented Generation (RAG), вместо дорогостоящего и сложного дообучения моделей (Fine-Tuning) на специализированных дата-сетах.
RAG позволяет LLM использовать актуальные данные из внешних и внутренних источников, таких как корпоративные базы знаний и документы, отраслевые решения.
RAG загружает данные, разбивает их на фрагменты (chunks) и сохраняет в векторных базах данных, создавая индексы для быстрого поиска и извлечения информации. Это позволяет модели учитывать не только промпт, но и контекст, что повышает точность и релевантность ответов.
Интеграция RAG в Epsilon Workflow автоматизирует доступ к векторным хранилищам.
4. Human-in-the-Loop (HITL): роль человека в улучшении результатов ИИ
Human-in-the-Loop (HITL) — это подход, когда сотрудник активно участвует в работе ИИ, проверяя, корректируя или подтверждая результаты, которые генерирует модель.
Участие человека помогает обеспечить точность и надёжность ИИ, особенно в сложных ситуациях, где автоматизация пока не справляется. Кроме того, такой подход ускоряет обучение модели благодаря автоматизированной обратной связи.
HITL используется для корректировки прогнозов, аннотирования данных и подтверждения результатов, что в итоге повышает качество и эффективность работы ИИ.
5. Интеграция GenAI в бизнес-процессы
Заключительный этап — это интеграция результатов работы AI в повседневные бизнес-процессы. Ключевые задачи на этом этапе:
- Интеграция GenAI в привычные для бизнес-пользователей приложения, что позволяет им использовать AI прямо в их рабочих инструментах, таких как CRM и ERP системы, приложения и чат-боты.
- Реализация обратного ETL для переноса результатов анализа и контента, созданного моделью, в целевые системы.
Пример построения ИИ-конвейера в Epsilon Workflow: анализ настроений (Sentiment Analysis)
С помощью Epsilon Workflow можно интегрировать компоненты Generative AI прямо в конвейер данных.
Представьте, что вы сотрудник гостиничной компании, и ваша задача — использовать отзывы клиентов для улучшения качества обслуживания. В этом примере мы создадим конвейер, чтобы оценить настроения в отзывах об отелях компании на интернет-портале.
Мы будем использовать возможности Epsilon Workflow для интеграции Generative AI в процессы обработки данных. Давайте посмотрим, как AI может помочь извлечь полезную информацию из неструктурированных данных отзывов.
Шаг 1: Загрузка текстов отзывов для анализа
Сначала загружаем тексты отзывов, которые ранее уже были сохранены в облачном хранилище данных. Эти данные являются важным ресурсом для понимания настроений клиентов.
Шаг 2: Конфигурация выводов и анализ
Описываем требования к результатам работы модели. Пишем промпт, в котором указываем классифицировать каждый отзыв как положительный, негативный или смешанный.
Шаг 3: Настройка компонента Yandex GPT для анализа настроений отзывов
Epsilon Workflow поддерживает различные LLM — OpenAI, Yandex GPT и GigaChat. Для анализа выбираем модель, настраиваем параметры и контекст, после чего сохраняем изменения.
Шаг 4: Просмотр и визуализация данных оценок отзывов
Итак, мы решили задачу извлечения оценки настроений из отзывов.
Далее полученные оценки можно использовать для решения разных задач. Например, выделить негативные отзывы и написать с помощью GenAI персонифицированные письма с извинениями и предложениями. Скоро продемонстрируем этот и другие примеры на вебинаре.
Заключение
Использование искусственного интеллекта на уровне всей компании — это важный шаг для повышения эффективности и конкурентоспособности. GenAI позволяет автоматизировать рутинные задачи, лучше понимать клиентов и прогнозировать тренды. В этой статье мы подробно разобрали, как интегрировать ИИ в бизнес-процессы для решения разных задач — от анализа настроений до автоматизации ИТ-поддержки. Использование Epsilon Workflow упрощает весь процесс.
Epsilon Workflow может стать ключевым инструментом для включения ИИ в ваши процессы. Начните с нами уже сегодня.
