Продукты на основе генеративного искусственного интеллекта стремительно ворвались в нашу реальность за последний год.
Еще несколько лет назад было сложно представить, что модели смогут генерировать изображения на основе текста или писать эссе в форме стихов на заданную тему. Причем делать это на уровне, который не уступает человеку. Сегодня продуктами на основе таких моделей пользуются миллионы людей, решая самые разнообразные задачи.
ChatGPT — один из самых ярких примеров продуктов, построенных на основе генеративного AI. Несмотря на отсутствие традиционного маркетинга, ему удалось стать самым быстрорастущим сервисом в истории.
Все материалы серии об использовании ML/AI в создании продуктов
1. Зачем продакт-менеджеру изучать ML и AI
2. Большие языковые модели: основы для тех, кто хочет строить продукты на их базе
3. Как ML-технологии помогают улучшать Retention продуктов
4. Как найти возможности для применения AI в вашем продукте
5. Базовое руководство для улучшения качества продуктов с LLM
6. Продвинутые методы улучшения качества продуктов с LLM: RAG
7. Почему идеальной ML-модели недостаточно, чтобы построить бизнес вокруг ML
8. Внедрение ML/AI для оптимизации процессов службы поддержки в крупном продукте: разбор кейса
9. AI-cтартапы: продавайте результат работы, а не софт
10. Новый этап развития генеративного AI: что это значит для стартапов и инвесторов?
Для многих такие технологии выглядят как магия, которая открывает невероятные возможности. Бизнес не стал исключением в погоне за этими возможностями: CEO и основатели компаний начали активно требовать от своих команд найти способы внедрения решений на базе генеративного AI в свои продукты.
Но чтобы действительно создать ценность с помощью этих технологий, необходимо понимать их основы: как они работают, где именно принесут пользу, какие у них ограничения и риски.
В этом материале мы простыми словами и без сложной математики разберем, как работают большие языковые модели (подмножество технологии генеративного AI для работы с текстом). Это позволит вам понимать возможности и степени свободы этой технологии, чтобы строить на ее основе новые продукты.
Курс «AI/ML-симулятор для продакт-менеджеров» в группе с ментором:
🔹 Научитесь видеть возможности для применения AI/ML в вашей текущей роли
🔹 Запустите собственный продукт с AI/ML→ ←
Принцип работы больших языковых моделей
Термин большие языковые модели (large language models, LLM) не имеет строгого определения, обычно под ним понимают модели, которые содержат огромное количество параметров (миллиарды) и были обучены на огромных объемах текстовых данных.
Принцип работы таких моделей достаточно прост:
- Модель получает на вход «промпт» (запрос от пользователя или набор слов) и далее подбирает наиболее подходящее следующее слово.
- После этого полученная строка вновь подается на вход модели и она подбирает еще одно слово.
- И так далее.
Так получается «разумное продолжение» на основе изначального запроса. Для пользователя это выглядит как ответ, который имеет смысл.
Промпт (prompt, подсказка, затравка) в данном случае — главный элемент управления. Генерация текста происходит именно на основе исходного запроса, поэтому, меняя и оптимизируя промпт, можно улучшать результат работы модели.
