Чтобы удобнее было воспользоваться кодом команды для обсуждения идей.

Ссылка на GitHub

#crewai

Few-Shot Learning в промптах

Few-shot learning — это подход, при котором модель решает задачу, опираясь на несколько примеров (обычно 2–5). В контексте промптов это значит: вы показываете ИИ пары «запрос — ответ», и он учится воспроизводить логику и формат.

Зачем это нужно?
▫️Не нужно дообучать модель
▫️Работает с малым количеством данных
▫️Быстро, дёшево, эффективно
▫️Идеально для медицины, финансов, поддержки и других ниш с редкими данными


Как это работает и структура

Пример 1 (запрос + ответ)  
Пример 2 (запрос + ответ)  
...  
---  
Новый запрос  
Ответ:

Модель анализирует паттерны и применяет их к новому вводу.

Пример:

Отзыв: Еда была вкусной, обслуживание — на высшем уровне!  
Эмоция: позитив  

Отзыв: Ждал заказ 40 минут, а роллы были тёплыми.  
Эмоция: негатив  
---  
Отзыв: Персонал грубый, музыка слишком громкая.  
Эмоция:

Ожидаемый ответ: негатив — модель уловила ключевые признаки.

Где использовать?
✔️ Классификация (настроение, категории)
✔️ Переформулирование текста (разговорный → деловой стиль)
✔️ Извлечение данных (имена, даты, места) и т.д.

Советы:
- Давайте 2–5 релевантных и разнообразных примеров
- Используйте разделитель ---
- Сохраняйте одинаковый формат ответов
- Указывайте, какой нужен вывод: слово, JSON, список и т.д.
- Тестируйте и итерируйте


#ai #chatgpt

Function Calling в AI: Как LLM взаимодействуют с внешними инструментами

Function calling — это способ, с помощью которого LLM может запрашивать данные у внешних систем, например, погоду, акции или базы данных.

Допустим, вы спрашиваете: "Какая погода в Москве?" — LLM не знает ответа без доступа к API сервиса погоды, но с помощью function calling она может получить точную информацию.

Как это работает?
1. AI формирует запрос "погода в Москве" и преобразует его в структурированный формат JSON.
2. Запрос отправляется на сервер, который выполняет действие, получает данные с сайта прогноза погоды.
3. Полученные данные возвращаются к AI, который формирует окончательный ответ: "Сегодня в Москве +15°C".

Пример

response = openai.chat.completions.create(
  model="gpt-4",
  messages=[{"role": "user", "content": "Погода в Москве?"}],
  tools=[{
    "type": "function",
    "function": {
      "name": "get_weather",
      "parameters": {"city": "Москва"}
    }
  }]
)

# Обрабатываем вызов
if tool_call := response.choices[0].message.tool_calls:
  weather = requests.get(f"https://api.weather.com/{tool_call.function.arguments['city']}").json()
  
  # Возвращаем данные в чат
  final = openai.chat.completions.create(
    model="gpt-4",
    messages=[
      {"role": "user", "content": "Погода в Москве?"},
      response.choices[0].message,
      {"role": "tool", "content": str(weather), "tool_call_id": tool_call.id}
    ]
  )
  print(final.choices[0].message.content)

OpenAI ожидает role: "tool".

Function calling — это стратегический инструмент, позволяющий AI преодолеть ограничения внутренних знаний и взаимодействовать с реальным миром. Он делает модели более универсальными, способными решать задачи, требующие доступа к данным, расчетам или внешним системам.

#ai

In-Context Learning — обучение LLM в контексте

Одна из самых сильных сторон больших языковых моделей — способность учиться на лету, без дообучения или изменения параметров. Это и есть In-Context Learning (ICL).

Когда вы вводите промпт с инструкцией или примерами, модель не "знает" их заранее. Она буквально строит логику ответа внутри текущего контекста. Контекст становится временной "памятью" и пространством для рассуждений.

Почему это важно?
▪️ ICL позволяет использовать одну и ту же модель для десятков задач без отдельного обучения.
▪️ Качество ответа напрямую зависит от того, как мы формулируем подсказку: порядок информации, стиль и даже примеры в промпте способны радикально менять результат.
▪️ Это фундамент для техник вроде few-shot prompting и chain-of-thought.

Чем ICL отличается от few-shot?
Few-shot prompting — это частный случай In-Context Learning. Мы даём модели несколько примеров "вопрос–ответ", чтобы она уловила шаблон.
Но ICL шире: модель может адаптироваться даже без примеров (zero-shot) или с одним примером (one-shot) — достаточно правильно задать инструкцию.

Пример one-shot In-Context Learning

Задача: Определи тональность отзыва (Позитивный, Нейтральный или Негативный).

Пример:  
Отзыв: "Очень понравился сервис, всё быстро и удобно."  
Ответ: Позитивный  

---  
Отзыв: "Поддержка ответила быстро, помогли решить проблему."  
Ответ:

#ai #icl

Chain-of-Thought логика через пошаговые объяснения

Chain-of-Thought (CoT) — это метод, позволяющий LLM формировать и объяснять логику решения задач. В отличие от стандартных ответов, модель выводит пошаговое рассуждение, что повышает точность и прозрачность. Например, при решении уравнения или анализа текста LLM объясняет каждый этап.

В чем польза
1. Понятнее человеку, видно ход решения.
2. Меньше ошибок, каждый шаг можно проверить.
3. Понятно, как получен вывод.
4. Обучающий эффект, рассуждения можно повторно использовать.

Области применения
- Математика
- Генерация кода
- Анализ текста
- Решение задач по логике и головоломок
- Планирование и стратегия
- Принятие решений, оценка "за" и "против" с рассуждениями
- Анализ данных и таблиц
- Научные объяснения, анализа исследования
- Обучение и экзаменационные задачи
- Юридический анализ, логика применения закона или правил к конкретному кейсу

Применение
🔹 Используйте промпты с подсказками
- Например: "Объясни каждый шаг решения" и модель покажет логику
🔹 Попросите модель уточнить объяснения или привести примеры
🔹 Комбинируйте CoT с Role Prompting или Few-Shot Learning

Вариант без CoT

Ответь одним числом.

Клиент купил 3 товара по 1200.
Скидка 15% применяется только к товарам.
Промокод −200 применяется после скидки, но до доставки.
Доставка 350 (без НДС).
НДС 20% начисляется только на товары после скидки и промокода; доставку не облагай.

Какова итоговая сумма к оплате?

Вариант с CoT, просим пошаговое рассуждать

Решай по шагам и показывай промежуточные суммы. Не округляй до финала.

В конце выведи строку строго в формате: Итог: <число>
Исходные данные:
— 3 товара по 1200
— Скидка 15% на товары
— Промокод −200 после скидки
— Доставка 350 без НДС
— НДС 20% только на товары

Примечание: поддержка детальных рассуждений зависит от модели и запроса. На сложных задачах добавляйте примеры и проверяйте факты.

#ai #cot

Рассуждение (reasoning) в LLM: ключ к решению сложных задач

В современных LLM рассуждение позволяет моделям анализировать данные, принимать обоснованные решения и решать задачи, требующие логики. Например, вместо простого ответа на вопрос о времени в пути, модель может объяснить шаги расчета.

Рассуждение в LLM — это способность модели выявлять закономерности, связывать информацию и обосновывать выводы. Это важно для задач анализа, прогнозирования и создания новых знаний.

Chain-of-Thought (CoT) — метод, который заставляет модель формировать логические цепочки. Например, при решении математической задачи модель объясняет каждый шаг.

ReAct Prompting — комбинированный подход, объединяющий рассуждение и действия. Модель может выполнять вычисления или поиск информации, а затем обосновывать результат.

Применение
- Решение математических и логических задач.
- Анализ текста, суммирование документов или поиск ключевых моментов.
- Автоматизация обслуживания клиентов, ответы на запросы и обработка жалоб.
- Рассуждение повышает точность ответов в критических областях (медицина, финансы).
- и т.д и т.п.

Во многих современных LLM уже встроено рассуждение которое можно активировать. ChatGPT 5 сам принимает решение когда нужно включить рассуждение.

👉 Мой частный клуб по нейросетям

#ai #reasoning

Что такое векторная база данных?

Обычные базы данных (БД) хранят информацию в привычном формате: строки, числа, даты. Поиск в них основан на точном совпадении или фильтрации по определённым критериям.
Например, вы ищете пользователя по имени или товар по артикулу.

Но как быть с неструктурированными данными, такими как тексты, изображения или аудио, где нужно искать не по точному совпадению, а по смыслу? 🤷

Именно здесь на помощь приходят векторные базы данных. Они хранят информацию в виде векторов — массивов чисел, которые описывают объект.

Чтобы превратить сложный объект, например, предложение, в вектор, используют специальные модели нейросети. Этот процесс называется эмбеддингом. У похожих по смыслу объектов будут очень похожие числовые векторы.

В отличие от традиционных БД, векторная база ищет нужные данные не по ключам, а по математической близости векторов.
Алгоритмы вычисляют расстояние между векторами (например, с помощью косинусного расстояния) и выдают наиболее релевантные результаты. Это и есть поиск по эмбеддингам.

Векторные БД — это не замена SQL или NoSQL базам, а отдельный инструмент, который отлично решает задачи, где нужен семантический поиск.

Например, в приложениях с ИИ, где применяется RAG (Retrieval-Augmented Generation).
В этом подходе большая языковая модель (LLM) может быстро найти в векторной базе релевантный документ или фрагмент текста и использовать его как контекст для своего ответа. Таким образом, LLM не нужно хранить всю информацию в своей памяти.

#ai

Эмбеддинги и векторная база на практике

Итак, мы знаем, что векторная база работает с эмбеддингами. Но что это за "массивы чисел" и как они создаются?

Эмбеддинг — это результат работы модели, которая преобразует сложные данные в числовое представление. Существуют различные типы эмбеддингов в зависимости от данных, с которыми они работают.

▫️ Текстовые кодируют смысл слов и предложений. Популярные модели: text-embedding-3-large, mxbai-embed-large.
▫️ Графовые отражают структуру связей между объектами.
▫️ Мультимодальные объединяют разные типы данных. Например, модель CLIP может закодировать изображение вместе с его текстовым описанием.

Размерность вектора может варьироваться от сотен до тысяч чисел. Например, предложение "Привет, мир" может быть преобразовано в вектор из 768 чисел.

Когда вы отправляете запрос, он также сначала превращается в эмбеддинг. Векторная база данных сравнивает его с векторами, которые уже есть в базе, и находит наиболее «близкие».

Пример запроса:
1. Запрос: "новости про AI"
2. Создаётся эмбеддинг запроса: например, [0.12, -0.34, 0.56, ..., 0.05]
3. Векторная база ищет в своей коллекции векторы, которые максимально похожи на вектор запроса.
4. Результат: возвращаются документы или фрагменты текста, которые семантически связаны с "новостями про AI".

Понимание этого процесса важно для разработчика. Качество поиска зависит от модели эмбеддингов, которую вы используете, и от выбранной метрики сходства. В конечном счёте, векторная база — это инструмент, который позволяет приложениям с AI работать с огромными объёмами данных, предоставляя релевантные и осмысленные ответы.

#ai