Пошуково-доповнена генерація (RAG)

Визначення

Розширена генерація пошуку (RAG) – це метод, який поєднує генеративні моделі з системами пошуку інформації. Він базує результати на зовнішніх джерелах для підвищення фактичної точності.

Мета

Мета полягає в зменшенні галюцинацій у генеративному штучному інтелекті шляхом доповнення відповідей отриманими документами. Це особливо корисно для відповідей на запитання та наукоємних завдань.

Значення

• Покращує фактичну точність у результатах LLM.
• Забезпечує інтеграцію знань, специфічних для предметної області.
• Потрібні надійні системи пошуку.
• Пов'язано з гібридним пошуком та забезпеченням якості у відкритому домені.

Як це працює

1. Користувач надає запит або підказку.
2. Система пошуку знаходить відповідні документи.
3. Документи передаються в генеративну модель.
4. Модель генерує відповіді на основі отриманого контенту.
5. Цикли зворотного зв'язку покращують майбутню продуктивність.

Приклади (реальний світ)

• OpenAI ChatGPT з плагінами перегляду або пошуку.
• Модель Meta RAG: дослідження LLM, заснованих на пошуку.
• Perplexity AI: розмовний пошук з доповненим пошуком.

Література / Додаткова література

• Льюїс та ін. «Генерація з доповненим пошуком даних для знаннєво-місткого НЛП». NeurIPS 2020.
• Впровадження RAG для обіймання обличчя.
• Дослідження Стенфордського інституту хірургії та хірургії (HAI) щодо методів пошуку.
• Що таке RAFT? RAG + тонке налаштування