Подобряване на RAG системите в предприятията с достатъчен контекст

Въведение: Защо RAG системите са важни

Системите за генериране с допълнително извличане на информация (Retrieval-Augmented Generation, RAG) все повече се превръщат в основен елемент за изграждането на стабилни AI приложения. Тези системи интегрират външни данни, за да подобрят производителността на AI моделите, като по този начин правят изходните данни по-фактологични и надеждни. Въпреки това предизвикателствата продължават да съществуват, тъй като тези системи често предоставят неточни отговори, въпреки извличането на доказателства. Последното изследване на Google въвежда решението „достатъчен контекст“, за да се справи директно с тези проблеми.

Постоянните предизвикателства на RAG системите

RAG системите се отличават с извличането на данни, но се провалят при точната интеграция на тази информация поради неуместни разсейвания или невъзможност за извличане на необходимите детайли. Според ново изследване на изследователи от Google, основно предизвикателство е да се даде възможност на големите езикови модели (Large Language Models, LLMs) да определят дали разполагат с „достатъчен контекст“, за да отговорят точно на запитванията. Последиците за приложенията в предприятията, особено за разработчиците, които залагат на надеждност и фактическа коректност, са огромни.

Въвеждане на „Достатъчен контекст“

Концепцията за „достатъчен контекст“, представена от изследователите на Google, категоризира входните данни въз основа на достатъчността на контекста, което е решаващо за процеса на вземане на решения от AI при отговорите на запитвания:

• Достатъчен контекст: Контекстът съдържа всички необходими данни за справяне със запитването.
• Недостатъчен контекст: Контекстът липсва ключова информация, вероятно поради непълни или противоречиви данни.

Този метод не изисква истински отговори, което позволява приложимост в реалния свят, където такива отговори не са налични по време на извода.

Анализи от изследването на Google за RAG системите

Изследването подчертава, че моделите постигат по-добра точност при достатъчен контекст, но показват повишени халюцинаторни отговори, когато контекстът липсва. Дори с допълнителен контекст склонността към халюцинации вместо въздържане предполага, че моделът придобива фалшиво усещане за точност. Тази аномалия показва, че въпреки че RAG подобрява производителността, изисква по-стратегическо внедряване.

Основни изводи:

• Моделите се нуждаят от по-добри алгоритми за автоматично определяне на достатъчността на контекста.
• Ефективните RAG системи за предприятия трябва да оценяват както с, така и без benchmarks за извличане, за да подобрят базовите знания на модела.

Намаляване на халюцинациите в RAG системите

Предложена е нова рамка за „селективно генериране“, за да се намалят халюцинациите. Тя включва по-малък, отделен интервенционен модел, който управлява дали основният LLM трябва да отговори или да се въздържи. Когато се прилага към моделите Gemini и GPT, това довежда до значителни подобрения в точността на отговорите на запитванията.

Практическо приложение в предприятията:

Представете си AI за поддръжка на клиенти. Ако контекстът описва остарели промоции, моделът трябва да се въздържи от спекулации и да пренасочи към човешка поддръжка, като по този начин използва „достатъчен контекст“, за да взема информирани решения.

Внедряване на „Достатъчен контекст“ във вашето предприятие

За екипите в предприятията прилагането на тези находки може да усъвършенства вътрешните бази от знания:

1. Събиране на разнообразен набор от данни: Съберете примери за запитвания и контекст, които отразяват реално използване.
2. Използване на LLM Autorater: Етикетирайте тези примери като достатъчни или недостатъчни по отношение на контекста.
3. Оценка на процеса на извличане: Ако достатъчността на контекста е под 80-90%, подобрете извличането или базата от знания.
4. Стратифициране на данните: Анализирайте производителността въз основа на достатъчността на контекста, за да настроите моделите фино.
5. Оценка на разходите: Използвайте LLM autoraters ефективно, за да балансирате точността и производителността.

Заключение: Пътят напред за RAG системите

Подобряването на RAG системите е от съществено значение за създаването на AI модели, които са едновременно практични и надеждни. Чрез приемането на рамката за „достатъчен контекст“, предприятията могат значително да подобрят ефективността и точността на AI, справяйки се с основните предизвикателства, посочени в изследването на Google.

За повече информация относно това как интеграциите на AI могат да трансформират вашите решения за предприятия, посетете Encorp.ai.

Референции:

• Изследователска статия на Google за достатъчността на контекста
• Покритие на VentureBeat за RAG системите
• Напредък в Gemini 1.5 Pro
• Разбиране на големите езикови модели
• Намаляване на халюцинациите в AI системите