Retrieval-Augmented Generation (RAG) nədir və nə üçün vacibdir

Şirkətinizin daxili sənədlərini sanki həqiqətən bilən və ya konkret məhsul təlimatı ilə bağlı suallara dəqiq cavab verən Sİ köməkçisindən istifadə etmisinizsə, böyük ehtimalla pərdə arxasında əsas işi təkcə dil modeli deyil, axtarışla gücləndirilmiş generasiya — RAG (Retrieval-Augmented Generation) görür.

RAG-ın həll etdiyi problem

Böyük dil modeli yalnız öyrədilmə zamanı gördüklərini «bilir», öyrədilmə isə müəyyən bir zaman nöqtəsində, sabit ictimai mətnlər toplusu üzərində aparılıb. Onun şirkətinizin daxili vikisinə, məhsulunuzun hazırkı qiymətlərinə, keçən həftənin dəstək müraciətlərinə və ya öyrədildiyi vaxt mövcud olmayan (yaxud ictimai olmayan) hər hansı bir şeyə daxili çıxışı yoxdur. Bunlardan hər hansı biri barədə birbaşa sual versəniz, o ya bilmədiyini deyəcək, ya da — daha çox hallarda — inandırıcı səslənən, amma yanlış cavabı inamla təxmin edəcək.

Bütün bilik bazanızı hər sorğuya sadəcə yapışdırmaq da olmur — bu modellərin əksəriyyətinin eyni anda nəzərə ala biləcəyi mətnin həcminə ciddi məhdudiyyətlər var, limit geniş olduğu hallarda belə, əlinizdə olan hər şeyi doldurmaq işi yavaşladır, bahalaşdırır və çox vaxt cavabı yaxşılaşdırmaq əvəzinə pisləşdirir, çünki həqiqətən aidiyyatı olan material səs-küyün içində itir.

RAG əslində necə işləyir

Axtarışla gücləndirilmiş generasiya bu problemi hər sual üçün yenidən icra olunan sadə iki addımlı proseslə həll edir:

Axtarış. İstifadəçi sual verdikdə sistem əvvəlcə sizin öz sənədlərinizdə — bilik bazasında, PDF toplusunda, məhsul kataloqunda, nə aiddirsə — axtarış aparır və cavabı ehtiva etmə ehtimalı ən yüksək olan konkret fraqmentləri çıxarır.
Generasiya. Tapılan fraqmentlər ilkin sualla birlikdə dil modelinə ötürülür, mahiyyətcə belə bir göstərişlə: «Sənədlərimizdə əslində bu yazılıb. İndi bu suala yalnız buna əsaslanaraq cavab ver».

Model artıq öyrədilmə zamanı yadda saxladıqlarına arxalanmır — cavab verdiyi anda ona təqdim etdiyiniz real mənbə materialını oxuyur və cavabını ondan qurur.

Bu, dəqiqlik mənzərəsini niyə bu qədər dəyişir

Real, aktual mənbə mətnə əsaslanan modelin uydurma ehtimalı yalnız yaddaşına arxalanan modeldən qat-qat azdır, çünki onun statistik təxmin əvəzinə cavabını əsaslandıracağı real materialı var. Bu, kimdənsə yaddaşdan cavab verməsini istəməklə ona real təlimatı verib ondan istifadə edərək cavab verməsini xahiş etmək arasındakı fərqdir. İkinci yanaşma təkcə adətən daha dəqiq deyil — həm də tapılan fraqmentləri birbaşa istifadəçiyə göstərməyə imkan verir ki, o, modelin sözünə inanmaq əvəzinə iddianı özü yoxlaya bilsin.

RAG real məhsullarda harada istifadə olunur

«Müştəri dəstəyi» haqqında ümumi anlayışa deyil, sizin real yardım sənədlərinizə əsaslanaraq cavab verən müştəri dəstəyi köməkçiləri.
İşçilərə sadə dildə sual verməyə və şirkətinizin öz vikisi və daxili qaydalarına əsaslanan cavab almağa imkan verən daxili bilik alətləri.
Kateqoriya haqqında ümumi biliklərə deyil, sizin konkret kataloqunuza, anbar qalığınıza və ya texniki xüsusiyyətlərinizə dair suallara cavab verən məhsul axtarışı və sual-cavab.

RAG-ın həll etmədiyi problemlər

RAG uydurma cavabları azaldır, lakin bu ehtimalı tamamilə aradan qaldırmır və axtarış mərhələsi nə qədər yaxşıdırsa, o da bir o qədər yaxşıdır — sistem yanlış fraqmentləri çıxarsa və ya mənbə sənədləriniz köhnəlmiş, yaxud özləri səhv olsa, cavab da elə olacaq. Bu, pulsuz da deyil: sənədlərinizi axtarıla bilən indeksə çevirən real, yaxşı dəstəklənən konveyer lazımdır və sənədləriniz dəyişdikcə həmin konveyerə də qulluq etmək lazımdır.

Nəticə

Ümumi biliklərdən deyil, öz biznesinizin məlumatlarından istifadə edərək suallara cavab verməli olan istənilən Sİ funksiyası qurursunuzsa, RAG demək olar ki, həmişə düzgün arxitekturadır, sadəcə xoş əlavə deyil. Bu, ağıllı səslənən köməkçi ilə həqiqətən haqlı olan köməkçi arasındakı fərqdir.

Bu axtarış konveyerini düzgün qurmaq — sənədləri məntiqli hissələrə bölmək, indeksi aktual saxlamaq və axtarışın heç nə tapmadığı kənar halları emal etmək — RAG funksiyasında real mühəndislik işinin əsas hissəsidir. Burncode məhsula Sİ köməkçisi daxil edərkən məhz bu hissəyə fokuslanır — tez hazırlanmış demonun artıq hazır görünəcəyi mərhələdən xeyli sonra da.