RAG brenda një aplikacioni Laravel, pa një servis Python
Nuk ke nevojë për një stack të veçantë për të bërë kërkim si duhet. Ky është setup-i që përdor — embeddings, kërkim vektorial dhe një cikël vlerësimi — brenda aplikacionit PHP që i zotëron tashmë të dhënat.
Çdo tutorial RAG supozon se po nis një projekt të ri Python. Klientët e mi nuk janë atje. Ata kanë një aplikacion Laravel ose Symfony me pesë vjet të dhëna në MySQL, një ekip që di PHP, dhe zero dëshirë për një servis të dytë për të bërë deploy dhe monitorim.
Mbaj kërkimin pranë të dhënave
Dokumentet që do të kërkosh jetojnë tashmë në databazën e aplikacionit, me lejet e bashkangjitura. Kalimi i tyre në një servis tjetër do të thotë dublim i përmbajtjes dhe i rregullave të aksesit — dhe rregullat e aksesit janë pikërisht ajo që nuk mund të gabosh kur një përgjigje gjenerohet nga të dhëna private.
Si duket vërtet pipeline-i
Marrja e të dhënave shkon si queue job: nxjerr tekstin, ndaje me mbivendosje, embed, ruaj vektorin pranë rekordit. Kërkimi është një query ngjashmërie i filtruar me të njëjtin scope autorizimi që përdor aplikacioni, pastaj një rerank, pastaj thirrja e modelit me burimet të fiksuara në prompt. Asgjë ekzotike. Puna është në detajet.
Ndarja e tekstit është gjysma e punës
Përgjigjet e keqe pothuajse nuk janë kurrë problem i modelit. Janë problem i chunk-ut: një paragraf i ndarë në mes fjalie, një tabelë e sheshuar në zhurmë, një klauzolë kontrate e shkëputur nga përcaktimi që varet prej tij. Shpenzoj më shumë kohë me nxjerrjen dhe kufijtë e chunk-ut se me prompt-et.
Regjistro gjithçka nga dita e parë
Ruaj pyetjen, id-të e chunk-ëve, prompt-in, përgjigjen dhe kohën. Pa këtë nuk e dallon nëse ndryshimi i prompt-it javën e kaluar ndihmoi, dhe nuk mund t'i shpjegosh klientit pse një përgjigje ishte e gabuar.
Lëri klientin të zgjedhë providerin
Me një shtresë abstraksioni — Prism në Laravel, ose interface e jotja — ndërrimi i Anthropic me një model Ollama lokal është ndryshim konfigurimi. Për klientë në shëndetësi ose drejtësi, ai ndërrim është diferenca mes një kontrate të nënshkruar dhe një 'jo' të sjellshëm.
Marrim një numër të kufizuar projektesh njëkohësisht. Na tregoni çfarë po ndërtoni dhe do t’ju japim një vlerësim të sinqertë nëse jemi partneri i duhur.
Na kontaktoni →