A vállalatok egyik legnagyobb kihívása napjainkban a folyamatosan növekvő információmennyiség hatékony kezelése. A belső dokumentációk, support ticketek, tudásbázis-cikkek és gyakran ismételt kérdések értékes tudást tartalmaznak, azonban ezek gyors megtalálása és feldolgozása sok esetben időigényes.
Intelligens vállalati tudáskezelés mesterséges intelligenciával
A projekt célja egy olyan vállalati AI tudásbázis chatbot létrehozása volt, amely a mesterséges intelligencia segítségével képes gyors és pontos válaszokat adni a szervezet saját dokumentumaiban található információk alapján.
A rendszer RAG (Retrieval-Augmented Generation) technológiára épül, amely lehetővé teszi, hogy az AI ne általános, előre betanított tudásból válaszoljon, hanem kizárólag a vállalat által meghatározott és ellenőrzött adatforrásokat használja.
Mi az a RAG chatbot?
A Retrieval-Augmented Generation (RAG) egy olyan mesterséges intelligencia megközelítés, amely kombinálja a nagy nyelvi modellek képességeit a vállalati keresési és tudáskezelési rendszerekkel.
Egy hagyományos AI chatbot általános információk alapján generál válaszokat, míg egy RAG alapú vállalati chatbot először releváns dokumentumokat keres a belső tudásbázisban, majd ezek alapján állítja elő a választ.
Ennek köszönhetően a rendszer:
- naprakész vállalati információkra támaszkodik;
- csökkenti a pontatlan AI-válaszok kockázatát;
- kizárólag engedélyezett adatforrásokat használ;
- könnyen frissíthető új dokumentumokkal.
Vállalati tudásbázis AI segítségével
A rendszer a vállalat meglévő információforrásait használja fel, például:
- support ticketeket;
- gyakran ismételt kérdéseket (GYIK);
- belső tudásbázis-cikkeket;
- egyéb dokumentációkat.
A dokumentumok automatikusan bekerülnek egy feldolgozási folyamatba, amely során:
- a rendszer beolvassa az adatforrásokat;
- helyi Large Language Model (LLM) segítségével előfeldolgozza és összefoglalja az információkat;
- szemantikus kereséshez alkalmas formában vektoros adatbázisba kerülnek.
Ez lehetővé teszi, hogy az AI ne csupán kulcsszavak alapján keressen, hanem a kérdések jelentését is értelmezze.
Human-in-the-Loop: folyamatos AI fejlesztés emberi visszacsatolással
A rendszer egyik fontos eleme a Human-in-the-Loop megközelítés, amely biztosítja az AI válaszok folyamatos fejlesztését.
A működés során az adminisztrátorok:
- ellenőrzik az AI által generált válaszokat;
- értékelik azok pontosságát;
- javított referencia válaszokat hoznak létre;
- visszajelzéseikkel támogatják a modell fejlődését.
Ez a folyamat lehetővé teszi, hogy a chatbot idővel egyre pontosabban alkalmazkodjon a vállalat saját tudásanyagához és kommunikációs elvárásaihoz.
Biztonságos, on-premises AI infrastruktúra
Vállalati környezetben kiemelten fontos az adatbiztonság.
A rendszer teljes egészében on-premises infrastruktúrán fut, Docker konténerek segítségével. Ez garantálja, hogy a vállalati dokumentumok és érzékeny információk nem hagyják el a szervezet saját környezetét.
Az architektúra előnyei:
- teljes adatkontroll;
- biztonságos belső használat;
- megfelelőség vállalati környezetben;
- külső AI szolgáltatóktól való függetlenség.
Ez különösen fontos olyan szervezetek számára, amelyek belső dokumentumaik kezelésénél magas adatvédelmi követelményeket támasztanak.
Automatizált dokumentumfeldolgozási pipeline
A tudásbázis naprakészen tartását automatizált feldolgozási folyamat biztosítja.
A dokumentumok három fő állapoton keresztül haladnak:
raw → preprocessed → synced
A teljes folyamatot Laravel Artisan parancsok vezérlik, amelyet egy rendszeres időközönként futó cron feladat automatikusan elindít.
Ennek eredményeként az új vagy módosított vállalati dokumentumok folyamatosan bekerülnek az AI által használható tudásbázisba.
Felhasználói chat és adminisztrációs felület
A felhasználók egy AnythingLLM alapú chatfelületen keresztül kommunikálnak az AI asszisztenssel.
A rendszer támogatja:
- elkülönített munkaterületeket;
- vállalati jogosultságkezelést;
- biztonságos AI-alapú kérdés-válasz folyamatokat.
Az adminisztrátorok számára egy Filament alapú vezérlőfelület készült, ahol kezelhetik:
- a dokumentumfeldolgozási pipeline-t;
- a promptokat;
- a felhasználókat;
- az AI válaszok ellenőrzését és validációját.
A felhasználók azonosítása Azure AD Single Sign-On (SSO) segítségével történik, így a rendszer könnyen illeszthető meglévő vállalati informatikai környezetbe.
Technológiai stack:
- Frontend: Filament UI (Livewire), AnythingLLM Chat UI (React), Vite
- Backend: PHP 8.4+, Laravel, Laravel Octane (FrankenPHP), Filament v4.5.3, Laravel Socialite (Azure AD OAuth2)
- AI / LLM: Ollama, Gemma (helyi GPU-n futó következtetés), AnythingLLM (`mintplexlabs/anythingllm`)
- Adatbázis: PostgreSQL 18 Alpine (×4 példány), pgvector
- Infrastruktúra: Docker, Docker Compose, NGINX, Cron
Összegzés
A RAG alapú vállalati AI chatbot olyan modern tudáskezelési megoldás, amely segít a szervezeteknek gyorsabban hozzáférni saját információikhoz.
A rendszer ötvözi a mesterséges intelligencia természetes nyelvi feldolgozási képességeit a vállalati dokumentumkezelés biztonságával. A saját tudásbázisra épülő működés, az emberi visszacsatolási kör és az on-premises infrastruktúra együttesen biztosítják a pontos, biztonságos és folyamatosan fejlődő AI asszisztensi élményt.
A projekt jól példázza, hogyan alkalmazható a generatív mesterséges intelligencia vállalati környezetben a tudásmegosztás, az ügyféltámogatás és a belső folyamatok hatékonyabbá tételére.
