Jak si postavit vlastní RAG a nespálit se

Dalším častým oříškem je zpracování dotazu uživatele. Než dotaz pošlete do vyhledávání, upravte ho. Rozdělte složené otázky na jednotlivé části, přeformulujte negace a vyjasněte si, co uživatel skutečně potřebuje. V praxi se vyplatí použít malý model, který dotaz převede na několik variant, a každou z nich poslat do vyhledávání. Výsledky pak sloučíte a až poté předáte hlavnímu modelu. Tím se výrazně zvýší šance, že najdete relevantní pasáž.

Retrieval není jen o vektorové podobnosti Jakmile máte index, přichází fáze ladění. Vezměte si deset reálných dotazů a ručně si označte, které části dokumentů jsou rady pro rekonstrukci odpověď klíčové. Pak porovnejte, jestli vám retrieval vrátí ty správné. Pokud ne, zvyšte počet vrácených dokumentů, experimentujte s metrikou podobnosti a zkuste hybridní přístup — kombinaci vektorů a klíčových slov. Tím se zbavíte situací, kdy model odpovídá obecně, protože nenašel konkrétní číslo nebo jméno.

Velkým oříškem bývá metadata. Přemýšlejte o tom, co je pro váš doménový dotaz důležité: datum, autor, kategorie, typ dokumentu. Tato pole pak využijte jako filtr před samotným retrievalem. Pokud máte směs starých a nových dokumentů, bez filtru vám model může odpovědět podle zastaralé verze. U dlouhých dokumentů se vyplatí indexovat po částech (např. kapitolách) a ukládat si odkaz na rodičovský celek, abyste mohli v promptu poskytnout i kontext celé sekce.

Než si otevřete první nástroj s umělou inteligencí, zastavte se. Většina začátečníků udělá stejnou chybu: napíše první otázku, která je napadne, a pak se diví, že odpověď je obecná nebo nepoužitelná. AI není kouzelná koule, ale nástroj, který funguje podle toho, jak s ním zacházíte. Čím konkrétnější a strukturovanější zadání, tím užitečnější výsledek. Přemýšlejte o tom jako o zadání úkolu podřízenému – musíte mu říct, co přesně chcete, v jakém rozsahu a v jaké podobě.

Nezapomeňte na takzvaný „český háček": právní termíny a formulace jsou v češtině hodně specifické a AI může mít problém s rozpoznáním důležitých pasáží, jako jsou rozhodčí doložky nebo smluvní pokuty. Pořiďte si proto do implementačního týmu někoho, kdo rozumí právu a zároveň se nebojí technologií – ideálně právníka s IT citem. Ten nastaví pravidla pro klasifikaci dokumentů a vytvoří šablony, podle kterých se AI naučí, co je důležité. Bez této role skončíte s nástrojem, který vám sice najde každý výskyt slova „smlouva", ale nebude umět rozlišit přílohu od hlavního dokumentu.

Největší chybou začátečníků je rozdělování dokumentů na pevné úseky podle znaků nebo tokenů. Text pak uprostřed věty přerušíte a ztratíte souvislost. Místo toho rozdělujte podle logických celků — odstavců, sekcí, nadpisů. Ideální velikost chunků se pohybuje mezi 300 a 800 tokeny, ale neexistuje univerzální číslo. Vyzkoušejte různé velikosti a vyhodnocujte kvalitu odpovědí na testovací sadě otázek. Důležité je také přidat do každého chunku metadata — zdroj, datum, typ dokumentu. To vám umožní později filtrovat výsledky a zobrazit uživateli, odkud odpověď pochází.

Na závěr nezapomeňte, že RAG je živý systém. Datové zdroje se mění, dokumenty přibývají a staré se ruší. Zaveďte si pravidelné přeindexování a sledujte, kdy se kvalita odpovědí začne zhoršovat. Mějte v kódu oddělenou konfiguraci pro chunking a retrieval, Proměna bytu abyste mohli experimentovat bez zásahu do produkce. A hlavně: neustále testujte na reálných dotazech, ne na uměle vytvořených vzorcích. Jen tak zjistíte, co skutečně potřebujete vyladit.

Začněte s jednoduchými úkoly, které vám ušetří čas. Typicky jde o přepis textu, shrnutí návodu, brainstorming nápadů nebo přípravu e-mailu. Vyhněte se ale tomu, abyste AI používali na věci, kterým sami nerozumíte. Pokud se nevyznáte v účetnictví a necháte si od ní napsat daňové přiznání, riskujete, že chybu neodhalíte. AI se umí velmi sebevědomě mýlit. Její výstup je proto vždy nutné brát jako návrh, ne jako hotovou pravdu.

Na závěr si připravte evaluační sadu a nepodceňujte ji. Vytvořte si alespoň padesát otázek, na které znáte správné odpovědi z dokumentů. Pak si proces vyhodnocení zautomatizujte — připravte skript, který pro každou otázku spustí celý řetězec a zkontroluje, jestli odpověď obsahuje klíčové informace. Nevyhodnocujte jen to, jestli se odpověď shoduje s referenční, ale i to, jestli systém našel správné zdroje. Bez automatizované evaluace totiž nikdy nezjistíte, že změna parametru chunkingu zhoršila kvalitu o třicet procent, protože si to nebudete pamatovat.

Základní rozdíl mezi nástroji spočívá v úrovni zpracování jazyka. Jednoduché vyhledávače fungují na bázi klíčových slov – rychle najdou, kde se v textu vyskytuje slovo „sankce" nebo „odpovědnost", ale nerozumí kontextu. Pokročilé systémy s porozuměním přirozenému jazyku rozpoznají, kdo je odpovědný, za jakých podmínek a jaká práva z toho plynou. Pro analýzu rizik proto vždy preferujte nástroj, který umí extrahovat entity (strany, částky, data) a vztahy mezi nimi. Typická chyba je vybrat nástroj podle počtu funkcí, ne podle toho, jak přesně rozpoznává specifickou strukturu vašich smluv – u standardizovaných dokumentů uspěje i jednodušší řešení, u atypických textů selže.

If you liked this post and you would like to obtain more facts pertaining to Rekonstrukce Bytu kindly check out our web page.