V posledních dnech rezonuje zjištění, že velké jazykové modely (ChatGPT, Gemini, Claude aj.) dokážou odpovídat sebevědomě – a přitom se mýlit.
Čerstvá analýza veřejnoprávních médií ukazuje, že významná část „zpráv“ předložených AI obsahovala nepřesnosti. Závěr? AI je skvělá na rychlost a souhrny, ale pravdu jí musíme pomoci držet v kolejích.
Tohle není důvod brzdit. Je to důvod zprofesionálnit práci s AI. Níže přidáváme srozumitelný postup, jak ve firmách omezit „halucinace“, zrychlit práci a přitom si nespálit důvěru u klientů.
Proč si AI vymýšlí (a proč to zní tak jistě)?
- Modely předpovídají další slovo. Když chybí zdroje, „dopočítají” pravděpodobnou odpověď.
- Formulace promptu ovlivní přesnost – bez kontextu a mantinelů roste riziko chyb.
- Aktuálnost dat: model nemusí znát poslední události, nebo si splete detaily.
Kde chybuje nejčastěji?
- Aktuální zprávy a citlivá témata (zdraví, právo, finance).
- Shrnutí dlouhých textů bez možnosti nahlédnout do zdrojů.
- „Fakta z paměti“ bez citací (jména, data, statistiky).
Firemní recept: 3R workflow
1) Request (zadání) – Dejte jasný kontext: „Jsi analytik. Cíl: 5 odrážek. Uváděj zdroje.“
2) Reference (podklady) – Přiložte firemní dokumenty/odkazy, nechte AI čerpat z vašich dat.
3) Review (kontrola) – Požadujte citace, znovu se ptejte: „Co je nejspornější? Co bys ověřil?“
Osvědčené „zábradlí“, které funguje…
- RAG bez žargonu: Nechte AI odpovídat z přiložených podkladů (PDF, interní wiki). Bez zdroje → bez tvrzení.
- Povinné citace: „Uveď zdroj ke každé zásadní větě.“
- Role a formát: „Jsi auditor. Stručně. Nejvýš 6 bodů. Co je nejasné, označ otázkou.“
- Human-in-the-loop: Důležité výstupy vždy projde člověk.
- Černá listina úloh: Bez člověka nechte AI dělat jen nízkorizikové věci (souhrny, návrhy, šablony).
Mini-checklist pro tým (vytisknout a pověsit u kávovaru)
- Zadal/a jsem kontext a cíl? (role, rozsah, publikum)
- Dodal/a jsem podklady? (firemní data, odkazy)
- Vynutil/a jsem citace? („Zdroje na konci.“)
- Znovu jsem se doptal/a? („Co je nejisté? Navrhni, co ověřit.“)
- Prošla to druhá hlava? (rychlý peer-review)
Kdy AI nepoužívat samostatně?!
- Právo, medicína, finance, HR rozhodnutí – bez odborníka nikdy.
- Kontroverzní tvrzení bez zdroje – zastavit a ověřit.
- „Zaručené“ statistiky – vyžadovat původní data.
Jak vám s tím pomůžeme v coalbrain?
- Workshop „AI pro pokročilé“ – prakticky, na vašich datech a procesech. Naučíme váš tým prompty, zábradlí a bezpečné automatizace.
- AI přepis schůzek – místo ručního psaní reportů dostanete přesné souhrny, úkoly a citace z nahrávky.
- AI zpracování faktur – zachytí chyby dřív, než se dostanou do účetnictví; vše s auditní stopou.
- AI asistenti na míru – agenti, kteří umí z vašich dokumentů vytáhnout jistá fakta, nebo předschválit rutinu a na člověka poslat jen výjimky.
👉 Chcete začít bezpečně? Napište si o krátkou konzultaci – společně vybereme malý pilot, který rychle prokáže přínos a nastaví správné návyky.