Amikor az AI olyan választ ad, amely nyelvileg hihető, de valójában téves vagy kitalált.
A nyelvi modellek nem „tudják”, mi igaz, csak a mintázatok alapján generálnak. Emiatt előfordulhat, hogy teljesen fiktív, de meggyőző információt állítanak elő.
Az AI rendszerek megbízhatóságának egyik legnagyobb kihívása.
Egy AI azt állítja, hogy létezik egy könyv, amire hivatkozik, de a valóságban az soha nem jelent meg.
A generatív AI olyan technológiák összessége, amelyek új tartalmat hoznak létre (szöveg, kép, hang, videó).
A magyarázható AI olyan technikák összessége, amelyek célja, hogy az AI döntéseit érthetővé tegyék az emberek számára.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
A nyelvi modell egy AI-rendszer, amely a nyelv statisztikai mintázatait tanulja meg, hogy szövegeket értelmezzen vagy generáljon.
A prompt engineering az a technika, amikor tudatosan és strukturáltan tervezünk meg promptokat, hogy az AI a lehető legjobb választ adja.
Egy egy olyan AI keretrendszer, amely külső tudásbázisból keres információt, majd az abból kinyert adatok felhasználásával generál választ.
A szöveggenerálás az a folyamat, amikor egy AI-modell új, emberhez hasonló szöveget állít elő adott bemenet alapján.
A torzítás az AI rendszerekben megjelenő rendszeres hiba, amelyet általában az adatokban meglévő egyenlőtlenségek vagy előítéletek okoznak.
