A magyarázható AI olyan technikák összessége, amelyek célja, hogy az AI döntéseit érthetővé tegyék az emberek számára.
Sok AI-modell, főleg a mélytanulás, „fekete dobozként” működik. Az XAI módszerek segítenek megmutatni, miért született egy adott döntés.
Növeli a felhasználói bizalmat és a szabályozói megfelelést.
Banki hitelezési döntésnél megmutatni, mely tényezők vezettek az elutasításhoz.
Az AI auditálás az a folyamat, amikor egy független vizsgálat során ellenőrzik egy AI-rendszer működését, megbízhatóságát és etikai megfelelését.
Az AI etika azon irányelvek és szabályok összessége, amelyek biztosítják, hogy a mesterséges intelligencia felelősségteljesen és igazságosan működjön.
A döntési fa egy fa alakú modell, amely sorozatos kérdések alapján hoz döntést.
Fekete doboz modellnek nevezik azokat az AI-rendszereket, amelyek döntéseinek belső logikája nem átlátható az ember számára.
A jellemzők azok a változók vagy tulajdonságok, amelyeket a modell a döntések meghozatalához használ.
A modell az a matematikai és statisztikai struktúra, amelyet az AI az adatokból tanulás során hoz létre, és amit a döntéshozatalra használ.
Modell átláthatóság alatt azt értjük, hogy egy AI-modell döntései mennyire érthetők és követhetők az emberek számára.
A torzítás az AI rendszerekben megjelenő rendszeres hiba, amelyet általában az adatokban meglévő egyenlőtlenségek vagy előítéletek okoznak.
