Fekete doboz modellnek nevezik azokat az AI-rendszereket, amelyek döntéseinek belső logikája nem átlátható az ember számára.
Bár ezek gyakran pontosak, nehéz megmagyarázni, hogy pontosan miért hoztak bizonyos előrejelzéseket. Ez különösen problémás lehet szabályozott iparágakban.
Az átláthatóság hiánya korlátozhatja a használhatóságot.
Mélytanulási modellek az egészségügyben, amelyek pontos diagnózist adnak, de nehéz megérteni, hogyan jutottak rá.
A magyarázható AI olyan technikák összessége, amelyek célja, hogy az AI döntéseit érthetővé tegyék az emberek számára.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
A modell az a matematikai és statisztikai struktúra, amelyet az AI az adatokból tanulás során hoz létre, és amit a döntéshozatalra használ.
Modell átláthatóság alatt azt értjük, hogy egy AI-modell döntései mennyire érthetők és követhetők az emberek számára.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A torzítás az AI rendszerekben megjelenő rendszeres hiba, amelyet általában az adatokban meglévő egyenlőtlenségek vagy előítéletek okoznak.
A transformer egy neurális hálózati architektúra, amely hatékonyan dolgozza fel a szöveges adatokat.
