Fekete doboz modellnek nevezik azokat az AI-rendszereket, amelyek döntéseinek belső logikája nem átlátható az ember számára.
Bár ezek gyakran pontosak, nehéz megmagyarázni, hogy pontosan miért hoztak bizonyos előrejelzéseket. Ez különösen problémás lehet szabályozott iparágakban.
Az átláthatóság hiánya korlátozhatja a használhatóságot.
Mélytanulási modellek az egészségügyben, amelyek pontos diagnózist adnak, de nehéz megérteni, hogyan jutottak rá.
Az AI auditálás az a folyamat, amikor egy független vizsgálat során ellenőrzik egy AI-rendszer működését, megbízhatóságát és etikai megfelelését.
A magyarázható AI olyan technikák összessége, amelyek célja, hogy az AI döntéseit érthetővé tegyék az emberek számára.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
A modell az a matematikai és statisztikai struktúra, amelyet az AI az adatokból tanulás során hoz létre, és amit a döntéshozatalra használ.
Modell átláthatóság alatt azt értjük, hogy egy AI-modell döntései mennyire érthetők és követhetők az emberek számára.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A transformer egy neurális hálózati architektúra, amely hatékonyan dolgozza fel a szöveges adatokat.
