Fekete doboz modellnek nevezik azokat az AI-rendszereket, amelyek döntéseinek belső logikája nem átlátható az ember számára.
Bár ezek gyakran pontosak, nehéz megmagyarázni, hogy pontosan miért hoztak bizonyos előrejelzéseket. Ez különösen problémás lehet szabályozott iparágakban.
Az átláthatóság hiánya korlátozhatja a használhatóságot.
Mélytanulási modellek az egészségügyben, amelyek pontos diagnózist adnak, de nehéz megérteni, hogyan jutottak rá.
Amikor az AI olyan választ ad, amely nyelvileg hihető, de valójában téves vagy kitalált.
A magyarázható AI olyan technikák összessége, amelyek célja, hogy az AI döntéseit érthetővé tegyék az emberek számára.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
Modell átláthatóság alatt azt értjük, hogy egy AI-modell döntései mennyire érthetők és követhetők az emberek számára.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A torzítás az AI rendszerekben megjelenő rendszeres hiba, amelyet általában az adatokban meglévő egyenlőtlenségek vagy előítéletek okoznak.
A transformer egy neurális hálózati architektúra, amely hatékonyan dolgozza fel a szöveges adatokat.
