A figyelemmechanizmus lehetővé teszi, hogy a modell súlyozza, mely bemeneti elemek fontosabbak a kimenet szempontjából.
Nem minden szó egyenlően fontos egy mondatban – az attention technika segít kiemelni a lényeges részeket. Ez kulcsfontosságú a transformer-modellek sikerében.
Drámaian javította a gépi fordítás és más NLP feladatok pontosságát.
Fordítórendszerek (pl. Google Translate) működése.
Az embedding olyan technika, amely a szavakat vagy más elemeket számsorozatként (vektorként) ábrázolja, hogy a gép fel tudja dolgozni őket.
Az LSTM egy rekurrens neurális hálózat típus, amely képes hosszabb időn át megőrizni fontos információkat, és kiszűrni a lényegteleneket.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A nyelvi modell egy AI-rendszer, amely a nyelv statisztikai mintázatait tanulja meg, hogy szövegeket értelmezzen vagy generáljon.
Az RNN olyan neurális hálózat, amely képes figyelembe venni az adatok sorrendjét és időbeli összefüggéseit.
Az NLP az AI egyik ága, amely az emberi nyelv számítógépes feldolgozásával foglalkozik.
A transformer egy neurális hálózati architektúra, amely hatékonyan dolgozza fel a szöveges adatokat.
