A figyelemmechanizmus lehetővé teszi, hogy a modell súlyozza, mely bemeneti elemek fontosabbak a kimenet szempontjából.
Nem minden szó egyenlően fontos egy mondatban – az attention technika segít kiemelni a lényeges részeket. Ez kulcsfontosságú a transformer-modellek sikerében.
Drámaian javította a gépi fordítás és más NLP feladatok pontosságát.
Fordítórendszerek (pl. Google Translate) működése.
Az embedding olyan technika, amely a szavakat vagy más elemeket számsorozatként (vektorként) ábrázolja, hogy a gép fel tudja dolgozni őket.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
Az LLM olyan nyelvi modell, amely hatalmas mennyiségű szöveges adaton tanul, és képes összetett, emberihez hasonló szövegeket létrehozni.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A nyelvi modell egy AI-rendszer, amely a nyelv statisztikai mintázatait tanulja meg, hogy szövegeket értelmezzen vagy generáljon.
Az NLP az AI egyik ága, amely az emberi nyelv számítógépes feldolgozásával foglalkozik.
A szöveg legkisebb egysége, amelyet az AI-modell feldolgoz (lehet szó, szótag vagy karakterdarab).
A transformer egy neurális hálózati architektúra, amely hatékonyan dolgozza fel a szöveges adatokat.
