Az LSTM egy rekurrens neurális hálózat típus, amely képes hosszabb időn át megőrizni fontos információkat, és kiszűrni a lényegteleneket.
Speciális „memória-cellákkal” dolgozik, amelyek lehetővé teszik, hogy egy mondat elején található információ a végéig is megmaradjon. Ez különösen fontos nyelvi feldolgozásnál.
Jelentősen javította a természetes nyelvfeldolgozó rendszerek teljesítményét, mielőtt a transzformer-modellek átvették a vezető szerepet.
Gépi fordítás, e-mailek automatikus szövegkiegészítése.
A beszédfelismerés az a folyamat, amely során az AI az emberi beszédet szöveggé alakítja.
Az embedding olyan technika, amely a szavakat vagy más elemeket számsorozatként (vektorként) ábrázolja, hogy a gép fel tudja dolgozni őket.
A figyelemmechanizmus lehetővé teszi, hogy a modell súlyozza, mely bemeneti elemek fontosabbak a kimenet szempontjából.
A gradiens ereszkedés egy optimalizálási módszer, amely lépésenként javítja a modell paramétereit a hibák csökkentése érdekében.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
Az RNN olyan neurális hálózat, amely képes figyelembe venni az adatok sorrendjét és időbeli összefüggéseit.
Az NLP az AI egyik ága, amely az emberi nyelv számítógépes feldolgozásával foglalkozik.