A gradiens ereszkedés egy optimalizálási módszer, amely lépésenként javítja a modell paramétereit a hibák csökkentése érdekében.
Úgy képzelhető el, mintha egy hegyoldalról lefelé sétálnánk, mindig a legmeredekebb irányba haladva, hogy elérjük a legalacsonyabb pontot (a minimális hibát).
A legtöbb gépi tanulási algoritmus alapvető tanulási mechanizmusa.
Neurális hálózatok betanítása.
Az adatok kisebb csoportokban (batch-ekben) kerülnek feldolgozásra a modell tanítása közben.
A hyperparaméterek olyan beállítások, amelyeket a modelltanítás előtt adunk meg, és amelyek befolyásolják a tanulási folyamatot.
A hyperparaméter hangolás az a folyamat, amely során megtaláljuk a modell számára legjobb beállításokat.
A mélytanulás a gépi tanulás egyik speciális ága, amely többrétegű neurális hálózatokat használ bonyolult problémák megoldására.
Az emberi agy működését utánzó számítási modell, amely rétegekből és neuronokból áll.
A paraméterek a modell belső értékei, amelyek a tanulási folyamat során beállítódnak.
A tanulási ráta egy hyperparaméter, amely meghatározza, mekkora lépésekben frissítse a modell a paramétereit a tanulási folyamat során.
A veszteségfüggvény egy matematikai kifejezés, amely megmutatja, mennyire rosszul teljesít a modell az előrejelzés során.