Технический глоссарий
Эмбеддинг (Embedding)
Векторное представление фрагмента данных (токена, предложения, изображения) в многомерном пространстве, отражающее его семантическую близость к другим объектам.
Квантование (Quantization)
Метод оптимизации весов нейросети путем снижения их точности (например, с FP16 до INT8 или INT4), позволяющий запускать тяжелые модели на потребительском оборудовании.
RAG (Retrieval-Augmented Generation)
Подход, объединяющий поиск данных во внешней базе векторов с подачей найденных фрагментов в контекст языковой модели для устранения галлюцинаций.