Год выпуска: 2014
Описание
Модель (Global Vectors), которая семантически пребразует слова в векторы. Если два слова похожи, то расстояние между их векторами также будет невелико. Во время обучения модели используются глобальные статистики, извлечённые из корпуса.
Примеры использования:
1) Поиск документов по текстовому запросу;
2) Кластеризация, классификация текстов;
3) Использование в качестве инициализации матрицы эмбеддингов языковых моделей.
Нововведения
В отличие от Word2Vec Glove учитывает не локальный контекст слова, а глобальную связь с другими словами в корпусе
Количество параметров: V * d, где V – размер словаря, d – размерность вектора
Область: NLP