Год выпуска: 2014
Описание
Модель (Global Vectors) преобразует слова в семантические векторы. Если два слова похожи по значению, то расстояние между их векторами также будет невелико. Во время обучения модели используются глобальные статистики, извлеченные из корпуса, то есть учитываются не только сведения о локальном контексте слова.
Примеры использования:
- Поиск документов по текстовому запросу
- Кластеризация, классификация текстов
- Использование в качестве инициализации матрицы эмбеддингов языковых моделей
Нововведения
В отличие от Word2Vec Glove учитывает не локальный контекст слова, а глобальную связь с другими словами в корпусе
Количество параметров: V * d, где V – размер словаря, d – размерность вектора
Область: NLP
Автор: Системный Блокъ