Interested Article - Векторное представление слов
- 2020-12-19
- 2
Векторное представление ( векторное вложение слов или вложение слов ) — общее название для различных подходов к моделированию языка и обучению представлений в обработке естественного языка, направленных на сопоставление словам (и, возможно, фразам) из некоторого словаря векторов из для , значительно меньшего количества слов в словаре. Теоретической базой для векторных представлений является дистрибутивная семантика .
Существует несколько методов для построения такого сопоставления. Так, используют нейронные сети , методы снижения размерности в применении к матрицам совместных упоминаний слов (word co-occurrence matrices) и явные представления, обучающиеся на контекстах упоминаний слов (explicit representations) .
Продемонстрировано [ кем? ] , что векторные представления слов и фраз способны значительно улучшить качество работы некоторых методов автоматической обработки естественного языка (например, синтаксический анализ и анализ тональности ).
Ссылки
-
Mikolov, Tomas; Sutskever, Ilya; Chen, Kai; Corrado, Greg; Dean, Jeffrey (2013). "Distributed Representations of Words and Phrases and their
Compositionality".
arXiv
:
[
].
{{ cite arXiv }}
: line feed character в|title=
на позиции 59 ( справка ) - Lebret, Rémi; Collobert, Ronan (2013). "Word Emdeddings through Hellinger PCA". arXiv : [ ].
- Levy, Omer; Goldberg, Yoav. (англ.) // Proceedings of the Eighteenth Conference on Computational Natural Language Learning, Baltimore, Maryland, USA, June. Association for Computational Linguistics. 2014 : journal. 14 августа 2014 года.
- Socher, Richard; Bauer, John; Manning, Christopher; Ng, Andrew. (неопр.) // Proceedings of the ACL conference. 2013. 11 августа 2016 года.
- Socher, Richard; Perelygin, Alex; Wu, Jean; Chuang, Jason; Manning, Chris; Ng, Andrew; Potts, Chris. (англ.) // Conference on Empirical Methods in Natural Language Processing : journal. 28 декабря 2016 года.
- 2020-12-19
- 2