Interested Article - Векторное представление слов

Векторное представление ( векторное вложение слов или вложение слов ) — общее название для различных подходов к моделированию языка и обучению представлений в обработке естественного языка, направленных на сопоставление словам (и, возможно, фразам) из некоторого словаря векторов из для , значительно меньшего количества слов в словаре. Теоретической базой для векторных представлений является дистрибутивная семантика .

Существует несколько методов для построения такого сопоставления. Так, используют нейронные сети , методы снижения размерности в применении к матрицам совместных упоминаний слов (word co-occurrence matrices) и явные представления, обучающиеся на контекстах упоминаний слов (explicit representations) .

Продемонстрировано [ кем? ] , что векторные представления слов и фраз способны значительно улучшить качество работы некоторых методов автоматической обработки естественного языка (например, синтаксический анализ и анализ тональности ).

Ссылки

  1. Mikolov, Tomas; Sutskever, Ilya; Chen, Kai; Corrado, Greg; Dean, Jeffrey (2013). "Distributed Representations of Words and Phrases and their Compositionality". arXiv : [ ]. {{ cite arXiv }} : line feed character в |title= на позиции 59 ( справка )
  2. Lebret, Rémi; Collobert, Ronan (2013). "Word Emdeddings through Hellinger PCA". arXiv : [ ].
  3. Levy, Omer; Goldberg, Yoav. (англ.) // Proceedings of the Eighteenth Conference on Computational Natural Language Learning, Baltimore, Maryland, USA, June. Association for Computational Linguistics. 2014 : journal. 14 августа 2014 года.
  4. Socher, Richard; Bauer, John; Manning, Christopher; Ng, Andrew. (неопр.) // Proceedings of the ACL conference. 2013. 11 августа 2016 года.
  5. Socher, Richard; Perelygin, Alex; Wu, Jean; Chuang, Jason; Manning, Chris; Ng, Andrew; Potts, Chris. (англ.) // Conference on Empirical Methods in Natural Language Processing : journal. 28 декабря 2016 года.
Источник —

Same as Векторное представление слов