Skip to content

Latest commit

 

History

History

04_Embeddings

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
Embeddings.pdf
Embeddings.pdf
 
 
README.md
README.md
 
 
word2vec.ipynb
word2vec.ipynb
 
 

README.md

Embeddings

  • Embeddings.pdf

  • word2vec.ipynb

  • Лекция. Embeddings.

  • Семинар. Word2Vec.

  • Word2Vec(идея скользящего окна для подсчёта pmi, Co-Occurrence Count, etc.)

  • Cross-Entropy(мера расхождения между двумя распределениями)

  • Target function, log-likelihood для Word2Vec

  • Схема работы Word2Vec

  • 2 схемы работы Word2Vec(Skip-Gram, CBOW)

  • Word2Vec + negative sampling ~ SVD

  • Видоизменённая лосс-функция