Word embedding

No processamento de linguagem natural (PLN), word embedding é uma representação de uma palavra. A incorporação (embedding) é usada na análise de texto. Tipicamente, a representação é um vetor de valores reais que codifica o significado da palavra de tal forma que as palavras que estão mais próximas no espaço vetorial têm expectativa de serem semelhantes em significado. A incorporação de palavras pode ser obtida usando técnicas de modelagem de linguagem e de aprendizado de recursos, onde palavras ou frases do vocabulário são mapeadas em vetores de números reais. Os métodos para gerar este mapeamento incluem redes neurais, redução de dimensionalidade na matriz de co-ocorrência de palavras, modelos probabilísticos, método de base de conhecimento explicável, e representação explícita em termos do contexto em que as palavras aparecem. Foi demonstrado que a incorporação (embeddings) de palavras e frases, quando usadas como a representação de entrada subjacente, têm sido demonstradas a melhorar o desempenho em tarefas de PLN, como análise sintática e análise de sentimento.