Diferenças

Aqui você vê as diferenças entre duas revisões dessa página.

--- ti_publica:dicas_ia [2019/11/22 11:33] – [Glossário] cartola
+++ ti_publica:dicas_ia [2019/11/22 14:22] – cartola
@@ Linha 1: / Linha 1: @@
-==== Dicas ====
+===== Dicas =====
 ===  ===
@@ Linha 7: / Linha 7: @@
 === NLP ===
   * Imagem e áudio tem informações densas, texto é esparso
+  * Pode se fazer CNN em NLP
+  * Problema do Word embedding: não lida com contexto (ex: manga fruta, manga da roupa)
+    * Google lançou Transformer (+- embedding com contexto)
 ===== Glossário =====
@@ Linha 39: / Linha 42: @@
     * rede neural convolucional
     * fully convolutional
+    * recorrentes - usado para NLP, séries temporais, sequências, dados seriados: tradução, respostas a perguntas, completar frases
+      * LSTM - RNN mais usada hoje em dia (Long Short-Term Memory) - Keras implementa
 === NLP ===
@@ Linha 51: / Linha 56: @@
     * [[http://www.nltk.org/|NLTK]]
-==== Referências ====
+===== Referências =====
   * [[https://www.fast.ai/|Fast.AI]] - biblioteca sobre PyTorch e cursos
   * [[https://keras.io/|Keras]] - biblioteca feita sobre Tensorflow
+  * NLP
+    * [[https://scikit-learn.org/stable/tutorial/text_analytics/working_with_text_data.html|SciKit]]
+    * [[https://nlp.stanford.edu/projects/glove/|GloVe]] - usa vetores
+    * [[https://fasttext.cc/|Fast Text]] - usa vetores - tem pronto em PT
+    * [[https://ai.googleblog.com/2017/08/transformer-novel-neural-network.html|Google Transformer]] - supra sumo, considera contexto. [[https://www.analyticsvidhya.com/blog/2019/06/understanding-transformers-nlp-state-of-the-art-models/|Análise]]
+  * RNN - [[http://colah.github.io/posts/2015-08-Understanding-LSTMs/|LSTM]]