DataScience

主要內容

• GenAI
• Reinforcement Learning
• GAN
• LSTM

簡介

1.GenAI

• text generation
• image generation
• music generation

以文本生成為主，主要內容:

• Transformer
  從 Encoder 端開始到 Decoder 端,並整理(三大模型架構)：
  Transformer
• Retrieval Augmented Generation
  讓語言模型精準、嚴謹、多樣的回答問題。
  Retrieval Augmented Generation
  • RAG-Seq:
    同個文件檢索出答案
  • RAG-Token:
    (可使用)多個文件檢索出答案
• MatMul-free Language Modeling
  新發表的論文，可與 Transformer 競爭。
  • 暫定

2.LSTM

LSTM

3.Reinforcement Learning

暫定

4.GAN

暫定