Transformer Architecture Explained
A deep dive into how the Transformer architecture works, from attention mechanisms to encoder-decoder structure.
Pierre Ange Leundeu0 min read
Aujourd'hui nous utilisons tous l'ai au quotidien, lesquelles sont basés sur les transformers. Je me suis posé la question de comprendre précisément comment ça fonctionne.
Besoin ?
Compréhension de document, Traduction de texte
Some history Before Transformer: RNN & LSTM
What was present before transformer to do traduction ?
Pain Points
Scalability Accuracy