How do transformers work?

Cümle için her bir kelime bir token.

Ses için sesten her bir kısa zaman dilimi bir token.

Görüntü 16x16 lik karelere bölünür, her bir kare bir token.

Bu tokenler, vektör denen 1xn lik matrislerle ilişkilendiriliyor. Bu vektörler bir şekilde o kelimenin anlamını decodeluyor ve benzer veya yakın anlamdaki kelimelerin matrisleri (vektörleri ) çoklu uzayda yakın konumlara denk geliyorlar. 

Sonra bu vektörler attention block denen bir süreçten geçiriliyorlar ve bu süreç bütün vektörlerin tek tek birbiriyle konuşup matristeki değerlerini değiştirmelerini sağlıyor. Yani bilgi aktarıyolar gibi. Bunun sağladığı şey aslında her kelimenin cümle bağlamında bir anlam kazanması demek. (self attention)

Sonra multi-layer perceptron (MLP) ya da feed-forward layer denen sürec oluyor. Bu süreçte vektörler bilgi aktarmıyor birbirine. Hepsi birbirine paralel işleme giriyorlar.

Bu süreci birkaç kez tekrar edince en son matristeki son blok bize aslında kelime tahminindeki olasılıklar ve hangi kelimenin gelmesinin yüzde kac olasılıkta olduğunu soyluyor. Ama bu bloktaki değerlerin hepsi 0 ve 1 arası degil o yuzden bi islemden geciriyoruz (softmax + temperature) tam olasılık degerlerini versinler diye. Buna göre de en yuksek olasılıklı degeri tahmin etmis oluyor model. Sonra bunu asıl cümlenin sonuna ekliyoruz ve bir daha en baştan bu sürece sokuyoruz. Ve tekrar tekrar buna devam ederek metinler generate etmis oluyoruz. Bu mimariye transformer deniyor.