GPT

Üretken yapay zeka, 21. yüzyılın en dönüştürücü teknolojik değişimlerinden biridir. Sınıflandıran, tahmin eden veya tespit eden geleneksel yapay zeka sistemlerinin aksine, Üretici Yapay Zeka ** metin, görüntü, ses, video, kod ve hatta üç boyutlu yapılar oluşturur. ChatGPT’nin makale yazmasının, Midjourney’in fotogerçekçi resim yapmasının ve GitHub Copilot’un bir yorumdan tüm işlevleri tamamlamasının ardındaki teknolojidir.

GPT Transformer Nasıl Çalışır: Nedensel Self-Attention Açıklaması Son yıllarda, Üretken Önceden Eğitilmiş Transformerlar (GPT), yapay zekayı kökten değiştirdi. Kodlama yardımcılarından sohbet robotlarına kadar, GPT tabanlı modeller günümüzün en gelişmiş üretken uygulamalarına güç veriyor. Peki bu teknoloji gerçekte nasıl çalışıyor? BERT gibi modeller, metni çift yönlü olarak anlamak için Transformer’ın Encoder (Kodlayıcı) bölümünü kullanırken; GPT, otoregresif, bir sonraki token tahmini için tasarlanmış bir Decoder-only (Sadece Kod Çözücü) mimaridir. Bu blogda, GPT Transformer’ın nasıl çalıştığını aydınlatacak, nedensel self-attention (causal self-attention) mekanizmasını derinlemesine inceleyecek ve bunu kodda uygulayacağız.