Üretken Yapay Zeka Açıklaması: Makineler Yaratmayı Nasıl Öğreniyor?

Üretken yapay zeka, 21. yüzyılın en dönüştürücü teknolojik değişimlerinden biridir. Sınıflandıran, tahmin eden veya tespit eden geleneksel yapay zeka sistemlerinin aksine, Üretici Yapay Zeka ** metin, görüntü, ses, video, kod ve hatta üç boyutlu yapılar oluşturur. ChatGPT’nin makale yazmasının, Midjourney’in fotogerçekçi resim yapmasının ve GitHub Copilot’un bir yorumdan tüm işlevleri tamamlamasının ardındaki teknolojidir.

Bu kılavuz, Üretken Yapay Zeka’nın ne olduğunu, arka planda nasıl çalıştığını, ona güç veren başlıca model mimarileri ve nereye doğru gittiğini açıklamaktadır.

1. Üretken Yapay Zeka Nedir?

Üretken yapay zeka, eğitim verilerinin istatistiksel dağılımını öğrenen ve ardından aynı dağılımı takip eden yeni içerik üreten bir yapay zeka modelleri sınıfını ifade eder.

Daha basit bir ifadeyle: Bir modeli milyonlarca insan yüzü fotoğrafı üzerinde eğitirseniz, bir yüzün neye benzediğine ilişkin kalıpları (gözlerin konumu, burnun şekli, derinin dokusu) öğrenir ve daha sonra daha önce hiç var olmayan tamamen yeni bir yüz oluşturabilir.

Ayrımcı ve üretken modeller arasındaki temel ayrım:

2. Üretken Yapay Zekanın Arkasındaki Temel Mimariler

Modern Üretken Yapay Zeka tek bir teknoloji değildir; her biri farklı alanlara uygun, farklı mimarilerden oluşan bir ailedir.

2.1 Transformatör Tabanlı Dil Modelleri (LLM’ler)

Vaswani ve arkadaşlarının 2017 tarihli dönüm noktası niteliğindeki “İhtiyacınız Olan Tek Şey Dikkat” makalesinde tanıtılan Transformer mimarisi, GPT-4, Gemini, Claude ve Llama da dahil olmak üzere günümüzdeki tüm önemli dil modellerinin temelidir.

Nasıl çalışır:

1. Belirteçleştirme: Giriş metni belirteçlere (alt kelime birimleri) bölünür. “Üretken AI” ["Genera", "tive", " AI"] olabilir.
2. Yerleştirme: Her jeton, anlamını yakalayan yüksek boyutlu sayısal bir vektöre dönüştürülür.
3. Kişisel Dikkat Mekanizması: Her jeton, dizideki diğer jetonlarla ilişkileri (dikkat puanlarını) hesaplar. Bu, modelin “nehir bankası"ndaki “banka"nın “banka hesabı"ndaki “banka"dan farklı olduğunu anlamasını sağlar.
4. İleri Besleme Katmanları: Her konum, karmaşık özellikleri çıkarmak için doğrusal olmayan bir ileri besleme ağından geçer.
5. Sonraki Jeton Tahmini: GPT gibi otoregresif modeller, bir sonraki en olası jetonu tahmin edecek şekilde eğitilir ve çıktı tamamlanana kadar bu işlemi tekrarlar.

Modern Yüksek Lisans’ların ölçeği şaşırtıcıdır:

• GPT-4: Tahmini ~1,8 trilyon parametre
• Google Gemini Ultra: Uzmanlardan oluşan bir mimaride trilyonlarca parametre
• Llama 3.1 405B: 405 milyar parametre, açık kaynak

2.2 Yayılım Modelleri (Görüntüler ve Ses)

Difüzyon modelleri Stable Diffusion, DALL-E 3 ve Midjourney gibi araçlara güç sağlar. İki aşamalı bir süreçle görüntü oluşturmayı öğreniyorlar:

İleri Süreç (Eğitim):

• Gerçek bir görüntü, birçok adıma (örneğin, 1000 adım) Gauss gürültüsü eklenerek aşamalı olarak bozulur.
• Son adımda görüntü saf rastgele gürültüden oluşur.
• Model her adımda eklenen gürültüyü tahmin etmeyi öğrenir.

Ters Süreç (Nesil):

• Saf rastgele gürültüden başlayın.
• Bir dil modeli (CLIP gibi) tarafından kodlanan bir metin istemi tarafından yönlendirilen görüntünün gürültüsünü yinelemeli olarak giderin.
• 20–50 gürültü giderme adımının ardından istemle eşleşen fotogerçekçi bir görüntü ortaya çıkar.

Metin koşullandırma, U-Net (veya DiT — Difüzyon Transformatörü) omurgasının içindeki Cross-Attention katmanları aracılığıyla gerçekleştirilir; bu katmanlar, gürültü tahmincisinin istemin anlamsal anlamına göre yönlendirilmesine olanak tanır.

2.3 Üretken Rekabetçi Ağlar (GAN’lar)

Difüzyon modelleri hakimiyet kazanmadan önce GAN’lar (Ian Goodfellow tarafından 2014’te tanıtıldı) görüntü sentezi için altın standarttı.

GAN’lar aynı anda eğitilen iki rakip sinir ağından oluşur:

• Jeneratör (G): Rastgele gürültüyü girdi olarak alır ve sahte bir görüntü üreterek ayrımcıyı kandırmaya çalışır.
• Ayırt Edici (D): Hem gerçek hem sahte görselleri alıp bunları ayırt etmeye çalışır.

Bu çekişmeli eğitim döngüsü sayesinde Jeneratör, giderek daha gerçekçi görüntüler üretmeyi öğrenir. Eğitimin amacı bir minimax oyunudur:

min_G max_D [E[log D(x)] + E[log(1 - D(G(z)))]]

GAN’ların sınırlamaları: Eğitim istikrarsızlığı (mod çöküşü, yok olan gradyanlar) ve oldukça çeşitli çıktılar üretme zorluğu, bunları açık alan oluşturma için difüzyon modellerine göre daha az uygun hale getirdi.

2.4 Değişken Otomatik Kodlayıcılar (VAE’ler)

VAE’ler, verilerin temel yapısını yakalayan sıkıştırılmış bir gizli alanın öğrenilmesi için olasılıksal bir çerçeve sağlar. Bunlar şunlardan oluşur:

• Kodlayıcı: Giriş verilerini düşük boyutlu bir gizli uzayda ortalama (μ) ve varyans (σ) vektörüne sıkıştırır.
• Kod çözücü: Gizli dağılımdan örneklenen bir noktadan verileri yeniden oluşturur.

VAE’ler daha büyük sistemlerde bir bileşen olarak yaygın şekilde kullanılır; örneğin, Kararlı Difüzyon, difüzyon sürecini bir VAE’nin (Gizli Difüzyon Modelleri olarak adlandırılır) sıkıştırılmış gizli alanı içinde yürütür ve bu da süreci önemli ölçüde daha hızlı hale getirir.

3. Yüksek Lisans’lar Nasıl Eğitilir: Üç Aşamalı Boru Hattı

Modern Büyük Dil Modelleri, kullanıcılara ulaşmadan önce üç farklı eğitim aşamasından geçer:

1. Aşama: Eğitim Öncesi (Dünyadan Öğrenmek)

Model, kendi kendini denetleyen öğrenme kullanılarak devasa bir metin külliyatı (kitaplardan, web sitelerinden, kodlardan ve bilimsel makalelerden alınan trilyonlarca jeton) üzerinde eğitilir. Görev basit: bir sonraki jetonu tahmin edin. İnsan etiketlerine gerek yok. Bu, model dünya bilgisini, dilbilgisini, akıl yürütme kalıplarını ve kodlama yeteneğini öğretir.

Aşama 2: Denetimli İnce Ayar (SFT)

İnsan eğitmenleri, ideal yapay zeka davranışını gösteren binlerce yüksek kaliteli hızlı yanıt çifti oluşturur. Önceden eğitilmiş model daha sonra konuşma yardımı için beklenen formatı ve tonu öğrenmek üzere bu verilere göre ince ayar yapılır.

Aşama 3: İnsan Geri Bildiriminden Takviyeli Öğrenme (RLHF)

• İnsan değerlendiriciler model yanıt çiftlerini ve hangisinin daha iyi olduğunu karşılaştırır.
• Bu sıralamalar, yanıt kalitesini puanlayan bir Ödül Modeli (RM) geliştirir.
• Daha sonra dil modeli, ödül modelinin puanını en üst düzeye çıkaran yanıtlar oluşturmak için Yakınsal Politika Optimizasyonu (PPO) kullanılarak optimize edilir.
• Bu aşama, modelin çıktılarını insan tercihleriyle uyumlu hale getiren, onu yararlı, zararsız ve dürüst kılan aşamadır.

4. Temel Üretken Yapay Zeka Yetenekleri

Metin Oluşturma

GPT-4 ve Gemini gibi Yüksek Lisans’lar makaleler yazabilir, belgeleri özetleyebilir, soruları yanıtlayabilir, dilleri tercüme edebilir, kod yazabilir ve karmaşık çok adımlı problemler üzerinde akıl yürütebilir. Gelişmiş modeller, akıl yürütmelerini göstermek için Düşünce Zinciri (CoT) yönlendirmesini kullanarak mantıksal ve matematiksel görevlerin doğruluğunu önemli ölçüde artırır.

Görüntü ve Video Oluşturma

Difüzyon modelleri fotogerçekçi görüntüler, sanatsal illüstrasyonlar ve artık tam video dizileri (ör. Google Veo, OpenAI Sora) oluşturabilir. Metinden videoya modeller, mekansal-zamansal gizli alanlar üzerinde çalışarak, gürültü giderme sürecini hem zamana hem de mekana yayar.

Kod Oluşturma

Kod üzerinde ince ayar yapılan modeller (örneğin, Codex tarafından desteklenen GitHub Copilot, Gemini Code Assist) işlevleri otomatik olarak tamamlayabilir, doğal dil açıklamalarından tüm modülleri oluşturabilir, birim testleri yazabilir ve mevcut kodu açıklayabilir.

Ses ve Müzik Üretimi

OpenAI’nin Whisper (konuşmayı metne dönüştürme) ve MusicGen (metin istemlerinden müzik) gibi modeller, üretken paradigmanın, spektrogramlar veya ses belirteçleri üzerinde çalışarak ses alanına akıcı bir şekilde yayıldığını göstermektedir.

Multimodal Nesil

Üretken yapay zekanın sınırı çok modlu modeller; metin, görüntü, ses ve videoyu aynı anda işleyebilen ve üretebilen sistemlerdir. Gemini 1.5 Pro gibi modeller, 1 milyon jetonluk tek bir bağlam penceresinde 2 saatlik bir video, bir kod tabanı ve bir PDF belgesi üzerinde mantık yürütebilir.

5. Hızlı Mühendislik: Model Yeteneğinin Kilidini Açmak

Üretken bir modelin çıktısının kalitesi, girdi isteminin nasıl yapılandırıldığına oldukça duyarlıdır. Hızlı mühendislik, en iyi yanıtları ortaya çıkaran girdilerin hazırlanması uygulamasıdır:

• Sıfır Atış İstemi: Doğrudan modelden örnek içermeyen bir görevi gerçekleştirmesini isteyin.
• Az Çekim İstemi: İstemin kendisinde istenen giriş-çıkış formatının 2-5 örneğini sağlayın. Model, modeli çıkarır ve onu yeni bir girdiye uygular.
• Düşünce Zinciri (CoT): Modeli bir yanıt vermeden önce sorun üzerinde düşünmeye teşvik etmek için “Adım adım düşünelim” ifadesini ekleyin.
• Sistem Talimatları: Modeli kişisel veya davranışsal bir kısıtlamayla hazırlayın (ör. “Kıdemli bir güvenlik mühendisisiniz. Kesin ve net olun.”).

6. Üretken Yapay Zeka ve Geleneksel Yapay Zeka: Bir Karşılaştırma

7. Zorluklar ve Sınırlamalar

Olağanüstü yeteneklerine rağmen, Üretken Yapay Zekanın mühendislerin anlaması gereken önemli sınırlamaları vardır:

• Halüsinasyon: Yüksek Lisans’lar, gerçek gerçeğe değil, göstermelik olasılıklara göre optimizasyon yaptıklarından, güvenle gerçeklere dayalı yanlış bilgiler üretebilirler. Çözümler arasında RAG (Geri Alma-Artırılmış Üretim) ve doğrulanmış kaynaklarla topraklama yer alır.
• Bağlam Penceresi Sınırları: Gemini 1.5 Pro gibi modeller artık 1 milyondan fazla belirteç bağlamını desteklese de çoğu üretim modelinde, uzun belgelerin dikkatli bir şekilde parçalanmasını gerektiren sınırlar bulunur.
• Önyargı ve Güvenlik: Modeller, eğitim verilerinde mevcut önyargıları yansıtır. Hizalama teknikleri (RLHF, Anayasal AI) yardımcı olur, ancak sorun tam olarak çözülmemiştir.
• Çıkarım Maliyeti: Trilyon parametreli bir modeli çalıştırmak, önemli bir GPU altyapısı gerektirir. Niceleme, spekülatif kod çözme ve model damıtma gibi teknikler bu maliyeti azaltır.
• Telif Hakkı ve Fikri Mülkiyet: Telif hakkıyla korunan veriler üzerinde eğitim verildiğinde modeller, korunan içeriği yeniden üretebilir ve fikri mülkiyetle ilgili çözülmemiş yasal soruları gündeme getirebilir.

8. Üretken Yapay Zekanın Geleceği

Üretken yapay zekanın gidişatı birkaç önemli gelişmeye işaret ediyor:

• Ajantik AI: Araçlarla (web araması, kod yürütme, dosya erişimi) donatılmış LLM’ler, uzun süreler boyunca çok adımlı görevleri planlayan ve yürüten özerk aracılara dönüşüyor. LangGraph, AutoGen ve Google’ın Aracı Geliştirme Kiti (ADK) gibi çerçeveler bunu mümkün kılıyor.
• Dünya Modelleri: Fiziksel gerçekliğin sıkıştırılmış, tahmine dayalı temsilini öğrenen yeni nesil modeller; robotların fiziksel dünya hakkında akıl yürütmesine ve fiziksel dünyayla etkileşime girmesine olanak tanır.
• Ölçekte Kişiselleştirme: Telefonlarda ve dizüstü bilgisayarlarda çalışan cihaz içi küçük dil modelleri (SLM’ler), bulut bağımlılığı olmadan özel, kişiselleştirilmiş yapay zeka asistanlarına olanak tanıyacak.
• Bilimsel Keşif: Yeni proteinler tasarlamak (AlphaFold 3), yeni ilaç molekülleri önermek ve malzeme bilimi araştırmalarını hızlandırmak için üretken modeller halihazırda kullanılıyor.

Çözüm

Üretken yapay zeka bir ürün değil, yeni bir bilgi işlem paradigmasıdır. İnsan yapımı içeriğin dağıtımını modellemeyi öğrenen bu sistemler, yaratıcı işbirlikçiler, yorulmak bilmeyen kodlayıcılar, tıbbi araştırmacılar ve özerk problem çözücüler olarak hareket etme yeteneğine sahip hale geldi. Bu modellerin arkasındaki mimariyi ve eğitim süreçlerini anlamak artık mühendisler ve teknoloji uzmanları için isteğe bağlı değil; yeni nesil akıllı yazılımlar oluşturmak için temel bilgidir.

Ghaznix Blogunda daha fazla yapay zeka analizini keşfedin →