Embedding Nedir?

Bir sohbet robotuna bir cümle yazdığınızda, o modelin sizin yazdığınız kelimeleri gerçekten "okuduğunu" düşünmek kolay. Oysa perde arkasında hiç de öyle olmuyor. Model, sizin yazdığınız hiçbir kelimeyi kelime olarak görmüyor; onun için her şey sayıdan ibaret. İşte tam da bu noktada, yapay zeka ile ilgili yazıları takip ederken sıkça karşınıza çıkan ve bir türlü tam yerine oturmayan bir kavram devreye giriyor: embedding.

Kelimenin Sayıya Dönüştüğü An

Embedding, bir kelimenin (ya da daha genel bir ifadeyle bir verinin) sayısal bir vektöre dönüştürülmüş halidir. Yani modelin "anlayabileceği" bir forma çevrilmiş bir temsildir. Bir kelimeyi alıp onu bir sayıya eşliyorsunuz, o sayıyı da tek başına değil, birden fazla boyutu olan bir vektörün içine yerleştiriyorsunuz.

Bu vektörü de büyük bir uzayın içinde duran bir nokta gibi hayal edebilirsiniz. Her kelime, o uzayda bir yere düşüyor. Birbirine anlamca yakın kelimeler bu uzayda birbirine yakın noktalara, alakasız olanlar ise uzak noktalara yerleşiyor. Kısacası embedding, dilin geometriye çevrilmiş hali.

Uzayda Kelime Aramak

Büyük Dil Modelleri (Large Language Models) tam da bu uzayın üzerinde iş görüyor. Siz bir prompt yazdığınızda model, o uzayın içinde belli parametrelerle aramalar yapıyor; bir sonraki kelime olarak hangisinin gelme olasılığının en yüksek olduğuna bakıyor ve o kelimeyi seçip yazıyor. Sonra bir sonrakine geçiyor. Bir sonrakine. Bu döngü, cümlenin sonuna kadar teker teker sürüyor.

Yani bir LLM'in cevap üretmesi, aslında kabaca bu vektör uzayında sürekli bir olasılık araması yapmasından ibaret. Arada elbette atlanan bir sürü katman, bir sürü matematiksel işlem var; ama zihninizde temel resmi kurmak istiyorsanız bu şekilde düşünmek işinizi görür.

Tokenization ile İlişkisi

Bu noktada tokenization kavramı da tabloya giriyor. Model kelimeleri doğrudan almadığı için önce onları parçalıyor; bu parçaların her birine token deniyor ve her token bir embedding vektörüne karşılık geliyor.

Burada dikkat çekici bir ayrıntı var: Türkçe gibi dillerde ekler uzun, kelimeler uzun, yapı zengin. Bu yüzden Türkçe bir metin, İngilizce bir metne göre daha fazla token "yiyor". Yani aynı anlamı ifade etmek için modelin daha çok parçayla uğraşması gerekiyor. Bu da hem maliyet hem de performans tarafında somut bir fark yaratıyor.

Neden Bu Kadar Konuşuluyor?

Embedding, yapay zekanın sadece küçük bir teknik detayı değil; aslında tüm sistemin üzerinde durduğu zemin. Çünkü bir modelin bir metni "anlaması", bir arama motorunun "benzer içerik" bulması, bir öneri sisteminin "bu ürünü seven şunu da sever" demesi hep bu vektör uzayındaki yakınlık ilişkileri sayesinde mümkün oluyor.

Eğer kelimeleri, cümleleri, hatta görselleri sayılara dökemezseniz, model hiçbir şeyi karşılaştıramaz. Karşılaştıramazsa, seçim yapamaz. Seçim yapamazsa, üretemez. Yani embedding, LLM'lerin akıl yürütme illüzyonunun altındaki asıl mekanizma.

Bunu Nerede Görüyoruz?

Başta soyut gelebilir, ama günlük olarak kullandığınız birçok üründe embedding'in izleri var.

• Bir chatbot'a soru sorduğunuzda, size en uygun bilgiyi bulmak için sorunuzun embedding'i alınır ve bir bilgi tabanındaki dokümanların embedding'leriyle karşılaştırılır. Bu yaklaşıma RAG (Retrieval-Augmented Generation) deniyor.
• Bir e-ticaret sitesinde "benzer ürünler" bölümünü gördüğünüzde, arka planda ürünlerin embedding'leri karşılaştırılıyor.
• Spotify size yeni bir şarkı önerdiğinde, dinlediğiniz parçaların vektör temsilleri üzerinden yakınlık hesabı yapılıyor.
• Bir tasarım aracında "bu görsele benzer görselleri getir" dediğinizde de aynı mantık işliyor; sadece kelime yerine görsel embedding'leri kullanılıyor.

Yani kullanıcı olarak siz "anlamlı bir eşleşme" olarak hissettiğiniz her deneyimin altında büyük ihtimalle bir vektör uzayı ve o uzayda hesaplanan bir mesafe var.

Peki Siz Bunu Ne Yapacaksınız?

Embedding, sadece makine öğrenmesi mühendislerinin kafa yorması gereken bir konu değil. Yapay zeka destekli ürünler tasarlıyor ya da yönetiyorsanız, bu kavramı anlamak size doğrudan avantaj sağlıyor.

Ürün yöneticisiyseniz: "Bizim chatbot doğru cevap veremiyor" dediğinizde, sorun çoğu zaman modelin zekasında değil, embedding'lerin ne kadar iyi hazırlandığında ve arama parametrelerinin nasıl kurulduğunda saklıdır. Bu farkındalık, ekiple konuşmalarınızın kalitesini değiştirir.

UX veya ürün tasarımcısıysanız: Kullanıcının "anlamlı sonuç" beklediği her ekranda aslında bir embedding kararı vardır. "Benzer" ne demek? "İlgili" ne demek? Bu sorulara verilecek yanıtlar, arayüzde nasıl bir deneyim tasarlayacağınızı belirler. Bir arama kutusunun altındaki önerilerin mantığını anlamak, o kutunun tasarımını da değiştirir.

AI üzerine çalışıyorsanız: Türkçe gibi ek yapısı zengin dillerde token sayısının ve dolayısıyla embedding maliyetlerinin farklı işlediğini bilmek, hem prompt tasarımınızı hem de altyapı seçimlerinizi doğrudan etkiler.

Kısacası embedding'i "mühendislerin işi" olarak bir kenara koyarsanız, ürününüzün en kritik davranışlarını başkalarının kararlarına bırakmış olursunuz.

Sözün Özü

Embedding, yapay zekanın kelimeleri anlayabildiği bir dil değil; kelimeleri anlamış gibi davranabilmesini sağlayan bir haritadır ve o haritayı okumayı bilenler, yapay zeka çağında ürünü de kullanıcıyı da bir adım önden görecek.