Yeni Sohbet Nerede Açılmalı, Kaç Mesaj Hatırlanmalı?

Bir Sohbet Ne Zaman Biter, Yenisi Ne Zaman Başlar?

Bir yapay zeka ürünü tasarlarken en sinsi kararlardan biri, sohbetin ömrünü belirlemektir. Kullanıcı ekrana geldiğinde onu eski konuşmasının ortasında mı karşılamalısınız, yoksa temiz bir sayfa mı sunmalısınız? Ya modele kaç mesaj geriye kadar hafıza vermelisiniz ki hem tutarlı kalsın hem de eski bir cümlenin gölgesinde boğulmasın? Bu sorular teknik gibi görünüyor ama aslında tamamen ürün kararları. Ve doğru cevap, kullanıcının uygulamanızla nasıl bir ilişki kurmasını istediğinize bağlı.

Kısa versiyonu şöyle: Pratikte 10-15 mesajlık bir hafıza penceresi çoğu senaryo için dengeli bir başlangıçtır. Yeni sohbetin nerede açılacağı ise sabit bir kural değil, ürününüzün akışına göre şekillenen bir tasarım tercihi.

Hafızanın Tatlı Noktası

Modelin geçmişi ne kadar hatırlayacağı, ürünün karakterini belirleyen ilk kararlardan biri. Çok kısa tutarsanız kullanıcı kendini sürekli tekrar ederken bulur; çok uzun tutarsanız model, konuşmanın en başındaki alakasız bir detaya takılıp bugünkü soruya yanlış açıdan yaklaşabilir. Ayrıca token maliyeti de sessizce artar.

10-15 mesajlık bir aralık, birçok üründe iyi sonuç veren bir orta yol. Bu pencerenin ötesine geçen konuşmalar için özetleme (summarization) devreye girer: eski mesajlar aynen taşınmak yerine, modele kısa bir bağlam notu olarak sunulur. Böylece sohbetin ruhu kaybolmadan, ağırlığı hafifler.

Sohbetin Ne Zaman Sıfırlanacağı Meselesi

Yeni bir konuşmanın nerede başlayacağı, tek doğrusu olan bir soru değil. Karşılaştığımız üç tipik yaklaşım var ve hangisini seçeceğiniz, kullanıcıyı nasıl bir deneyime davet ettiğinize bağlı.

Kullanıcıya Kontrolü Vermek

İlk yol, arayüze açıkça bir "bağlamı sıfırla" (reset context) butonu koymak. Kullanıcı, konuşmanın yönünün dağıldığını hissettiğinde ya da yeni bir konuya geçmek istediğinde bu butona basar ve model sıfırdan başlar. Bu, kullanıcıya güç veren, şeffaf bir yaklaşım. Özellikle profesyonel araçlarda, kullanıcının kendi iş akışını (workflow) yönetmesini istediğinizde işe yarar.

Sessizce Arka Planda Yönetmek

İkinci yol, hiçbir buton koymamak. Belirli bir süre boyunca yeni bir istek gelmezse ya da konuşmanın doğası değiştiğinde bağlamı arka planda siz sıfırlarsınız. Kullanıcı bunu fark etmez bile; sadece uygulamanın kendisiyle akıcı bir şekilde konuştuğunu hisseder. Bu yaklaşım, teknik detayları kullanıcıdan gizlemek istediğiniz, daha "sihirli" hissettiren ürünlerde tercih edilir.

Her Girişte Temiz Sayfa

Üçüncü yol ise en radikal olanı: Kullanıcı uygulamaya her girdiğinde onu boş bir sayfa karşılar. Geçmiş sohbetler tutulmaz, her seans (session) kendi başına yaşar. Bu, sohbetin bir hafıza aracı değil, anlık bir yardımcı olduğu ürünlerde mantıklıdır. Kullanıcı gelir, işini halleder, çıkar. Arka planda her seferinde yeni bir kimlik (unique ID) oluşur, ama sohbet geçmişi taşınmaz.

Kararı Ne Belirler?

Hangi yaklaşımı seçeceğinize karar verirken sormanız gereken birkaç soru var. Kullanıcı sizinle uzun soluklu bir ilişki mi kuruyor, yoksa hızlı bir görev için mi geliyor? Sohbetin devamlılığı ürünün değer önerisinin bir parçası mı, yoksa yalnızca bir konfor mu? Konuşmalar arası bağlamın taşınması, kullanıcıyı rahatlatır mı yoksa onu geçmiş bir hatanın içinde tutsak mı eder?

Cevaba göre kararlar netleşir. Örneğin bir kod asistanında geçmişi tutmak neredeyse zorunludur; ama bir kısa cevap üreten araçta her girişte temiz sayfa daha akıcı hissettirir. Bazı ürünlerde ise bu iki yaklaşımı harmanlamak gerekir: geçmiş kuizler, notlar, çıktılar saklanırken sohbet bağlamı sıfırlanabilir. Yani kullanıcının ürettikleri kalır, konuşmanın kendisi yenilenir.

Bir de teknik tarafta, RAG (Retrieval-Augmented Generation) ile prompt mühendisliğini aynı anda uygulamak yaygın bir pratik. Böylece model hem uzun süreli bilgiyi harici bir kaynaktan çeker, hem de kısa süreli bağlamı sohbet penceresinden alır. İkisi birbirinin yükünü hafifletir.

Farklı Ürünlerde Nasıl Görünüyor?

Bir örnekle somutlaştıralım. Bir eğitim uygulamasında kullanıcının çözdüğü kuizler, aldığı notlar, ilerleme durumu kalıcı olarak saklanabilir. Ama her seferinde önceki sohbetin devamı gelmez; kullanıcı sayfayı yenilediğinde ya da tekrar giriş yaptığında sohbet geçmişi silinir, arka planda yeni bir kimlik oluşur. Kullanıcının öğrenme yolculuğu kaybolmaz, ama konuşma temiz bir zeminde başlar.

Bir müşteri destek asistanında ise tam tersi bir tercih mantıklı olabilir. Kullanıcının önceki şikayetleri, çözüm süreçleri, tercih ettiği iletişim tonu hatırlanmalı ki her seferinde sıfırdan anlatmak zorunda kalmasın. Burada sohbet devamlılığı, ürünün en değerli özelliği hâline gelir.

Bir yaratıcı yazım aracında ise kullanıcı büyük ihtimalle her yeni proje için temiz bir sayfa ister. Önceki hikayenin karakterleri yeni bir şiirin içine sızarsa sonuç kaotik olur. Bu yüzden "bağlamı sıfırla" butonu görünür, güvenli ve sıkça kullanılan bir kontrol olarak öne çıkar.

Merak Edilenler

Hafıza penceresini dinamik olarak değiştirmek mantıklı mı?

Evet, hatta çoğu olgun üründe böyle yapılır. Konuşmanın konusu değiştiğinde ya da kullanıcı yeni bir görev başlattığında pencere daralır; devam eden bir tartışmada ise özetleme ile birlikte genişleyebilir.

Kullanıcıya "bağlam sıfırlandı" olduğunu söylemeli miyim?

Bu tercih meselesi. Şeffaflığı önemseyen ürünler küçük bir bildirim gösterir. Daha akıcı bir deneyim isteyen ürünler bunu sessizce yapar. İkisinin de kullanıcı beklentisine uygun düşmesi önemli.

10-15 mesaj her ürün için geçerli bir sayı mı?

Hayır, sadece iyi bir başlangıç noktası. Kullanıcı davranışını izleyerek bu sayıyı ürününüze göre ayarlamanız gerekir. Bazı ürünlerde 5 mesaj yeterli, bazılarında 30 mesaj bile az kalır.

Özetleme yerine tüm geçmişi taşısam olmaz mı?

Teknik olarak olur, ama token maliyeti hızla artar ve model uzun bağlamda odağını kaybedebilir. Özetleme, hem ekonomik hem de daha keskin cevaplar için tercih edilir.

Kararın Ardındaki Asıl Soru

Sohbetin ne zaman biteceği ve neyin hatırlanacağı, aslında ürününüzün kullanıcıyla kurduğu ilişkinin metaforu. Her seferinde sıfırdan tanışan bir arkadaş mı, yoksa geçmişinizi bilen bir yol arkadaşı mı olmasını istiyorsunuz? Bu sorunun cevabı netleştiğinde, hafıza penceresinin uzunluğu ve sıfırlama noktası kendiliğinden yerine oturur. Teknik parametreler, tasarım niyetinin yalnızca somut hâlidir.