Bir modelin tek seferde işleyebildiği azami token sayısı.
Token limiti (bağlam sınırı), bir dil modelinin bir istekte alıp üretebildiği toplam token miktarıdır. Limit aşılınca metin kesilir veya model başını unutur. Uzun içerikleri parçalara bölmek gerekebilir.