o1-preview-2024-09-12· OpenAI
WildChat-4.8M (AI2)
aká je veľkosť kontextového okna?
- User
aká je veľkosť kontextového okna?
- Assistant
Veľkosť kontextového okna závisí od konkrétneho jazykového modelu. Pre model GPT-3.5 Turbo je typická veľkosť kontextového okna 4 096 tokenov, zatiaľ čo pre GPT-4 existujú verzie s veľkosťou 8 192 tokenov (8K) a 32 768 tokenov (32K).
To znamená, že model dokáže spracovať vstupný text spolu s vygenerovanou odpoveďou, ktorých celková dĺžka nepresiahne toto množstvo tokenov. Tokeny sú jednotky textu, ktoré môžu byť slová alebo ich časti.