Skip to content
TheChatArchiveThe Chat Archive
o1-preview-2024-09-12· OpenAIAi2 WildChat-4.8M (AI2)

aká je veľkosť kontextového okna?

  1. User

    aká je veľkosť kontextového okna?

  2. Assistant

    Veľkosť kontextového okna závisí od konkrétneho jazykového modelu. Pre model GPT-3.5 Turbo je typická veľkosť kontextového okna 4 096 tokenov, zatiaľ čo pre GPT-4 existujú verzie s veľkosťou 8 192 tokenov (8K) a 32 768 tokenov (32K).

    To znamená, že model dokáže spracovať vstupný text spolu s vygenerovanou odpoveďou, ktorých celková dĺžka nepresiahne toto množstvo tokenov. Tokeny sú jednotky textu, ktoré môžu byť slová alebo ich časti.