{
  "id": 4,
  "title": "Контекстное окно AI: почему модель «забывает» и как это обойти",
  "slug": "kontekstnoe-okno-ai",
  "date": "2026-02-02",
  "category": "Теория",
  "readTime": "6 мин",
  "excerpt": "Разбираемся в ограничениях LLM и технологиях расширения контекста в the1.day",
  "content": "<h2>Что такое контекстное окно?</h2><p><strong>Контекстное окно</strong> — это объём информации, который AI-модель может обработать за один раз. Представьте рабочий стол: сколько документов вы можете разложить одновременно — столько и увидите.</p><h3>Аналогия</h3><p>У вас переговоры. На столе лежит 5 документов — вы легко сравниваете данные. Если документов 500 — вам нужен помощник, который найдёт нужные страницы. <strong>RAG в the1.day — это тот самый помощник.</strong></p><hr><h2>Размеры контекстных окон (2026)</h2><table><tr><th>Модель</th><th>Токенов</th><th>Страниц текста</th></tr><tr><td>GPT-4o</td><td>128 000</td><td>~400</td></tr><tr><td>Claude 3.7 Sonnet</td><td>200 000</td><td>~600</td></tr><tr><td>Gemini 2.5 Pro</td><td>2 000 000</td><td>~6000</td></tr><tr><td>GPT-4 Turbo</td><td>128 000</td><td>~400</td></tr></table><p><em>1 токен ≈ 0.75 слова на русском</em></p><hr><h2>Что входит в контекст?</h2><p>Контекстное окно делится между:</p><ol><li><strong>Системный промпт</strong> (5-20% окна) — инструкции для модели</li><li><strong>История диалога</strong> (20-40%) — предыдущие сообщения</li><li><strong>Прикреплённые документы</strong> (30-60%) — ваши файлы</li><li><strong>Ответ модели</strong> (10-30%) — генерируемый текст</li></ol><h3>Пример расчёта для GPT-4o (128K токенов)</h3><ul><li>Системный промпт: 10 000 токенов</li><li>История (20 сообщений): 30 000 токенов</li><li>2 документа PDF: 60 000 токенов</li><li>Ваш вопрос: 500 токенов</li><li>Ответ: до 27 500 токенов</li></ul><p><strong>Итого:</strong> 128 000 токенов использовано полностью.</p><hr><h2>Проблема: модель «забывает»</h2><h3>Ситуация</h3><p>Вы работаете 2 часа, написано 50 сообщений. Спрашиваете: «Что мы обсуждали в начале?»<br>AI: «Извините, не могу вспомнить — это за пределами моего контекста»</p><h3>Почему так происходит?</h3><p>Когда контекстное окно заполняется, модель выбрасывает старые сообщения. Обычно по принципу FIFO (First In, First Out) — самые ранние удаляются первыми.</p><hr><h2>Решение the1.day: трёхуровневая память</h2><p>the1.day обходит ограничение контекста с помощью RAG-архитектуры:</p><h3>Hot Memory (горячая)</h3><p>⚡ Последние 20-50 сообщений<br>⏱️ Всегда в контексте модели<br>📍 Мгновенный доступ</p><h3>Warm Memory (тёплая)</h3><p>🔥 Важные фрагменты из всей истории<br>⏱️ Загружаются по запросу за 0.3-0.5 сек<br>📍 Векторный поиск по importance_score</p><h3>Cold Memory (холодная)</h3><p>❄️ Полный архив диалогов и документов<br>⏱️ Поиск за 1-2 секунды<br>📍 Векторная база Qdrant</p><hr><h2>Как это работает на практике</h2><h3>Пример: проект длится 3 месяца</h3><ul><li>Накоплено: 5000 сообщений (~2М токенов)</li><li>Контекстное окно GPT-4o: 128К токенов</li></ul><p><strong>Без RAG:</strong> Модель видит только последние 200 сообщений.</p><p><strong>С RAG в the1.day:</strong><br>1. Вы спрашиваете: «Какие решения мы приняли по дизайну в январе?»<br>2. Система ищет в Cold Memory сообщения за январь с темой «дизайн»<br>3. Находит 15 релевантных фрагментов<br>4. Загружает их в контекст вместе с Hot Memory<br>5. Модель отвечает, используя данные из обоих уровней</p><hr><h2>Importance Score: умная приоритизация</h2><p>the1.day автоматически оценивает важность каждого сообщения (0-100) по критериям:</p><ul><li>📌 Наличие решений, выводов, резюме</li><li>📊 Упоминание цифр, дат, имён</li><li>🔗 Ссылки на документы и источники</li><li>⭐ Явные маркеры (ВАЖНО, TODO, РЕШЕНИЕ)</li><li>💬 Реакции пользователя (лайки, сохранения)</li></ul><p>Сообщения с высоким score попадают в Warm Memory и всегда доступны.</p><hr><h2>Практический совет</h2><p><strong>Для коротких задач (1-10 сообщений):</strong><br>Используйте модели с меньшим окном (дешевле) — GPT-4o mini, Claude Haiku</p><p><strong>Для средних проектов (10-100 сообщений):</strong><br>GPT-4o, Claude 3.7 Sonnet — оптимальный баланс цены и контекста</p><p><strong>Для больших проектов (100+ сообщений):</strong><br>Gemini 2.5 Pro (2M токенов) + RAG в the1.day = практически безлимитный контекст</p><hr><h2>Попробуйте</h2><p>Создайте длинный диалог (30+ сообщений). Попросите AI вспомнить что-то из начала. Благодаря RAG, the1.day найдёт информацию, даже если она за пределами стандартного контекста.</p>"
}