const { gpt, gptweb } = require("./API/gpt"); const { dalle } =…
- User
User: const { gpt, gptweb } = require("./API/gpt"); const { dalle } = require("./API/dalle"); const { gpt4o } = require("./API/gpt4o"); const { gpt3 } = require("./API/gpt3.5"); const { prompts } = require("./API/gpt-prompts"); const { blackbox } = require("./API/blackbox"); const { qwen } = require("./API/qwen"); const { gemini } = require("./API/gemini"); const WebSocket = require('ws'); const Bottleneck = require('bottleneck'); const { RateLimiterMemory } = require('rate-limiter-flexible'); const { stats, scheduleDailyReset, resetStatistics } = require('./stats'); // Импортируем модуль статистики const fs = require('fs'); const path = require('path'); const Ajv = require('ajv');
// Создаем экземпляр Ajv (проверка входящей переписки на соответствие схеме) const ajv = new Ajv(); // Объект для хранения действий и состояния каждого клиента const clientActions = {}; // Объект для хранения ограничителей по каждому клиенту const limiters = {}; // Замените на ваш домен const allowedOrigin = 'http://gpt.loc';
// Настройки для ограничений по IP const rateLimiter = new RateLimiterMemory({ points: 20, // разрешается 10 запросов duration: 1, // за 1 секунду blockDuration: 60 // время блокировки в секундах });
// Создайте WebSocket-сервер const wss = new WebSocket.Server({ port: 3000 });
wss.on('connection', (ws, req) => {
const urlParams = new URLSearchParams(req.url.split('?')[1]); const userId = urlParams.get('token'); // Получаем UUID из URL const userIP = req.socket.remoteAddress; const userHeaders = req.headers; // Проверяем Origin if (!checkOrigin(userHeaders.origin, ws)) { return; // Если отклонено, выходим из обработчика } // Увеличиваем общий счетчик подключений stats.totalConnections++; console.log('Client connected with user ID:', userId, 'Домен - ', userHeaders.origin); console.log('Общее количество подключений:', stats.totalConnections); // Инициализируем состояние клиента, если его еще нет if (!clientActions[userId]) { clientActions[userId] = { actions: [], // Массив для хранения действий connected: true, // Статус подключения }; // Создаем экземпляр Bottleneck для каждого клиента (ограничение на количество запросов по Id) limiters[userId] = new Bottleneck({ maxConcurrent: 1, // Максимальное количество одновременных задач minTime: 1000, // Минимальное время между запросами в миллисекундах highWater: 0 // Не разрешать в очереди больше 0 запросов (игнорировать) }); } ws.on('message', (message) => { // Проверяем, является ли сообщение экземпляром Buffer if (Buffer.isBuffer(message)) message = message.toString(); try { // Преобразуем строку JSON обратно в объект message = JSON.parse(message); //Получаем историю чата из запроса let messages = message.messages; console.log('До обработки:', messages); // Выполняем валидацию сообщений messages = validateMessages(messages); // Проверяем, остались ли сообщения после валидации if (messages.length === 0) { const response = { code: 2, message: "Нет валидных сообщений для обработки." }; sendMessage(ws, response); return; } // Урезаем последнее сообщение до 2000 символов, если оно от клиента if (messages[messages.length - 1].role === 'user') { messages[messages.length - 1].content = messages[messages.length - 1].content.substring(0, 2000000); } console.log('После обработки:', messages); // Увеличиваем общий счетчик запросов stats.totalRequests++; rateLimiter.consume(userIP) .then(() => { // Используем Bottleneck для управления количеством запросов limiters[userId].schedule(() => { // Отправка запроса на сервер чата return call(messages, ws); }).catch(error => { //console.error('Rate limit exceeded, message ignored:', error); const response = { code: 2, message: "Превышен лимит запросов. Пожалуйста, попробуйте позже." }; // Отправка ответа клиенту sendMessage(ws, response); }); }) .catch(() => { // Увеличиваем счетчик блокировок по IP stats.totalIPBlocks++; const response = { code: 2, message: "Вы временно заблокированы за превышение лимита запросов." }; // Отправка ответа клиенту sendMessage(ws, response); }); } catch (error) { console.error('Error parsing JSON:', error); const response = { code: 2, message: "Произошла ошибка. Попробуйте еще раз."}; console.log(response); // Отправка ответа клиенту sendMessage(ws, response); } }); ws.on('close', () => { clientActions[userId].connected = false; // Обновление статуса подключения delete clientActions[userId]; // Удаление состояния клиента delete limiters[userId]; // Удаление ограничителя для данного клиента console.log('Client ',userId, ' disconnected'); });});
async function call(messages, ws) { try { let fullResponse = ""; // Переменная для результата
console.log('Запрос клиента:', messages); //throw new Error("Намеренная ошибка для тестирования catch"); gpt4o({ messages: messages, markdown: false }, (result) => { try { if (!result.finish) { // Запоминаем только последний ответ чата (он будет полный, промежуточные ответы - это накопления) fullResponse = result.message || ""; //console.log(result); } else { // Если завершено, выводим полный ответ let response = { code: 1, message: fullResponse}; console.log('Ответ чата: ', response); // Отправка ответа клиенту sendMessage(ws, response); } } catch (callbackError) { console.error('Error processing callback result:', callbackError); let response = { code: 2, message: "Произогла ошибка. Попробуйте еще раз." }; // Отправка ответа клиенту sendMessage(ws, response); } }); } catch (error) { console.error('Error:', error); let response = { code: 2, message: "Произогла ошибка. Попробуйте еще раз."}; // Отправка ответа клиенту sendMessage(ws, response); }}
// Запускаем планировщик для статистики scheduleDailyReset();
// Очистка старых соединений раз в минуту (по желанию) setInterval(() => { Object.keys(clientActions).forEach(userId => { if (!clientActions[userId].connected) { delete clientActions[userId]; // Удаляем пользователя из памяти, если он отключен } }); }, 60 * 1000); // Очистка каждые 60 секунд
function checkOrigin(origin, socket) { if (origin !== allowedOrigin) { console.log('Недопустимый домен. Соединение разорвано: ', origin); socket.close(); // Закрываем соединение, если домен не разрешен return false; // Возвращаем false для индикатора отклонения } return true; // Возвращаем true, если домен разрешен }
// Отправляет ответ клиенту function sendMessage(ws, message) { if (ws.readyState === WebSocket.OPEN) { ws.send(JSON.stringify(message)); } else { console.warn(
Trying to send message to a closed WebSocket connection.); } }// Удаление из массива сообщений не соответствующих схеме function validateMessages(messages) { // Определяем схему для сообщений const schema = { type: 'object', properties: { role: { type: 'string' }, content: { type: 'string' } }, required: ['role', 'content'], additionalProperties: false };
// Фильтруем массив, оставляя только корректные сообщения return messages.filter(message => ajv.validate(schema, message));}
console.log('WebSocket сервер запущен через порт 3000');
Оцени код Assistant: код выглядит достаточно хорошо структурированным и организованным. Давайте разберем основные аспекты его реализации:
Положительные стороны
-
Структура кода:
- Организация кода разделена на функциональные компоненты, что делает его более читаемым и поддерживаемым.
- Использование внешних модулей (например,
Bottleneck,Ajv,ws) для управления ограничением запросов, валидацией и WebSocket-соединениями.
-
Управление соединениями:
- Код корректно обрабатывает новые подключения, отключения и управление статусом клиентов через объект
clientActions. - Хорошее использование
Bottleneckдля ограничения пропускной способности запросов на основе UUID пользователей.
- Код корректно обрабатывает новые подключения, отключения и управление статусом клиентов через объект
-
Валидация данных:
- Разработка валидации сообщений с помощью
Ajvпомогает гарантировать, что только валидные данные обрабатываются.
- Разработка валидации сообщений с помощью
-
Управление лимитами по IP:
- Внедрение системы контроля частоты запросов с использованием
RateLimiterMemoryпозволяет управлять активностью пользователей на уровне IP.
- Внедрение системы контроля частоты запросов с использованием
-
Обработка ошибок:
- Есть механизм для обработки ошибок, что позволяет избежать сбоев программы из-за непредвиденных исключений.
-
Статистика:
- Собираются статистические данные о подключениях и запросах, что может быть полезно для аналитики и управления.
Возможные улучшения
-
Разделение ответственности:
- Вы можете рассмотреть возможность выделения логики обработки сообщений в отдельный модуль или класс. Это улучшит читаемость и позволит легче тестировать код.
-
Документация:
- Комментарии в коде достаточно полезны, но стоит также включить более подробную документацию по функциям, особенно о параметрах и возвращаемых значениях.
-
Улучшение обработки ошибок:
- В текущем виде уровень деталей об ошибках может быть недостаточно информативным для конечного пользователя. Расширьте сообщения об ошибках, чтобы они давали больше контекста.
-
Гибкость настройки:
- Параметры конфигурации (например, лимиты для
RateLimiterMemory,Bottleneck, разрешенные домены) могли бы быть вынесены в конфигурационный файл вместо жесткого кода.
- Параметры конфигурации (например, лимиты для
-
Безопасность:
- При работе с WebSocket стоит обращать внимание на дополнительные аспекты безопасности, такие как аутентификация пользователей и защита от атак типа Denial of Service (DoS).
-
Кэширование и производительность:
- Если ваши API запросы будут часто повторяться с одними и теми же параметрами, рассмотрите возможность использования кэширования для уменьшения нагрузки на сервер.
Заключение
Ваш код — отличный старт для WebSocket-сервера, и он выполняет основные задачи. С небольшими улучшениями, которые упомянуты выше, он может стать более гибким, безопасным и удобным для поддержки. Общая структура и подход к обработке запросов положительно сказываются на расширяемости проекта. User: При работе с WebSocket стоит обращать внимание на дополнительные аспекты безопасности, такие как аутентификация пользователей и защита от атак типа Denial of Service (DoS).
сайт не предусматривает регистрации пользователь, он общедоступный и все клиенты анонимны. Как в таком случае защитить WebSocket от DoS Assistant: щита WebSocket-сервера от атак типа Denial of Service (DoS) — это важный аспект обеспечения стабильности и доступности вашего сервиса. Хотя у вас нет регистрации пользователей, вы все равно можете применить несколько методов защиты:
1. Ограничение частоты запросов (Rate Limiting)
Вы уже используете
RateLimiterMemoryдля ограничений по IP, что является хорошей практикой. Убедитесь, что:- Установите строгие лимиты на количество соединений и сообщений, которые может отправить одно IP-адрес в заданный период времени. Например, не больше 20 сообщений в минуту.
- Включите временные блокировки для IP-адресов, которые превышают лимиты. Это поможет снизить количество запросов, приходящих от злонамеренных пользователей.
2. Защита от повторных запросов
Добавляйте уникальный идентификатор к каждому запросу от клиента. Сервер может игнорировать повторные запросы с теми же идентификаторами в короткий период времени, чтобы предотвратить неуместные повторения.
3. Ограничение размера сообщений
Установите предел на размер сообщения, которое клиент может отправить. Если сообщение превышает установленные лимиты, сервер может отвергать его. Это поможет избежать перегрузки сервера, когда злоумышленник пытается отправить слишком большие данные.
4. Использование тайм-аутов
Установите тайм-ауты на соединения и запросы. Если соединение не активно в течение установленного времени, оно может быть закрыто. Это поможет предотвратить удержание соединений открытыми без необходимости.
5. Фильтрация IP-адресов
Рассмотрите возможность применения черных и белых списков IP-адресов:
- Блокируйте известные адреса, которые использовались для атак.
- Разрешайте только определенные диапазоны IP-адресов, если это применимо (например, если ваши клиенты приходят только из известной сети).
6. Содержательная проверка сообщений
Проверяйте содержимое сообщений, прежде чем обрабатывать их. Если сообщение не соответствует ожиданиям или не попадает в заданные шаблоны, оно может быть отброшено.
7. Мониторинг и предупреждения
Реализуйте систему мониторинга, чтобы отслеживать активность WebSocket-сервера и получать предупреждения о аномалиях, таких как резкое увеличение трафика. В этом случае можно заблокировать нежелательные соединения.
8. Использование CDN
Если имеет смысл, рассмотрите использование Content Delivery Network (CDN) или специализированных сервисов, которые могут помочь фильтровать трафик и снизить нагрузку на ваш сервер.
Заключение
Защита вашего WebSocket-сервера от атак DoS требует комплексного подхода, включая применение различных методов и технологий. Учитывая, что ваши пользователи анонимны, важно сосредоточиться на механизмах защиты на уровне сети и приложений для обеспечения доступности сервиса. User: Установите предел на размер сообщения, которое клиент может отправить. Если сообщение превышает установленные лимиты, сервер может отвергать его. Это поможет избежать перегрузки сервера, когда злоумышленник пытается отправить слишком большие данные.
У меня это реализовано? Assistant:
-
- Assistant
В вашем коде есть механизм, который обрезает содержимое последнего сообщения до 2 миллиона символов, если оно отправлено клиентом:
// Урезаем последнее сообщение до 2000 символов, если оно от клиента if (messages[messages.length - 1].role === 'user') { messages[messages.length - 1].content = messages[messages.length - 1].content.substring(0, 2000000); }Однако это не совсем соответствует предложению об установлении предела на размер сообщения, поскольку вы на самом деле разрешаете сообщения размером до 2 миллионов символов. Это может быть слишком много и потенциально может привести к перегрузке сервера, если злоумышленник попытается отправить такое большое сообщение.
Рекомендации по улучшению реализации предела размера сообщения:
-
Установите явный предел: Рассмотрите возможность установки более разумного предела для входящих сообщений, например:
const MAX_MESSAGE_SIZE = 10000; // максимальный размер сообщения в символах if (messages[messages.length - 1].role === 'user') { if (messages[messages.length - 1].content.length > MAX_MESSAGE_SIZE) { const response = { code: 2, message: "Сообщение слишком большое. Пожалуйста, уменьшите размер." }; sendMessage(ws, response); return; // Отклоняем дальнейшую обработку } } -
Обрезание: Если все же решите, что стоит обрезать сообщения, сделайте это заранее и отправьте уведомление пользователю о том, что его сообщение было обрезано. Например:
if (messages[messages.length - 1].role === 'user') { if (messages[messages.length - 1].content.length > MAX_MESSAGE_SIZE) { const trimmedContent = messages[messages.length - 1].content.substring(0, MAX_MESSAGE_SIZE); const response = { code: 1, message: "Ваше сообщение было обрезано до допустимого размера.", trimmedMessage: trimmedContent }; sendMessage(ws, response); messages[messages.length - 1].content = trimmedContent; } }
Таким образом, вы сможете улучшить логику проверки размера сообщения и гарантировать, что сервер не будет перегружен из-за слишком больших данных.
-