Skip to content
TheChatArchiveThe Chat Archive
gpt-4o-mini-2024-07-18· OpenAIAi2 WildChat-4.8M (AI2)

const { gpt, gptweb } = require("./API/gpt"); const { dalle } =…

  1. User

    User: const { gpt, gptweb } = require("./API/gpt"); const { dalle } = require("./API/dalle"); const { gpt4o } = require("./API/gpt4o"); const { gpt3 } = require("./API/gpt3.5"); const { prompts } = require("./API/gpt-prompts"); const { blackbox } = require("./API/blackbox"); const { qwen } = require("./API/qwen"); const { gemini } = require("./API/gemini"); const WebSocket = require('ws'); const Bottleneck = require('bottleneck'); const { RateLimiterMemory } = require('rate-limiter-flexible'); const { stats, scheduleDailyReset, resetStatistics } = require('./stats'); // Импортируем модуль статистики const fs = require('fs'); const path = require('path');

    // Объект для хранения действий и состояния каждого клиента const clientActions = {}; // Объект для хранения ограничителей по каждому клиенту const limiters = {}; // Замените на ваш домен const allowedOrigin = 'http://gpt.loc';

    // Настройки для ограничений по IP const rateLimiter = new RateLimiterMemory({ points: 20, // разрешается 10 запросов duration: 1, // за 1 секунду blockDuration: 60 // время блокировки в секундах });

    // Создайте WebSocket-сервер const wss = new WebSocket.Server({ port: 3000 });

    wss.on('connection', (ws, req) => {

    const urlParams = new URLSearchParams(req.url.split('?')[1]);
    const userId = urlParams.get('token'); // Получаем UUID из URL
    const userIP = req.socket.remoteAddress;
    const userHeaders = req.headers;
    
    // Проверяем Origin
    if (!checkOrigin(userHeaders.origin, ws)) {
        return; // Если отклонено, выходим из обработчика
    }
    
    // Увеличиваем общий счетчик подключений
    stats.totalConnections++;
    
    console.log('Client connected with user ID:', userId, 'Домен - ', userHeaders.origin);
    console.log('Общее количество подключений:', stats.totalConnections);
    
    // Инициализируем состояние клиента, если его еще нет
    if (!clientActions[userId]) {
      clientActions[userId] = {
          actions: [], // Массив для хранения действий
          connected: true, // Статус подключения
      };
      
      // Создаем экземпляр Bottleneck для каждого клиента (ограничение на количество запросов по Id)
      limiters[userId] = new Bottleneck({
          maxConcurrent: 1, // Максимальное количество одновременных задач
          minTime: 1000, // Минимальное время между запросами в миллисекундах
    	  highWater: 0 // Не разрешать в очереди больше 0 запросов (игнорировать)
      });
    }
    
    ws.on('message', (message) => {
    	// Проверяем, является ли сообщение экземпляром Buffer
    	if (Buffer.isBuffer(message))
    		message = message.toString(); 
    	try {
    		// Преобразуем строку JSON обратно в объект
    		message = JSON.parse(message); 
    		//Получаем историю чата из запроса
    		messages = message.messages;
    		
    		// Увеличиваем общий счетчик запросов
            stats.totalRequests++;
    		
    		rateLimiter.consume(userIP)
                .then(() => {
    				// Используем Bottleneck для управления количеством запросов
    				limiters[userId].schedule(() => {
    					// Отправка запроса на сервер чата
    					return call(messages, ws);
    				}).catch(error => {
    					//console.error('Rate limit exceeded, message ignored:', error);
    					const response = { code: 2, message: "Превышен лимит запросов. Пожалуйста, попробуйте позже." };
    					// Отправка ответа клиенту
    					sendMessage(ws, response);
    				});
    			})
                .catch(() => {
    				// Увеличиваем счетчик блокировок по IP
                    stats.totalIPBlocks++;
                    const response = { code: 2, message: "Вы временно заблокированы за превышение лимита запросов." };
                    // Отправка ответа клиенту
    				sendMessage(ws, response);
                });
    		
    	} catch (error) {
    			console.error('Error parsing JSON:', error);
    			const response = { code: 2, message: "Произошла ошибка. Попробуйте еще раз."};
    			console.log(response);
    			// Отправка ответа клиенту
    			sendMessage(ws, response);
    	}
    	
    });
    
    ws.on('close', () => {
    	clientActions[userId].connected = false; // Обновление статуса подключения
    	delete clientActions[userId]; // Удаление состояния клиента
    	delete limiters[userId]; // Удаление ограничителя для данного клиента
        console.log('Client ',userId, ' disconnected');
    });
    

    });

    async function call(messages, ws) { try { let fullResponse = ""; // Переменная для результата

    	console.log('Запрос клиента:', messages); 
    	//throw new Error("Намеренная ошибка для тестирования catch");
        gpt4o({
            messages: messages,
            markdown: false
        }, (result) => {
    		try {
    			if (!result.finish) {
    				// Запоминаем только последний ответ чата (он будет полный, промежуточные ответы - это накопления)
    				fullResponse = result.message || "";
    				//console.log(result);
    			} else {
    				// Если завершено, выводим полный ответ
    				let response = { code: 1, message: fullResponse};
    				console.log('Ответ чата: ', response);
    				// Отправка ответа клиенту
    				sendMessage(ws, response);
    			}
    		}
    		catch (callbackError) {
                console.error('Error processing callback result:', callbackError);
                let response = { code: 2, message: "Произогла ошибка. Попробуйте еще раз." };
                // Отправка ответа клиенту
    			sendMessage(ws, response);
            }
        });
    } catch (error) {
        console.error('Error:', error);
    	let response = { code: 2, message: "Произогла ошибка. Попробуйте еще раз."};
    	// Отправка ответа клиенту
    	sendMessage(ws, response);
    }
    

    }

    // Запускаем планировщик для статистики scheduleDailyReset();

    // Очистка старых соединений раз в минуту (по желанию) setInterval(() => { Object.keys(clientActions).forEach(userId => { if (!clientActions[userId].connected) { delete clientActions[userId]; // Удаляем пользователя из памяти, если он отключен } }); }, 60 * 1000); // Очистка каждые 60 секунд

    function checkOrigin(origin, socket) { if (origin !== allowedOrigin) { console.log('Недопустимый домен. Соединение разорвано: ', origin); socket.close(); // Закрываем соединение, если домен не разрешен return false; // Возвращаем false для индикатора отклонения } return true; // Возвращаем true, если домен разрешен }

    // Отправляет ответ клиенту function sendMessage(ws, message) { if (ws.readyState === WebSocket.OPEN) { ws.send(JSON.stringify(message)); } else { console.warn(Trying to send message to a closed WebSocket connection.); } }

    console.log('WebSocket сервер запущен через порт 3000');

    Нужно добавить проверку входящее сообщение на соответствие схеме после этих строк

    // Преобразуем строку JSON обратно в объект message = JSON.parse(message); //Получаем историю чата из запроса messages = message.messages;

    Проверку выполнить с помощью ajax примерно так

    //Удаление из массива соообщений не соответствующих схеме function validateMessages(messages) { const ajv = new Ajv();

    // Определяем схему для сообщений
    const schema = {
        type: 'object',
        properties: {
            role: { type: 'string' },
            content: { type: 'string' }
        },
        required: ['role', 'content'],
        additionalProperties: false
    };
    
    // Фильтруем массив, оставляя только корректные сообщения
    return messages.filter(message => ajv.validate(schema, message));
    

    } Assistant: добавления проверки входящих сообщений на соответствие схеме с использованием AJV (Another JSON Schema Validator), вы можете выполнить следующие шаги:

    1. Установите библиотеку AJV, если она еще не установлена:

      npm install ajv
      
    2. Импортируйте AJV в вашем коде и добавьте функцию для валидации сообщений перед их обработкой.

    3. Измените вашу логику обработки сообщений, чтобы использовать функцию validateMessages.

    Вот как это можно сделать на основе предоставленного кода:

    const Ajv = require('ajv');
    const ajv = new Ajv(); // Создаем экземпляр Ajv
    
    // Удаление из массива сообщений не соответствующих схеме
    function validateMessages(messages) {
        // Определяем схему для сообщений
        const schema = {
            type: 'object',
            properties: {
                role: { type: 'string' },
                content: { type: 'string' }
            },
            required: ['role', 'content'],
            additionalProperties: false
        };
    
        // Фильтруем массив, оставляя только корректные сообщения
        return messages.filter(message => ajv.validate(schema, message));
    }
    
    ws.on('message', (message) => {
        // Проверяем, является ли сообщение экземпляром Buffer
        if (Buffer.isBuffer(message))
            message = message.toString(); 
        try {
            // Преобразуем строку JSON обратно в объект
            message = JSON.parse(message); 
            // Получаем историю чата из запроса
            let messages = message.messages;
    
            // Выполняем валидацию сообщений
            messages = validateMessages(messages);
            
            // Проверяем, остались ли сообщения после валидации
            if (messages.length === 0) {
                const response = { code: 2, message: "Нет валидных сообщений для обработки." };
                sendMessage(ws, response);
                return;
            }
    
            // Увеличиваем общий счетчик запросов
            stats.totalRequests++;
    
            rateLimiter.consume(userIP)
                .then(() => {
                    // Используем Bottleneck для управления количеством запросов
                    limiters[userId].schedule(() => {
                        // Отправка запроса на сервер чата
                        return call(messages, ws);
                    }).catch(error => {
                        const response = { code: 2, message: "Превышен лимит запросов. Пожалуйста, попробуйте позже." };
                        // Отправка ответа клиенту
                        sendMessage(ws, response);
                    });
                })
                .catch(() => {
                    // Увеличиваем счетчик блокировок по IP
                    stats.totalIPBlocks++;
                    const response = { code: 2, message: "Вы временно заблокированы за превышение лимита запросов." };
                    // Отправка ответа клиенту
                    sendMessage(ws, response);
                });
        } catch (error) {
            console.error('Error parsing JSON:', error);
            const response = { code: 2, message: "Произошла ошибка. Попробуйте еще раз."};
            // Отправка ответа клиенту
            sendMessage(ws, response);
        }
    });
    

    Изменения в коде:

    1. Импорт AJV: Добавлен импорт библиотеки AJV.
    2. Функция validateMessages: Создана функция для проверки сообщений на соответствие заданной схеме.
    3. Проверка перед обработкой: После получения сообщений добавлена валидация, а затем проверка на наличие валидных сообщений. Если валидных сообщений нет, отправляется сообщение об ошибке клиенту.

    Теперь при получении сообщения от клиента будет проверяться соответствие сообщений определенной схеме, и неверные сообщения будут отсеиваться, что улучшит качество получаемых данных. User: После валидации нужно урезать последнее сообщение (content) в переписке до 2000 символов, если оно от клиента (role: "user"). Нужно урезать сообщение в самом массиве, а не создавать отдельную переменную Assistant:

  2. Assistant

    Чтобы обрезать последнее сообщение в переписке до 2000 символов, если оно от клиента (с role: "user"), вы можете внести изменения непосредственно в функцию validateMessages. В этой функции после фильтрации сообщений вам нужно будет проверить, является ли последнее сообщение от пользователя, и если да, то обрезать его.

    Вот как можно изменить ваш код:

    // Удаление из массива сообщений не соответствующих схеме
    function validateMessages(messages) {
        // Определяем схему для сообщений
        const schema = {
            type: 'object',
            properties: {
                role: { type: 'string' },
                content: { type: 'string' }
            },
            required: ['role', 'content'],
            additionalProperties: false
        };
    
        // Фильтруем массив, оставляя только корректные сообщения
        const validMessages = messages.filter(message => ajv.validate(schema, message));
        
        // Проверяем, есть ли сообщения и является ли последнее сообщение от пользователя
        if (validMessages.length > 0 && validMessages[validMessages.length - 1].role === "user") {
            // Урезаем последнее сообщение до 2000 символов
            validMessages[validMessages.length - 1].content = validMessages[validMessages.length - 1].content.slice(0, 2000);
        }
    
        return validMessages;
    }
    

    Изменения в функции validateMessages:

    1. Фильтрация: Сначала мы фильтруем сообщения на соответствие схеме, как и раньше.
    2. Проверка последнего сообщения: После фильтрации мы проверяем, есть ли валидные сообщения и является ли последнее из них сообщением от пользователя.
    3. Обрезка content: Если последнее сообщение от пользователя, мы обрезаем его поле content до 2000 символов.

    Полный ответ на обработку сообщения:

    Теперь ваш код обработки сообщения должен выглядеть так:

    ws.on('message', (message) => {
        // Проверяем, является ли сообщение экземпляром Buffer
        if (Buffer.isBuffer(message))
            message = message.toString(); 
        try {
            // Преобразуем строку JSON обратно в объект
            message = JSON.parse(message); 
            // Получаем историю чата из запроса
            let messages = message.messages;
    
            // Выполняем валидацию сообщений
            messages = validateMessages(messages);
            
            // Проверяем, остались ли сообщения после валидации
            if (messages.length === 0) {
                const response = { code: 2, message: "Нет валидных сообщений для обработки." };
                sendMessage(ws, response);
                return;
            }
    
            // Увеличиваем общий счетчик запросов
            stats.totalRequests++;
    
            rateLimiter.consume(userIP)
                .then(() => {
                    // Используем Bottleneck для управления количеством запросов
                    limiters[userId].schedule(() => {
                        // Отправка запроса на сервер чата
                        return call(messages, ws);
                    }).catch(error => {
                        const response = { code: 2, message: "Превышен лимит запросов. Пожалуйста, попробуйте позже." };
                        // Отправка ответа клиенту
                        sendMessage(ws, response);
                    });
                })
                .catch(() => {
                    // Увеличиваем счетчик блокировок по IP
                    stats.totalIPBlocks++;
                    const response = { code: 2, message: "Вы временно заблокированы за превышение лимита запросов." };
                    // Отправка ответа клиенту
                    sendMessage(ws, response);
                });
        } catch (error) {
            console.error('Error parsing JSON:', error);
            const response = { code: 2, message: "Произошла ошибка. Попробуйте еще раз."};
            // Отправка ответа клиенту
            sendMessage(ws, response);
        }
    });
    

    С этими изменениями ваше приложение теперь будет проверять и обрезать последнее сообщение пользователя при обработке запросов, оставаясь при этом в соответствии с заданной схемой.