Skip to content
TheChatArchiveThe Chat Archive
o1-mini-2024-09-12· OpenAIAi2 WildChat-4.8M (AI2)

Вот мой код нейросети: [code] Сделай простой сервер flask, который бы принимал…

  1. User

    Вот мой код нейросети:

    import torch
    
    print(f"USE CUDA: {torch.cuda.is_available()}")
    
    from ultralytics import YOLO
    
    # Load a pretrained model
    model = YOLO("../train/runs/detect/train12/weights/best.pt")  # Самая большая
    
    
    if __name__ == "__main__":
        results = model("image_1079.png")
        # Process results list
        for result in results:
            boxes = result.boxes  # Boxes object for bounding box outputs
            for box in boxes:
                print(f"xywh = {box.xywh}, class = {box.cls}")
    

    Сделай простой сервер flask, который бы принимал изображение, сохранял его, обрабатывал и возвращал предобработанные boxes. Сейчас он выводит это:

    xywh = tensor([[ 30.3062, 237.0367,  22.4872,  56.1470]], device='cuda:0'), class = tensor([1.], device='cuda:0')
    xywh = tensor([[222.6486, 355.5013,  25.4136,  72.7322]], device='cuda:0'), class = tensor([1.], device='cuda:0')
    xywh = tensor([[220.8004, 323.2162,   7.6615,  10.6849]], device='cuda:0'), class = tensor([2.], device='cuda:0')
    

    Нужно преобразовать это в словарь xywh и class.

    Сделайэ то на localhost на порту 3924. Вот мой другой код(из другого проекта), который должен будет использоавть этот простой севрер:

        def run_neural_network(image_path):
            print(f"run_neural_network = {image_path}")
            # Реализуйте вашу модель нейросети здесь
            # Возвращаем пример аннотаций в формате YOLO
            return [
                {
                    "class_id": 0,
                    "x_center": 0.5,
                    "y_center": 0.5,
                    "width": 0.2,
                    "height": 0.3
                },
                {
                    "class_id": 1,
                    "x_center": 0.3,
                    "y_center": 0.7,
                    "width": 0.1,
                    "height": 0.15
                }
            ]
    

    Сейчас это затычка, но нужно сделать так, чтобы он отправлял изображение.

    Сделай так, чтобы они на сервере не скапливались. Также будь готов, что будет отправлено много изображений параллельно на нейросеть. По этому что-то придумай для этого, чтобы небыло коллизий файлов. Не используй какие-то библиотеки сторонние для этого.

  2. Assistant

    Конечно, давайте создадим простой сервер на Flask, который будет принимать изображения, обрабатывать их с помощью вашей нейросети YOLO и возвращать результаты в формате JSON. Также мы модифицируем вашу функцию run_neural_network, чтобы она отправляла изображение на сервер и получала обратно предсказания.

    Часть 1: Сервер на Flask

    Сначала создадим сервер на Flask, который будет выполнять следующие задачи:

    1. Принимать изображения через POST-запрос.
    2. Сохранять изображение с уникальным именем, чтобы избежать коллизий при параллельных запросах.
    3. Обрабатывать изображение с помощью модели YOLO.
    4. Преобразовывать результаты в словарь.
    5. Удалять сохранённое изображение, чтобы предотвратить накопление файлов.
    6. Возвращать результаты в формате JSON.

    Код сервера Flask:

    from flask import Flask, request, jsonify
    from ultralytics import YOLO
    import torch
    import os
    import uuid
    import time
    
    app = Flask(__name__)
    
    # Проверка доступности CUDA
    print(f"USE CUDA: {torch.cuda.is_available()}")
    
    # Загрузка модели YOLO один раз при старте сервера
    model = YOLO("../train/runs/detect/train12/weights/best.pt")  # Укажите правильный путь к модели
    
    @app.route('/detect', methods=['POST'])
    def detect():
        if 'image' not in request.files:
            return jsonify({"error": "No image part in the request"}), 400
    
        file = request.files['image']
    
        if file.filename == '':
            return jsonify({"error": "No selected file"}), 400
    
        # Генерация уникального имени файла
        unique_filename = f"{uuid.uuid4().hex}_{int(time.time())}_{file.filename}"
        file_path = os.path.join("temp_images", unique_filename)
    
        # Создание директории для временных изображений, если она не существует
        os.makedirs("temp_images", exist_ok=True)
    
        try:
            # Сохранение изображения
            file.save(file_path)
    
            # Обработка изображения моделью YOLO
            results = model(file_path)
    
            detections = []
            for result in results:
                boxes = result.boxes  # Boxes object для результатов боксов
                for box in boxes:
                    # Извлечение значений из тензоров и перенос на CPU
                    xywh_tensor = box.xywh.cpu().detach().numpy()[0]
                    class_tensor = box.cls.cpu().detach().numpy()[0]
    
                    detection = {
                        "xywh": {
                            "x_center": float(xywh_tensor[0]),
                            "y_center": float(xywh_tensor[1]),
                            "width": float(xywh_tensor[2]),
                            "height": float(xywh_tensor[3])
                        },
                        "class": int(class_tensor)
                    }
                    detections.append(detection)
    
            return jsonify({"detections": detections}), 200
    
        except Exception as e:
            return jsonify({"error": str(e)}), 500
    
        finally:
            # Удаление изображения после обработки
            if os.path.exists(file_path):
                os.remove(file_path)
    
    if __name__ == "__main__":
        # Запуск сервера на localhost:3924
        app.run(host='0.0.0.0', port=3924)
    

    Объяснение кода:

    1. Уникальное имя файла: Используем uuid.uuid4().hex вместе с текущим временем и оригинальным именем файла для создания уникального имени. Это предотвращает коллизии при одновременных загрузках.

    2. Сохранение изображения: Изображение сохраняется во временную директорию temp_images, которая создаётся при необходимости.

    3. Обработка модели YOLO: Модель загружается один раз при старте сервера. При получении запроса изображение обрабатывается, и результаты извлекаются из тензоров, переводятся в стандартные типы данных (float и int) для сериализации в JSON.

    4. Удаление изображения: После обработки изображение удаляется, чтобы не накапливались файлы на сервере.

    5. Обработка ошибок: Сервер возвращает соответствующие коды ошибок и сообщения, если что-то пошло не так.

    Часть 2: Клиентская функция для отправки изображения на сервер

    Теперь модифицируем вашу функцию run_neural_network, чтобы она отправляла изображение на сервер и получала обратно предсказания.

    Код клиентской функции:

    import requests
    
    def run_neural_network(image_path):
        print(f"run_neural_network = {image_path}")
        
        url = "http://localhost:3924/detect"
        
        # Проверка существования файла
        if not os.path.exists(image_path):
            print(f"Image path does not exist: {image_path}")
            return []
        
        try:
            with open(image_path, 'rb') as img_file:
                files = {'image': img_file}
                response = requests.post(url, files=files)
            
            if response.status_code == 200:
                data = response.json()
                return data.get("detections", [])
            else:
                print(f"Server error: {response.status_code} - {response.text}")
                return []
        
        except Exception as e:
            print(f"An error occurred: {e}")
            return []
    

    Объяснение кода:

    1. Отправка POST-запроса: Используем библиотеку requests для отправки POST-запроса на сервер с изображением.

    2. Обработка ответа: Если запрос успешен (код 200), извлекаем предсказания из JSON-ответа. В противном случае выводим сообщение об ошибке.

    3. Обработка исключений: Любые возникающие ошибки обрабатываются, и функция возвращает пустой список.

    Пример использования:

    if __name__ == "__main__":
        image_path = "path_to_your_image/image_1079.png"
        detections = run_neural_network(image_path)
        for detection in detections:
            print(detection)
    

    Дополнительные рекомендации

    1. Скорость и производительность: Если ожидается большое количество параллельных запросов, рекомендуется использовать более производительный сервер, например, Gunicorn с несколькими воркерами.

    2. Безопасность: Для продакшн-сервера важно добавить аутентификацию и ограничение размеров загружаемых файлов, чтобы предотвратить злоупотребления.

    3. Асинхронная обработка: Для улучшения масштабируемости можно реализовать асинхронную обработку запросов, используя asyncio и aioflask или другой асинхронный фреймворк.

    4. Логи и мониторинг: Добавьте логирование для отслеживания запросов и возможных ошибок, что поможет в отладке и мониторинге работы сервера.

    Надеюсь, это поможет вам настроить сервер и интегрировать его с вашим проектом!