Вот мой код нейросети: [code] Сделай простой сервер flask, который бы принимал…
- User
Вот мой код нейросети:
import torch print(f"USE CUDA: {torch.cuda.is_available()}") from ultralytics import YOLO # Load a pretrained model model = YOLO("../train/runs/detect/train12/weights/best.pt") # Самая большая if __name__ == "__main__": results = model("image_1079.png") # Process results list for result in results: boxes = result.boxes # Boxes object for bounding box outputs for box in boxes: print(f"xywh = {box.xywh}, class = {box.cls}")Сделай простой сервер flask, который бы принимал изображение, сохранял его, обрабатывал и возвращал предобработанные boxes. Сейчас он выводит это:
xywh = tensor([[ 30.3062, 237.0367, 22.4872, 56.1470]], device='cuda:0'), class = tensor([1.], device='cuda:0') xywh = tensor([[222.6486, 355.5013, 25.4136, 72.7322]], device='cuda:0'), class = tensor([1.], device='cuda:0') xywh = tensor([[220.8004, 323.2162, 7.6615, 10.6849]], device='cuda:0'), class = tensor([2.], device='cuda:0')Нужно преобразовать это в словарь xywh и class.
Сделайэ то на localhost на порту 3924. Вот мой другой код(из другого проекта), который должен будет использоавть этот простой севрер:
def run_neural_network(image_path): print(f"run_neural_network = {image_path}") # Реализуйте вашу модель нейросети здесь # Возвращаем пример аннотаций в формате YOLO return [ { "class_id": 0, "x_center": 0.5, "y_center": 0.5, "width": 0.2, "height": 0.3 }, { "class_id": 1, "x_center": 0.3, "y_center": 0.7, "width": 0.1, "height": 0.15 } ]Сейчас это затычка, но нужно сделать так, чтобы он отправлял изображение.
Сделай так, чтобы они на сервере не скапливались. Также будь готов, что будет отправлено много изображений параллельно на нейросеть. По этому что-то придумай для этого, чтобы небыло коллизий файлов. Не используй какие-то библиотеки сторонние для этого.
- Assistant
Конечно, давайте создадим простой сервер на Flask, который будет принимать изображения, обрабатывать их с помощью вашей нейросети YOLO и возвращать результаты в формате JSON. Также мы модифицируем вашу функцию
run_neural_network, чтобы она отправляла изображение на сервер и получала обратно предсказания.Часть 1: Сервер на Flask
Сначала создадим сервер на Flask, который будет выполнять следующие задачи:
- Принимать изображения через POST-запрос.
- Сохранять изображение с уникальным именем, чтобы избежать коллизий при параллельных запросах.
- Обрабатывать изображение с помощью модели YOLO.
- Преобразовывать результаты в словарь.
- Удалять сохранённое изображение, чтобы предотвратить накопление файлов.
- Возвращать результаты в формате JSON.
Код сервера Flask:
from flask import Flask, request, jsonify from ultralytics import YOLO import torch import os import uuid import time app = Flask(__name__) # Проверка доступности CUDA print(f"USE CUDA: {torch.cuda.is_available()}") # Загрузка модели YOLO один раз при старте сервера model = YOLO("../train/runs/detect/train12/weights/best.pt") # Укажите правильный путь к модели @app.route('/detect', methods=['POST']) def detect(): if 'image' not in request.files: return jsonify({"error": "No image part in the request"}), 400 file = request.files['image'] if file.filename == '': return jsonify({"error": "No selected file"}), 400 # Генерация уникального имени файла unique_filename = f"{uuid.uuid4().hex}_{int(time.time())}_{file.filename}" file_path = os.path.join("temp_images", unique_filename) # Создание директории для временных изображений, если она не существует os.makedirs("temp_images", exist_ok=True) try: # Сохранение изображения file.save(file_path) # Обработка изображения моделью YOLO results = model(file_path) detections = [] for result in results: boxes = result.boxes # Boxes object для результатов боксов for box in boxes: # Извлечение значений из тензоров и перенос на CPU xywh_tensor = box.xywh.cpu().detach().numpy()[0] class_tensor = box.cls.cpu().detach().numpy()[0] detection = { "xywh": { "x_center": float(xywh_tensor[0]), "y_center": float(xywh_tensor[1]), "width": float(xywh_tensor[2]), "height": float(xywh_tensor[3]) }, "class": int(class_tensor) } detections.append(detection) return jsonify({"detections": detections}), 200 except Exception as e: return jsonify({"error": str(e)}), 500 finally: # Удаление изображения после обработки if os.path.exists(file_path): os.remove(file_path) if __name__ == "__main__": # Запуск сервера на localhost:3924 app.run(host='0.0.0.0', port=3924)Объяснение кода:
-
Уникальное имя файла: Используем
uuid.uuid4().hexвместе с текущим временем и оригинальным именем файла для создания уникального имени. Это предотвращает коллизии при одновременных загрузках. -
Сохранение изображения: Изображение сохраняется во временную директорию
temp_images, которая создаётся при необходимости. -
Обработка модели YOLO: Модель загружается один раз при старте сервера. При получении запроса изображение обрабатывается, и результаты извлекаются из тензоров, переводятся в стандартные типы данных (float и int) для сериализации в JSON.
-
Удаление изображения: После обработки изображение удаляется, чтобы не накапливались файлы на сервере.
-
Обработка ошибок: Сервер возвращает соответствующие коды ошибок и сообщения, если что-то пошло не так.
Часть 2: Клиентская функция для отправки изображения на сервер
Теперь модифицируем вашу функцию
run_neural_network, чтобы она отправляла изображение на сервер и получала обратно предсказания.Код клиентской функции:
import requests def run_neural_network(image_path): print(f"run_neural_network = {image_path}") url = "http://localhost:3924/detect" # Проверка существования файла if not os.path.exists(image_path): print(f"Image path does not exist: {image_path}") return [] try: with open(image_path, 'rb') as img_file: files = {'image': img_file} response = requests.post(url, files=files) if response.status_code == 200: data = response.json() return data.get("detections", []) else: print(f"Server error: {response.status_code} - {response.text}") return [] except Exception as e: print(f"An error occurred: {e}") return []Объяснение кода:
-
Отправка POST-запроса: Используем библиотеку
requestsдля отправки POST-запроса на сервер с изображением. -
Обработка ответа: Если запрос успешен (код 200), извлекаем предсказания из JSON-ответа. В противном случае выводим сообщение об ошибке.
-
Обработка исключений: Любые возникающие ошибки обрабатываются, и функция возвращает пустой список.
Пример использования:
if __name__ == "__main__": image_path = "path_to_your_image/image_1079.png" detections = run_neural_network(image_path) for detection in detections: print(detection)Дополнительные рекомендации
-
Скорость и производительность: Если ожидается большое количество параллельных запросов, рекомендуется использовать более производительный сервер, например, Gunicorn с несколькими воркерами.
-
Безопасность: Для продакшн-сервера важно добавить аутентификацию и ограничение размеров загружаемых файлов, чтобы предотвратить злоупотребления.
-
Асинхронная обработка: Для улучшения масштабируемости можно реализовать асинхронную обработку запросов, используя
asyncioиaioflaskили другой асинхронный фреймворк. -
Логи и мониторинг: Добавьте логирование для отслеживания запросов и возможных ошибок, что поможет в отладке и мониторинге работы сервера.
Надеюсь, это поможет вам настроить сервер и интегрировать его с вашим проектом!