Skip to content
The Chat Archive
gpt-4o-2024-08-06· OpenAI WildChat-4.8M (AI2)

Мне нужно написать программу обучения одного искусственного нейрона распознаванию двух…

  1. User

    Мне нужно написать программу обучения одного искусственного нейрона распознаванию двух видов простых изображений, не используя готовые методы обучения НС. У меня есть датасет картинок 30 на 30 пикселей букв B и C, пронумерованный 1, 2 ... 50, где каждая нечетная картинка - это B, а четная - C. Он лежит в папке TRAIN. На его основе мне нужно обучить один нейрон по следующему алгоритму

    Шаг 0. Проинициализировать элементы весовой матрицы W небольшими случайными значениями [-0.3;0.3]. Шаг 1. Подать на входы один из входных векторов Х^k и вычислить ее выход Y. Шаг 2. Если выход правильный (У = У^k), перейти на шаг 4. Иначе вычислить вектор ошибки - разницу между идеальным и полученным значениями выхода: delta=Y^k - Y. Шаг 3. Матрица весов модифицируется по следующей формуле: w_ij^(t+1) = w_ij^t +vdeltax_i. Здесь t и t+1 - номера соответственно текущей и следующей итераций; v - коэффициент скорости обучения, (v=0.7); x_і - i-тая компонента входного вектора Х^k; j - номер нейрона в слое. Шаг 4. Шаги 1-3 повторяются для всех обучающих векторов. Обучение завершается, когда сеть перестанет ошибаться.

    Сделай четко по алгоритму, без выдумок.

  2. Assistant

    Для реализации обучения искусственного нейрона по вашему алгоритму, предположим, что у вас есть доступ к изображениям в формате, который может быть конвертирован в векторы, и что изображения B и C помечены соответственно как 1 и 0. Напишем простой код на Python, который реализует описанный вами алгоритм.

    import os
    import numpy as np
    from PIL import Image
    
    # Параметры
    learning_rate = 0.7
    image_size = 30  # Размер одной стороны изображения (30x30 пикселей)
    num_pixels = image_size * image_size  # Количество пикселей в изображении
    
    # Инициализация весов небольшими случайными значениями в диапазоне [-0.3, 0.3]
    np.random.seed(0)
    W = np.random.uniform(-0.3, 0.3, num_pixels)
    
    def load_images_from_folder(folder):
        images = []
        labels = []
        for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])):
            img = Image.open(os.path.join(folder, filename)).convert('L')  # Черно-белое изображение
            img_array = np.array(img).flatten() / 255.0  # Нормализация
            images.append(img_array)
            label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0  # 1 для B, 0 для C
            labels.append(label)
        return images, labels
    
    def train_single_neuron(images, labels):
        global W
        num_samples = len(images)
        while True:
            global_error = False
            for X, Y_true in zip(images, labels):
                # Шаг 1: Вычислить выход Y
                Y = np.dot(X, W) >= 0.5  # Простой порог для бинарного классификатора
    
                # Шаг 2: Проверить ошибку
                if Y != Y_true:
                    # Вычислить ошибку
                    delta = Y_true - Y
                    # Шаг 3: Обновить веса
                    W += learning_rate * delta * X
                    global_error = True
    
            if not global_error:
                break
    
    # Загрузка изображений и меток
    images, labels = load_images_from_folder('TRAIN')
    
    # Обучение нейрона
    train_single_neuron(images, labels)
    
    print("Обучение завершено. Веса нейрона:")
    print(W)
    

    Этот код обучает один искусственный нейрон для распознавания изображений букв B и C, следуя вашему алгоритму. Каждый пиксель изображения рассматривается как отдельный входной сигнал, и веса обновляются до тех пор, пока сеть не перестанет ошибаться на обучающей выборке.

    Обратите внимание, что код предполагает, что изображения в формате png или jpg. Если у вас они в другом формате, возможно, потребуется обновить код загрузки изображений.

  3. User

    Нужно сохранить веса нейрона в файл

  4. Assistant

    Конечно! Мы можем сохранить веса нейрона в файл, используя стандартные средства Python. Предлагаю сохранять веса в формате CSV для простоты, но можно использовать и другие форматы, такие как JSON или бинарные файлы, если нужно.

    Ниже приведена модифицированная версия кода, которая сохраняет веса в CSV файл:

    import os
    import numpy as np
    from PIL import Image
    import csv
    
    # Параметры
    learning_rate = 0.7
    image_size = 30  # Размер одной стороны изображения (30x30 пикселей)
    num_pixels = image_size * image_size  # Количество пикселей в изображении
    
    # Инициализация весов небольшими случайными значениями в диапазоне [-0.3, 0.3]
    np.random.seed(0)
    W = np.random.uniform(-0.3, 0.3, num_pixels)
    
    def load_images_from_folder(folder):
        images = []
        labels = []
        for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])):
            img = Image.open(os.path.join(folder, filename)).convert('L')  # Черно-белое изображение
            img_array = np.array(img).flatten() / 255.0  # Нормализация
            images.append(img_array)
            label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0  # 1 для B, 0 для C
            labels.append(label)
        return images, labels
    
    def train_single_neuron(images, labels):
        global W
        num_samples = len(images)
        while True:
            global_error = False
            for X, Y_true in zip(images, labels):
                # Шаг 1: Вычислить выход Y
                Y = np.dot(X, W) >= 0.5  # Простой порог для бинарного классификатора
    
                # Шаг 2: Проверить ошибку
                if Y != Y_true:
                    # Вычислить ошибку
                    delta = Y_true - Y
                    # Шаг 3: Обновить веса
                    W += learning_rate * delta * X
                    global_error = True
    
            if not global_error:
                break
    
    def save_weights_to_file(weights, filename):
        with open(filename, 'w', newline='') as csvfile:
            writer = csv.writer(csvfile)
            writer.writerow(weights)
    
    # Загрузка изображений и меток
    images, labels = load_images_from_folder('TRAIN')
    
    # Обучение нейрона
    train_single_neuron(images, labels)
    
    # Сохранение весов в файл
    save_weights_to_file(W, 'weights.csv')
    
    print("Обучение завершено. Веса нейрона сохранены в файл weights.csv")
    

    Этот код сохраняет вектор весов W в файл weights.csv. CSV-файл — это простой текстовый файл, в котором данные хранятся в виде строк, разделённых запятыми. Вы можете легко его просматривать, редактировать и использовать для дальнейшего анализа или применения модели.

  5. User

    Теперь мне нужно считать эти веса и сделать предсказание на папке TEST и посчитать точность. Картинке в тесте лежат по тому же принципу что и в трейне

  6. Assistant

    Для того чтобы считать веса из файла и выполнить предсказание на тестовом наборе данных, потребуется немного изменить код, чтобы загрузить веса и провести классификацию изображений из тестовой папки. В дополнение к этому, мы рассчитаем точность предсказаний.

    Вот как это можно сделать:

    import os
    import numpy as np
    from PIL import Image
    import csv
    
    # Параметры
    image_size = 30  # Размер одной стороны изображения (30x30 пикселей)
    num_pixels = image_size * image_size  # Количество пикселей в изображении
    
    def load_images_from_folder(folder):
        images = []
        labels = []
        for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])):
            img = Image.open(os.path.join(folder, filename)).convert('L')  # Черно-белое изображение
            img_array = np.array(img).flatten() / 255.0  # Нормализация
            images.append(img_array)
            label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0  # 1 для B, 0 для C
            labels.append(label)
        return images, labels
    
    def load_weights_from_file(filename):
        with open(filename, 'r') as csvfile:
            reader = csv.reader(csvfile)
            weights = next(reader)
            return np.array(weights, dtype=float)
    
    def predict(images, weights):
        predictions = []
        for X in images:
            Y = np.dot(X, weights) >= 0.5  # Простой порог для бинарного классификатора
            predictions.append(int(Y))
        return predictions
    
    def calculate_accuracy(predictions, labels):
        correct = sum(p == l for p, l in zip(predictions, labels))
        return correct / len(labels)
    
    # Загрузка изображений и меток из тестовой папки
    test_images, test_labels = load_images_from_folder('TEST')
    
    # Чтение весов из файла
    weights = load_weights_from_file('weights.csv')
    
    # Выполнение предсказаний
    test_predictions = predict(test_images, weights)
    
    # Расчёт точности
    accuracy = calculate_accuracy(test_predictions, test_labels)
    
    print(f"Точность на тестовых данных: {accuracy:.2f}")
    

    Эти изменения включают:

    1. Функция load_weights_from_file загружает веса из CSV файла.
    2. Функция predict использует загруженные веса для вычисления предсказаний по каждому изображению в тестовом наборе.
    3. Мы рассчитываем точность модели, сравнивая предсказанные метки test_predictions с истинными метками test_labels.

    Запустив этот код, вы узнаете, насколько хорошо натренированный нейрон классифицирует изображения букв B и C в тестовой выборке.

  7. User

    А что такое np.dot(X, weights) >= 0.5

  8. Assistant

    Фрагмент кода np.dot(X, weights) >= 0.5 выполняет два основных действия:

    1. Скалярное произведение (np.dot):

      • np.dot(X, weights) вычисляет скалярное произведение между вектором входных данных X и вектором весов weights. Это стандартная операция в нейронных сетях, используемая для вычисления линейной комбинации входных данных на основе текущих весов.
      • В данном контексте X — это вектор признаков одного изображения (нормализованные пиксельные значения после преобразования из 2D в 1D массив), а weights — это вектор весов, соответствующий этим признакам.
      • Результатом этой операции является одно число, которое представляет собой взвешенную сумму входных значений для данного образца.
    2. Пороговая функция (>= 0.5):

      • >= 0.5 — это простейшая пороговая функция активации, которая преобразует взвешенную сумму в бинарное значение (0 или 1).
      • Если взвешенная сумма np.dot(X, weights) больше или равна 0.5, то выражение принимает значение True (что интерпретируется как 1).
      • Если сумма меньше 0.5, то выражение принимает значение False (что интерпретируется как 0).

    Таким образом, np.dot(X, weights) >= 0.5 решает задачу бинарной классификации, проверяя, превышает ли активация заданный порог. В контексте вашего примера, операция определяет, будет ли классифицированное изображение отнесено к классу "B" (1) или "C" (0). Порог 0.5 является типичным для случая, когда нужно разделить значения на две равные части. Однако, в задачах классификации на практике могут использоваться более сложные функции активации, такие как сигмоида или ReLU, когда требуется учитывать более сложные связи между входами и выходами.