Мне нужно написать программу обучения одного искусственного нейрона распознаванию двух…
- User
Мне нужно написать программу обучения одного искусственного нейрона распознаванию двух видов простых изображений, не используя готовые методы обучения НС. У меня есть датасет картинок 30 на 30 пикселей букв B и C, пронумерованный 1, 2 ... 50, где каждая нечетная картинка - это B, а четная - C. Он лежит в папке TRAIN. На его основе мне нужно обучить один нейрон по следующему алгоритму
Шаг 0. Проинициализировать элементы весовой матрицы W небольшими случайными значениями [-0.3;0.3]. Шаг 1. Подать на входы один из входных векторов Х^k и вычислить ее выход Y. Шаг 2. Если выход правильный (У = У^k), перейти на шаг 4. Иначе вычислить вектор ошибки - разницу между идеальным и полученным значениями выхода: delta=Y^k - Y. Шаг 3. Матрица весов модифицируется по следующей формуле: w_ij^(t+1) = w_ij^t +vdeltax_i. Здесь t и t+1 - номера соответственно текущей и следующей итераций; v - коэффициент скорости обучения, (v=0.7); x_і - i-тая компонента входного вектора Х^k; j - номер нейрона в слое. Шаг 4. Шаги 1-3 повторяются для всех обучающих векторов. Обучение завершается, когда сеть перестанет ошибаться.
Сделай четко по алгоритму, без выдумок.
- Assistant
Для реализации обучения искусственного нейрона по вашему алгоритму, предположим, что у вас есть доступ к изображениям в формате, который может быть конвертирован в векторы, и что изображения B и C помечены соответственно как 1 и 0. Напишем простой код на Python, который реализует описанный вами алгоритм.
import os import numpy as np from PIL import Image # Параметры learning_rate = 0.7 image_size = 30 # Размер одной стороны изображения (30x30 пикселей) num_pixels = image_size * image_size # Количество пикселей в изображении # Инициализация весов небольшими случайными значениями в диапазоне [-0.3, 0.3] np.random.seed(0) W = np.random.uniform(-0.3, 0.3, num_pixels) def load_images_from_folder(folder): images = [] labels = [] for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])): img = Image.open(os.path.join(folder, filename)).convert('L') # Черно-белое изображение img_array = np.array(img).flatten() / 255.0 # Нормализация images.append(img_array) label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0 # 1 для B, 0 для C labels.append(label) return images, labels def train_single_neuron(images, labels): global W num_samples = len(images) while True: global_error = False for X, Y_true in zip(images, labels): # Шаг 1: Вычислить выход Y Y = np.dot(X, W) >= 0.5 # Простой порог для бинарного классификатора # Шаг 2: Проверить ошибку if Y != Y_true: # Вычислить ошибку delta = Y_true - Y # Шаг 3: Обновить веса W += learning_rate * delta * X global_error = True if not global_error: break # Загрузка изображений и меток images, labels = load_images_from_folder('TRAIN') # Обучение нейрона train_single_neuron(images, labels) print("Обучение завершено. Веса нейрона:") print(W)Этот код обучает один искусственный нейрон для распознавания изображений букв B и C, следуя вашему алгоритму. Каждый пиксель изображения рассматривается как отдельный входной сигнал, и веса обновляются до тех пор, пока сеть не перестанет ошибаться на обучающей выборке.
Обратите внимание, что код предполагает, что изображения в формате
pngилиjpg. Если у вас они в другом формате, возможно, потребуется обновить код загрузки изображений. - User
Нужно сохранить веса нейрона в файл
- Assistant
Конечно! Мы можем сохранить веса нейрона в файл, используя стандартные средства Python. Предлагаю сохранять веса в формате CSV для простоты, но можно использовать и другие форматы, такие как JSON или бинарные файлы, если нужно.
Ниже приведена модифицированная версия кода, которая сохраняет веса в CSV файл:
import os import numpy as np from PIL import Image import csv # Параметры learning_rate = 0.7 image_size = 30 # Размер одной стороны изображения (30x30 пикселей) num_pixels = image_size * image_size # Количество пикселей в изображении # Инициализация весов небольшими случайными значениями в диапазоне [-0.3, 0.3] np.random.seed(0) W = np.random.uniform(-0.3, 0.3, num_pixels) def load_images_from_folder(folder): images = [] labels = [] for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])): img = Image.open(os.path.join(folder, filename)).convert('L') # Черно-белое изображение img_array = np.array(img).flatten() / 255.0 # Нормализация images.append(img_array) label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0 # 1 для B, 0 для C labels.append(label) return images, labels def train_single_neuron(images, labels): global W num_samples = len(images) while True: global_error = False for X, Y_true in zip(images, labels): # Шаг 1: Вычислить выход Y Y = np.dot(X, W) >= 0.5 # Простой порог для бинарного классификатора # Шаг 2: Проверить ошибку if Y != Y_true: # Вычислить ошибку delta = Y_true - Y # Шаг 3: Обновить веса W += learning_rate * delta * X global_error = True if not global_error: break def save_weights_to_file(weights, filename): with open(filename, 'w', newline='') as csvfile: writer = csv.writer(csvfile) writer.writerow(weights) # Загрузка изображений и меток images, labels = load_images_from_folder('TRAIN') # Обучение нейрона train_single_neuron(images, labels) # Сохранение весов в файл save_weights_to_file(W, 'weights.csv') print("Обучение завершено. Веса нейрона сохранены в файл weights.csv")Этот код сохраняет вектор весов
Wв файлweights.csv. CSV-файл — это простой текстовый файл, в котором данные хранятся в виде строк, разделённых запятыми. Вы можете легко его просматривать, редактировать и использовать для дальнейшего анализа или применения модели. - User
Теперь мне нужно считать эти веса и сделать предсказание на папке TEST и посчитать точность. Картинке в тесте лежат по тому же принципу что и в трейне
- Assistant
Для того чтобы считать веса из файла и выполнить предсказание на тестовом наборе данных, потребуется немного изменить код, чтобы загрузить веса и провести классификацию изображений из тестовой папки. В дополнение к этому, мы рассчитаем точность предсказаний.
Вот как это можно сделать:
import os import numpy as np from PIL import Image import csv # Параметры image_size = 30 # Размер одной стороны изображения (30x30 пикселей) num_pixels = image_size * image_size # Количество пикселей в изображении def load_images_from_folder(folder): images = [] labels = [] for filename in sorted(os.listdir(folder), key=lambda x: int(x.split('.')[0])): img = Image.open(os.path.join(folder, filename)).convert('L') # Черно-белое изображение img_array = np.array(img).flatten() / 255.0 # Нормализация images.append(img_array) label = 1 if int(filename.split('.')[0]) % 2 == 1 else 0 # 1 для B, 0 для C labels.append(label) return images, labels def load_weights_from_file(filename): with open(filename, 'r') as csvfile: reader = csv.reader(csvfile) weights = next(reader) return np.array(weights, dtype=float) def predict(images, weights): predictions = [] for X in images: Y = np.dot(X, weights) >= 0.5 # Простой порог для бинарного классификатора predictions.append(int(Y)) return predictions def calculate_accuracy(predictions, labels): correct = sum(p == l for p, l in zip(predictions, labels)) return correct / len(labels) # Загрузка изображений и меток из тестовой папки test_images, test_labels = load_images_from_folder('TEST') # Чтение весов из файла weights = load_weights_from_file('weights.csv') # Выполнение предсказаний test_predictions = predict(test_images, weights) # Расчёт точности accuracy = calculate_accuracy(test_predictions, test_labels) print(f"Точность на тестовых данных: {accuracy:.2f}")Эти изменения включают:
- Функция
load_weights_from_fileзагружает веса из CSV файла. - Функция
predictиспользует загруженные веса для вычисления предсказаний по каждому изображению в тестовом наборе. - Мы рассчитываем точность модели, сравнивая предсказанные метки
test_predictionsс истинными меткамиtest_labels.
Запустив этот код, вы узнаете, насколько хорошо натренированный нейрон классифицирует изображения букв B и C в тестовой выборке.
- Функция
- User
А что такое np.dot(X, weights) >= 0.5
- Assistant
Фрагмент кода
np.dot(X, weights) >= 0.5выполняет два основных действия:-
Скалярное произведение (np.dot):
np.dot(X, weights)вычисляет скалярное произведение между вектором входных данныхXи вектором весовweights. Это стандартная операция в нейронных сетях, используемая для вычисления линейной комбинации входных данных на основе текущих весов.- В данном контексте
X— это вектор признаков одного изображения (нормализованные пиксельные значения после преобразования из 2D в 1D массив), аweights— это вектор весов, соответствующий этим признакам. - Результатом этой операции является одно число, которое представляет собой взвешенную сумму входных значений для данного образца.
-
Пороговая функция (>= 0.5):
>= 0.5— это простейшая пороговая функция активации, которая преобразует взвешенную сумму в бинарное значение (0 или 1).- Если взвешенная сумма
np.dot(X, weights)больше или равна 0.5, то выражение принимает значениеTrue(что интерпретируется как 1). - Если сумма меньше 0.5, то выражение принимает значение
False(что интерпретируется как 0).
Таким образом,
np.dot(X, weights) >= 0.5решает задачу бинарной классификации, проверяя, превышает ли активация заданный порог. В контексте вашего примера, операция определяет, будет ли классифицированное изображение отнесено к классу "B" (1) или "C" (0). Порог 0.5 является типичным для случая, когда нужно разделить значения на две равные части. Однако, в задачах классификации на практике могут использоваться более сложные функции активации, такие как сигмоида или ReLU, когда требуется учитывать более сложные связи между входами и выходами. -