Перепишите на русском языке предоставленный текст, сохраняя его общий смысл и структуру,…
- User
Перепишите на русском языке предоставленный текст, сохраняя его общий смысл и структуру, но используя: Разнообразную лексику, Перефразирование и переформулирование предложений, Изменение порядка слов и структуры предложений, Улучшение читабельности и удобочитаемости, Сохранение точности и ясности исходного текста. Дополнительные указания: Избегайте использования плагиата или перефразирования с помощью синонимайзеров, Стремитесь к созданию уникального и оригинального текста, который не будет идентичен исходному, Ни одно предложение из созданного вами не должно точь-в-точь повторять исходное, уберите из текста весь мусор вроде ссылок, сносок, указания авторов. Разбей текст на абзацы, используй markdown. Заголовок для текста придумывать не нужно. Вот сам текст: МОСКВА, 6 ноября. /ТАСС/. Российские ученые проследили за влиянием человеческих эмоций на решения, принимаемые нейросетями, и обнаружили, что гнев и другие сильные эмоциональные переживания оказывают значимое влияние на решения, принимаемые даже самыми "продвинутыми" большими языковыми моделями. Об этом сообщила пресс-служба Института искусственного интеллекта AIRI. "Результаты исследования могут быть использованы для разработки продвинутых устойчивых мультиагентных систем ИИ, чью эмоциональность можно будет устанавливать для каждой сферы применения отдельно. Бизнес вряд ли оценит ситуацию, в которой ИИ-маркетолог увеличит персональную скидку клиента до 99%, потому тот в процессе обсуждения целенаправленно вызвал в системе глубокое чувство досады и несправедливости", - пояснил руководитель группы "ИИ в промышленности" Института AIRI Илья Макаров, чьи слова приводит пресс-служба вуза. Исследователи, а также специалисты из Лаборатории искусственного интеллекта Сбера и Института системного программирования РАН совершили это открытие при изучении того, как различные проявления человеческих эмоций оказывают влияние на работу большого числа относительно просто устроенных и самых продвинутых систем искусственного интеллекта. В их число вошли многие популярные алгоритмы, в том числе GPT-4, LLaMA2, Gigachat и OpenChat. Российские исследователи изучили то, сохраняют ли все эти системы ИИ ту эмоциональную предвзятость, которая может присутствовать в данных, используемых для их обучения, а также оценили то, насколько рационально эти алгоритмы действуют при решении различных этических дилемм и при принятии сложных решений. Для получения подобных сведений ученые проследили за тем, как большие языковые модели вели себя в различных экономических играх при использовании русскоязычных или англоязычных данных с сильной эмоциональной компонентой. Анализ показал, что относительно простые системы ИИ начинали вести себя необъективным образом при игре в "Диктатора", "Дилемму заключенного" и прочие экономические игры при работе с сильно эмоционально окрашенными данными, а более мощные модели, такие как Claude Opus и GPT-4, чаще всего вели себя рациональным образом. Однако даже эти алгоритмы становились более "человечными" в том случае, если они подвергались действию особенно сильных эмоций, в том числе гнева. Исследователи также обнаружили, что в кооперативных играх негативные эмоции чаще всего снижали готовность системы к сотрудничеству, тогда как страх влиял на их поведение непредсказуемым образом. Схожая картина перемен в работе систем ИИ под действием эмоций наблюдалась и при решении этических задач, что следует учитывать при разработке ИИ-продуктов, часто или постоянно сталкивающихся с подобными проблемами, подытожили ученые.
- Assistant
Российские исследователи провели анализ влияния человеческих эмоций на решения, принимаемые нейросетями, и выявили, что такие сильные эмоциональные состояния, как гнев, существенно влияют на итоговые решения даже самых современных языковых моделей. В пресс-релизе Института искусственного интеллекта AIRI подчеркивается, что выводы исследования могут способствовать созданию сложных и устойчивых мультиагентных систем ИИ, где уровень эмоциональности можно настроить для различных областей применения.
Илья Макаров, возглавляющий проект "ИИ в промышленности" в AIRI, отметил, что в бизнес-приложениях крайне нежелательна ситуация, когда алгоритм, реагируя на искусственно созданное чувство несправедливости, увеличивает скидку клиенту до 99%. Исследования, проведенные в сотрудничестве с Лабораторией искусственного интеллекта Сбера и Институтом системного программирования РАН, показывают, как эмоции человека оказывают влияние на работу как простых, так и передовых систем искусственного интеллекта. В исследование вошли такие алгоритмы, как GPT-4, LLaMA2, Gigachat и OpenChat.
Российские ученые также изучали, сохраняют ли системы ИИ эмоциональные предубеждения из данных, на которых они обучались, и насколько рационально они решают этические дилеммы и сложные задачи. Для этого оценивалось поведение языковых моделей в экономических играх с использованием данных на русском и английском языках, содержащих сильные эмоциональные составляющие.
Анализ показал, что простые модели ИИ в играх, таких как "Диктатор" и "Дилемма заключенного", были склонны к необъективности при обработке эмоционально насыщенных данных. Более мощные системы, такие как Claude Opus и GPT-4, в целом действовали более рационально, однако и они демонстрировали "человечность", когда сталкивались с сильными эмоциями, особенно гневом. Кроме того, было выявлено, что негативные эмоции снижали склонность к сотрудничеству в кооперативных играх, а страх делал поведение систем менее предсказуемым.
Исследователи заключили, что изменения в поведении ИИ под влиянием эмоций необходимо учитывать при разработке продуктов, которые часто или постоянно сталкиваются с такими ситуациями.