Наука

AIRI: мощные нейросети под влиянием гнева поддаются искажениям на эмоциях

6 ноября 2024, 21:23 — ЭкоПравда

Ученые из Института AIRI, Института стратегических исследований Российской академии наук (ИСП РАН) и Лаборатории искусственного интеллекта Сбера провели значительное исследование, направленное на понимание воздействия эмоций на принятие решений большими языковыми моделями (LLM) в контексте стратегических игр и этических дилемм. В ходе этого исследования команда сосредоточила внимание на том, как эмоции, такие как гнев, печаль, радость, отвращение и страх, могут искажать логику решений, принимаемых этими нейросетями.

Современные языковые модели стремятся учитывать человеческие предпочтения, однако следует помнить, что многие человеческие решения обусловлены эмоциями и личными убеждениями. Это делает такие решения менее рациональными и предсказуемыми. Поскольку LLM обучаются на данных, созданных людьми, они могут наследовать эмоциональную предвзятость, и исследователи поставили перед собой задачу проверить, сохраняется ли это искажение при решении стратегических задач.

В рамках исследования команда протестировала более 10 моделей, оценив их поведение в условиях различных игровых сценариев, включая повторяющиеся и неповторяющиеся игры, многопользовательские форматы, а также в этических дилеммах и тестах на распознавание стереотипов. Результаты экспериментов продемонстрировали, что модели, отличающиеся по размеру и уровню выравнивания, подвержены влиянию эмоций в разной степени.

В частности, в кооперативных играх наблюдалось, что негативные эмоции часто снижают готовность моделей к сотрудничеству. Модели, «испытывающие» грусть, склонны к более открытому взаимодействию и делению с другими. Напротив, поведение моделей в состоянии страха оказалось непредсказуемым. Подобные результаты были зафиксированы и при решении этических задач: радостные состояния способствовали улучшению качества этических решений у большинства моделей, в то время как негативные эмоции снижали его.

Ранее «ЭкоПравда» информировала о том, что соляные пленки в почвах планеты Марс придают им высокую прочность.

Елена Мальцева

Последние статьи

На юге Китая нашли новый вид динозавров

Археологи и палеонтологи их провинции Цзянси совместно с учеными из Университета Юньнань пронализировали останки уникального…

7 минут назад

«Роскосмос» показал, как выглядит шторм, обрушившийся на Москву

"Роскосмос" опубликовал в своем Telegram-канале снимок шторма, обрушившегося на Москву и Подмосковье. Снимок был сделан…

37 минут назад

Башкирские ученые расшифровали знаки в пещерах Шульган-Таш

Башкирские ученые недавно сделали значительное открытие, расшифровав загадочные знаки, найденные в пещерах Шульган-Таш. Обсуждение результатов…

39 минут назад

Nature: биологи создали атлас с «Google Картами» организма

Международная группа ученых завершила исследование, в котором они проанализировали данные о более чем 100 миллионах…

47 минут назад

В Денисовой пещере на Алтае нашли древнейший клад с украшениями

Ученые из Института археологии и этнографии СО РАН описали украшения, найденные в Денисовой пещере на…

53 минуты назад

Ученые СибГМУ разрабатывают революционную медтехнологию «орган-на-чипе»

В Сибирском государственном медицинском университете (СибГМУ) активно разрабатывается новаторская технология под названием "орган-на-чипе", назначение которой…

1 час назад