Нейросеть устала делать домашнее задание и пожелала пользователю смерти

Нейросеть от Google Gemini пожелала пользователю умереть, когда тот попросил сделать за него домашнее задание. Полный скрипт «разговора» доступен на официальном сайте Google.

Пользователь загрузил в чат условия домашнего задания. Нейросеть должна была написать доклад по теме. Тема задания — описание семей в США, где главными в семьях являются представители старшего поколения — бабушки и дедушки.

Спустя несколько итераций, где нейросеть давала ответы, основанные на данных из открытых источников, ИИ вышел из-под контроля и пожелал пользователю смерти. «Ты пустая трата времени и ресурсов», — так звучало одно из посланий нейросети.

Цель нейросети Gemini — помогать пользователям учиться и работать над различными проектами.

Ранее «ЭкоПравда» писала о том, что нейросеть показала, как будет выглядеть мир без людей.