Газета The Guardian сообщает о мнениях ведущих исследователей в области искусственного интеллекта относительно растущей опасности, связанной с разработкой более мощных систем ИИ.
Эксперты выражают свою тревогу по поводу возможных угроз, которые могут возникнуть, если будет потерян контроль над ИИ или если он будет использован в злонамеренных целях. Об этом сообщает MK.ru.
Каждый день различные СМИ сообщают о значительных прогрессах в развитии искусственного интеллекта. Уже в 2016 году нейронная сеть написала роман, который занял второе место в литературном конкурсе в Японии. В разных странах проводятся выставки картин, созданных с помощью искусственного интеллекта, и одна из таких картин была продана на аукционе в Нью-Йорке за сотни тысяч долларов.
Однако существует реальная угроза потери контроля над этими системами. Особенно беспокоит то, что они уже начинают вытеснять людей из различных профессий, включая творческие. Например, в этом году «умный» американский дрон попытался атаковать оператора после того, как ему была дана команда не уничтожать цель. Хотя это было просто имитационное испытание, эксперты считают, что подобные ситуации могут стать обыденностью в будущем.
Макс Тегмарк, эксперт в области исследования искусственного интеллекта из Массачусетского технологического института, предупреждает о возможности уничтожения людей в случае, когда люди станут менее разумными по сравнению с ИИ.
Сценарий, в котором ИИ обладает инстинктом выживания, может создать ужасающую ситуацию, фактически порождая новый вид. Наличие подобных инстинктов в ИИ может представлять серьезную угрозу для человечества.
Один из путей предотвратить подобные опасности — это создание неавтономных систем искусственного интеллекта. Таким образом можно избежать нежелательных последствий. Однако, даже если найдется способ создания полностью безопасных систем ИИ, знание такой методики может указывать на возможность создания опасных автоматических систем или систем, которые будут выполнять указания злонамеренных лиц.
Ранее «ЭкоПравда» сообщала, что Грузия обошла ОАЭ и Израиль и вошла в топ-3 популярных авианаправлений.
Первая волна кровососущих комаров появится в центральных регионах России уже во второй половине мая. Такой…
Площадь лесных пожаров в Бурятии за сутки выросла в пять раз — с 1,2 до…
Россияне чаще всего поддерживают благотворительные проекты, связанные с детьми, животными и бездомными. К такому выводу…
Массовая гибель рыбы произошла в каскаде прудов на территории Шпаковского и Грачевского округов Ставропольского края.…
В майские праздники важно сохранять баланс в питании и избегать перегрузки организма вредными продуктами. На…
Санкт-Петербург и Москва возглавили рейтинг самых привлекательных для молодежи городов России. При этом 63% опрошенных…
