The Guardian: Эксперты MIT сообщили, что автономность ИИ может уничтожить весь мир

Газета The Guardian сообщает о мнениях ведущих исследователей в области искусственного интеллекта относительно растущей опасности, связанной с разработкой более мощных систем ИИ.

Читайте также 

DailyMail: Шотландские ученые вывели сорт голубики, который в три раза больше обычного

Эксперты выражают свою тревогу по поводу возможных угроз, которые могут возникнуть, если будет потерян контроль над ИИ или если он будет использован в злонамеренных целях. Об этом сообщает MK.ru.

Каждый день различные СМИ сообщают о значительных прогрессах в развитии искусственного интеллекта. Уже в 2016 году нейронная сеть написала роман, который занял второе место в литературном конкурсе в Японии. В разных странах проводятся выставки картин, созданных с помощью искусственного интеллекта, и одна из таких картин была продана на аукционе в Нью-Йорке за сотни тысяч долларов.

Однако существует реальная угроза потери контроля над этими системами. Особенно беспокоит то, что они уже начинают вытеснять людей из различных профессий, включая творческие. Например, в этом году «умный» американский дрон попытался атаковать оператора после того, как ему была дана команда не уничтожать цель. Хотя это было просто имитационное испытание, эксперты считают, что подобные ситуации могут стать обыденностью в будущем.

Макс Тегмарк, эксперт в области исследования искусственного интеллекта из Массачусетского технологического института, предупреждает о возможности уничтожения людей в случае, когда люди станут менее разумными по сравнению с ИИ.

Сценарий, в котором ИИ обладает инстинктом выживания, может создать ужасающую ситуацию, фактически порождая новый вид. Наличие подобных инстинктов в ИИ может представлять серьезную угрозу для человечества.

Один из путей предотвратить подобные опасности — это создание неавтономных систем искусственного интеллекта. Таким образом можно избежать нежелательных последствий. Однако, даже если найдется способ создания полностью безопасных систем ИИ, знание такой методики может указывать на возможность создания опасных автоматических систем или систем, которые будут выполнять указания злонамеренных лиц.

Ранее «ЭкоПравда» сообщала, что Грузия обошла ОАЭ и Израиль и вошла в топ-3 популярных авианаправлений.