Фото: freepik.com/free-photo
Британские ученые провели исследование, в результате которого им удалось разработать метод для точного определения момента, когда чат-боты на основе искусственного интеллекта начинают лгать. Эта инновационная работа была опубликована в журнале Nature.
Специалисты обратили внимание на то, что современные чат-боты часто проявляют явления конфабуляции – процесс, при котором искусственные агенты порою смешивают реальные факты с выдуманными событиями. Для выявления лжи учеными был разработан новый метод анализа.
В рамках исследования было замечено, что инструменты, такие как ChatGPT, не способны действительно лгать, но могут выдавать неточную информацию, если не обладают достаточным объемом данных. Кроме того, вопросы могут иметь различные возможные ответы, что приводит к статистической неопределенности. Эта ситуация возникает, когда чат-боту необходимо формулировать ответ или когда он просто не располагает необходимой информацией.
Ученые сосредоточились на использовании семантической энтропии для дальнейшей диагностики. Они предлагают ставить ИИ перед одним и тем же вопросом несколько раз, а затем оценивать, насколько ответы семантически эквивалентны. Если большинство ответов имеют однозначное значение, то это свидетельствует о том, что интеллектуальная модель, скорее всего, неуверенно формулирует ответ, но знает правильную информацию. В противном случае можно говорить о вероятности того, что чат-бот выдает недостоверные сведения.
Ранее «ЭкоПравда» информировала о том, что Китай раскритиковал повышения ЕС тарифов на электрокары.
В Московский зоопарк привезли новую самку для гигантского муравьеда Диего. Изабелла, так зовут молодую особь, теперь…
Евгений Тишковец, ведущий специалист метеоцентра «Фобос», предсказал, что во вторник, 9 июля, в Москве ожидаются грозы, а в воскресенье, 14 июля,…
В России зафиксировали первые случаи появления гигантских клещей рода Hyalomma. Информацию об этом распространил Telegram-канал…
После недавнего урагана в Подмосковье появились испанские слизни величиной с ладонь. Местные жители активно выкладывают фотографии этих…
Землетрясение магнитудой 6,1 произошло у восточных берегов Камчатки, сообщает Потсдамский центр наук о Земле (GFZ).…
Отдыхающие на черноморском побережье Краснодарского края пожаловались на нашествие комаров, которое делает пребывание на курортах Анапы, Новороссийска и Геленджика…