Разработанная ВШЭ нейросеть будет искать написанные ИИ тексты

В последние годы искусственный интеллект (ИИ) занимает свою значимую нишу в различных областях регистрации информации, особенно в научной деятельности. Проблема подделки научных работ и генерации текстов с помощью нейросетей стала одной из наиболее актуальных задач, стоящих перед научным сообществом. На фоне этого российские исследователи из НИУ ВШЭ разработали две новаторские системы ИИ, которые могут выявлять фрагменты текстов, сгенерированных нейросетями, такими как ChatGPT или GigaChat.

Команда под руководством стажера-исследователя Александра Ширнина разработала две модели, каждая из которых обладает уникальными методами выявления AI-сгенерированного контента. Первая система, названная AIpom, сочетает в себе два типа моделей — декодер и энкодер. Это обеспечивает ей большую эффективность в распознавании вставок, созданных ИИ. Вторая система, Papilusion, специфицирована для обнаружения синонимов и кратких пересказов, сгенерированных нейросетями, и опирается на модели одного типа — энкодеры.

Эти системы стремятся решить важную задачу, связанную с борьбой с генерацией текстов, которая становится все более распространенной. С ростом доступности мощных языковых моделей появляются новые вызовы: студенты все чаще используют ИИ для написания курсовых работ, дипломов и даже научных работ, которые иногда оказываются в высококлассных журналах. Это создает потребность в надежных инструментах для проверки оригинальности и достоверности научных публикаций.

Важно отметить, что разработанные системы уже получили признание на международной арене. На конкурсе SemEval-2024, который сосредоточен на создании алгоритмов для выявления текстов, сгенерированных ИИ, работы Ширнина и его коллег заняли второе место (AIpom) и шестое место (Papilusion). Участники конкурса должны были продемонстрировать возможность четкого различения текстов, написанных людьми, и контента, созданного искусственным интеллектом, что в условиях современных технологий представляется крайне сложной задачей.

Ранее «ЭкоПравда» информировала о том, что фиолетовая кукуруза сохраняет окружающий мир.