В Австралии чат-бота обучили красть у мошенников время и возможности

Цель — отнять у преступников время, которое они могли бы потратить на вероятных потерпевших.

Эксперты по кибербезопасности из Университета Маккуори (Австралия) разработали основанный на алгоритмах искусственного интеллекта (ИИ) чат-бот Apate. Он обучен выдавать себя за человека в разговоре с телефонными мошенниками, чтобы удерживать афериста на линии как можно дольше.

Идея проекта возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники. Учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с преступником. Проект назвали Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе — языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных бесед с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестировали чат-бота на настоящих звонках аферистов. Для этого учёные их спровоцировали, размещая специальные телефонные номера на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. Правда, пока среднее время диалога с Apate — всего 5 минут.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения мошенников.

Напомним, что проявлять своё словесное или умственное превосходство над аферистами лично и с собственного телефонного номера может быть опасным. Об этом — новость на нашем сайте «Как телефонные мошенники мстят грубиянам и умникам».