Исследование выявило проблемы с правильностью данных в ответах нейросетей

Исследование выявило масштабные проблемы с достоверностью информации в ответах популярных ИИ-ассистентов. Согласно данным Reuters, полученным в результате совместного анализа Европейского вещательного союза и BBC, более половины всех ответов содержат искажения, сообщают «Ведомости». 

В ходе масштабного исследования эксперты проанализировали более 3тыс. ответов ИИ-систем на новостные запросы, сформулированные на 14 различных языках. Результаты показали, что в 45 % случаев контент содержал существенные недостатки — от неточностей в формулировках до серьёзных фактических ошибок.

Характер ошибок проиллюстрирован конкретными примерами. Так, ИИ-система Gemini допустила неточность при описании законодательных изменений, касающихся одноразовых электронных сигарет. Ассистент ChatGPT продемонстрировал ещё более серьёзный промах, продолжая упоминать папу римского Франциска как действующего понтифика даже после его кончины.

Представители технологических компаний отреагировали на результаты исследования по-разному. В Google отметили, что работа над совершенствованием Gemini продолжается, и компания открыта к пользовательским отзывам. OpenAI и Microsoft ранее уже признавали существование феномена так называемых «галлюцинаций ИИ» — ситуаций, когда система генерирует недостоверную информацию из-за неполноты данных или несовершенства алгоритмов обучения.

Примечательно, что вопрос контроля качества ИИ-ответов становится всё более актуальным. Например, российский банк ВТБ анонсировал создание специальной системы «этического цензора», способной выявлять различные типы ошибок в генерируемом контентом — от фактических неточностей до признаков токсичности и манипулятивного контента.

Не забываем, что ИИ не из воздуха взялся, его придумали люди и обучают люди. Нейросети выдают ответы на основании данных, которые в Сеть загрузили тоже люди, а вероятность того, что эти данные могут быть устаревшими, как мы видим, высока. ИИ — крутой инструмент, но это лишь инструмент, которым нужно уметь правильно пользоваться и, конечно, контролировать.