Ошибка в оценке машинности humanizer-ru: почему один и тот же ответ получил 0,95 и 0,10

В статье на Habr AI автор делится неожиданным открытием, связанным с библиотекой humanizer-ru – инструментом, оценивающим «машинность» текста. В одном из тестов один и тот же ответ «Столица Австралии — Канберра» получил оценку 0,95, а после небольших изменений в файле – 0,10. При этом содержание ответа не изменилось.

Изменения были минимальными: из файла убрали строки вокруг ответа, включая название чат‑бота, а в другой паре различие заключалось лишь в переводе строки в конце файла. Несмотря на такие незначительные правки, оценки разошлись существенно – 0,9 vs 0,3.

Эти пары находятся в открытых данных проекта, что позволяет другим исследователям воспроизвести проблему. Автор признаётся, что ранее делал выводы о качестве редактирования на основе общей таблицы оценок, но теперь считает эту интерпретацию ошибочной.

Разбор причин пока продолжается. Возможные гипотезы включают: чувствительность модели к контексту (дополнительные строки могут влиять на представление текста), проблемы с предобученными эмбеддингами, а также ошибки в самом метрике – возможно, она неустойчива к незначительным изменениям формата входных данных.

Для разработчиков это предупреждение о том, что метрики, используемые для оценки «человечности» текста, могут давать ложные сигналы, если не контролировать предобработку данных. Открытый характер проекта позволяет сообществу совместно искать и устранять такие баги, повышая надёжность инструментов оценки.

Ссылка на оригинальную статью: https://habr.com/ru/articles/1083558/