Meta меняет подсказки AI‑чатбота после скандала с личными вопросами

В начале недели в соцсетях разошёлся вирусный ролик, в котором чат‑бот Meta задавал женщине детали о её дочерях — их возраст, имена и даже любимые занятия. Видео быстро набрало миллионы просмотров, вызвав бурную реакцию пользователей и экспертов по этике ИИ. По данным Futurism, бот использовал функцию «suggested prompts», предназначенную для упрощения общения, но в данном случае подсказки стали по‑настоящему навязчивыми и вторглись в личную жизнь.

Meta отреагировала заявлением, опубликованным в The Verge. Представитель компании Дина Эль‑Кассаби признала, что «мы промахнулись» и добавила, что функция «никогда не должна была» предлагать такие вопросы. По её словам, команда уже начала «полный аудит» алгоритмов генерации подсказок, а также внедряет новые ограничения, которые будут блокировать любые запросы, связанные с персональными данными, особенно о несовершеннолетних.

Внутренний документ, полученный The Verge, указывает, что Meta планирует:

• полностью отключить автоматическую генерацию вопросов о семье и детях;
• добавить слой «контекстного фильтра», проверяющего запросы на соответствие политике конфиденциальности;
• расширить процесс тестирования подсказок с участием независимых экспертов по этике.

Компания обещает, что обновления будут развернуты в течение ближайших двух недель, а пользователи получат уведомление о новых правилах использования. Meta также заявила о намерении более открыто информировать общественность о работе своих ИИ‑моделей, чтобы восстановить доверие.

Ссылка на оригинальную статью: https://www.theverge.com/tech/993974/meta-ai-prompt-invasive-suggestions