Адвокат оштрафован $5 000 за искусственно созданные свидетели в деле об убийстве

Суд высшей инстанции Нью‑Мексико вынес решение о штрафе в $5 000 и объявил адвоката Стивена Ааронсса в contempt за то, что он включил в апелляцию к делу о убийстве полностью вымышленные свидетельские показания, сгенерированные искусственным интеллектом. По материалам Reuters, в поданном документе были указаны несуществующие свидетели и поддельные полицейские отчёты, которые, как оказалось, были созданы с помощью крупной языковой модели без какой‑либо проверки их достоверности. Суд подчеркнул, что адвокат обязан проверять фактическую точность всех утверждений, а использование «галлюцинированных» данных нарушает профессиональные стандарты и может подорвать справедливость судебного процесса.

Это первое известное в США дело, где юрист был наказан именно за применение AI‑галлюцинаций в судебных документах. В решении суда отмечается, что подобные практики могут вводить в заблуждение суд, пострадавших и общественность, а также ставить под угрозу права обвиняемых. Юридические ассоциации уже начали разрабатывать рекомендации по использованию генеративного ИИ в юридической практике, требуя обязательного контроля и документирования источников.

Случай поднимает вопрос ответственности за автоматическое создание контента в правовой сфере и служит предупреждением для всех, кто планирует использовать генеративные модели без должного надзора. Подробнее о решении суда можно прочитать в статье The Verge: https://www.theverge.com/ai-artificial-intelligence/994207/chatgpt-new-mexico-lawyer-fined-murder-appeal.