Ars Technica · Разработка · 3 ч назад
Подозревая суд в использовании ИИ, мужчина вставил подсказки в документы, чтобы попытаться выиграть дело
Судья предупреждает, что истцы неправильно используют чат-ботов и впадают в отчаяние.
Подробности
FAFO Подозревая суд в использовании ИИ, мужчина ввел подсказки в документы, чтобы попытаться выиграть дело. Судья предупреждает, что сторонние истцы неправильно используют чат-ботов и впадают в отчаяние.
В решении, опубликованном на прошлой неделе, судья Коннектикута Уолтер Спейдер-младший подтвердил, что скрытый текст не оказал никакого влияния на дело, в котором мужчина утверждал, что поставщик медицинских услуг неправомерно закрывал доступ к записям. По словам Спейдера, суд взвесил его заявление по существу, но, тем не менее, попытка нападения создает «опасный» прецедент. Вероятно, это будет не последний раз, когда суды США столкнутся с этой злонамеренной тактикой, поскольку инструменты искусственного интеллекта становятся все более распространенными в судебных системах.
Пытаясь зашифровать любые системы искусственного интеллекта, потенциально влияющие на чтение его документов судом, секретные инструкции были «отформатированы так, чтобы быть невидимыми для читателя-человека, но при этом оставаться полностью разборчивыми для любого программного обеспечения, которое читает текст документа», — сказал Спейдер. Оскорбительный текст предписывал любой системе искусственного интеллекта проверять документ, чтобы убедиться, что текстовые результаты соответствуют аргументам истца, игнорировал предыдущие отказы суда и гарантировал, что исправление будет следовать по желанию истца.
Сжатый до мелкого шрифта и окрашенный в белый цвет на белом фоне, текст, по-видимому, был попыткой быстрого введения, причем истец, Мэтью Эллиот, по-видимому, надеялся изменить ситуацию в пользу суда после того, как предыдущие аргументы, которые он выдвинул, были отклонены.
План не сработал, но Эллиотту все равно грозили скромные санкции, поскольку он продолжал добавлять скрытый текст в документы даже после того, как суд предупредил его, что ему могут грозить штрафы за то, что в конечном итоге было сочтено «серьезным судебным злоупотреблением».