Как ИИ используется полицейскими управлениями для составления отчетов

За девять лет работы в полицейском департаменте Форт-Коллинса, штат Колорадо, офицер Скотт Бриттингем говорит, что всегда испытывал гордость за процесс написания отчетов после каждого вызова.

Но когда департамент решил протестировать инструмент, который мог бы ускорить этот процесс, он заинтересовался. Теперь отчет, на который раньше уходило около 45 минут, занимает у него всего 10 минут.

«Сначала я был немного скептически настроен — я вообще не большой любитель технологий», — сказал Бриттингем в интервью в марте в полицейском управлении Форт-Коллинса для подкаста Terms of Service от CNN. Но меньше времени на написание отчетов означает, что Бриттингем может «отвечать на больше вызовов» и «быть более активным в предотвращении преступлений», добавил он.

Бриттингем говорит о Draft One — программном обеспечении на базе искусственного интеллекта, которое создает первый вариант полицейских отчетов, чтобы сделать процесс быстрее и проще. И его опыт, возможно, скоро станет нормой для офицеров по всей стране, так как все больше департаментов внедряют этот инструмент. Он набирает популярность, даже несмотря на то, что некоторые юристы и правозащитники выражают обеспокоенность тем, что отчеты, составленные ИИ, могут содержать предвзятость или неточности, а также создавать проблемы с прозрачностью.

Axon — компания, производящая это ПО, а также электрошокеры и нагрудные камеры — заявила, что Draft One стал ее самым быстрорастущим продуктом с момента запуска в прошлом году. И Axon — не единственный игрок на этом рынке: компания Truleo также выпускает похожий инструмент для составления отчетов — Field Notes.

Полицейские отчеты — ключевой элемент системы уголовного правосудия: в них офицеры описывают инцидент и объясняют свои действия, а также могут использовать их для подготовки к даче показаний в суде. Эти отчеты служат источником информации для прокуроров, адвокатов, судей и общественности, отражая взгляд офицера на происшедшее. Они могут повлиять на решение прокурора о возбуждении дела или на решение судьи о содержании под стражей, сказал профессор права Американского университета Эндрю Гатри Фергюсон, который изучает пересечение технологий и полиции.

«Полицейские отчеты — это действительно механизм подотчетности, — сказал Фергюсон. — Это оправдание государственной власти, полицейской власти».

По этой причине сторонники Draft One подчеркивают, что ИИ может сделать отчеты более точными и полными, а также сэкономить время. Но скептики опасаются, что любые ошибки технологии могут серьезно повлиять на жизни людей. По крайней мере, один штат уже принял закон, регулирующий использование отчетов, составленных ИИ.

Внедрение Draft One происходит на фоне более широких опасений по поводу ИИ в правоохранительных органах: в других местах эксперименты с технологией распознавания лиц уже приводили к ошибочным арестам.

«Я думаю, что это растущее движение. Как и во многих областях ИИ, люди ищут, как нам обновляться, как улучшаться», — сказал Фергюсон о технологии составления полицейских отчетов с помощью ИИ. — «Есть и элемент хайпа — люди продвигают это, потому что на этом можно заработать».

Инструмент для повышения эффективности работы офицеров

После того как офицер записывает взаимодействие на нагрудную камеру, он может запросить у Draft One создание отчета. Инструмент использует расшифровку записи, чтобы сформировать черновик, который появляется в течение нескольких секунд после запроса. Затем офицеру предлагается проверить текст и добавить недостающие детали перед отправкой окончательной версии.

Каждый черновик содержит поля-заготовки в скобках, которые офицер должен заполнить или удалить, прежде чем отправить отчет. Эти поля призваны заставить офицеров внимательно прочитать текст, чтобы исправить возможные ошибки или добавить недостающую информацию.

«В конце концов это должен быть собственный отчет офицера, и он должен подписаться под тем, что произошло», — сказал президент Axon Джош Айснер в интервью CNN.

Draft One использует модифицированную версию ChatGPT от OpenAI, которую Axon дополнительно тестировала и обучала, чтобы снизить вероятность «галлюцинаций» — случайных фактических ошибок, которые может допускать ИИ. Компания также работает с группой независимых ученых, сторонников восстановительного правосудия и лидеров общественных организаций, которые дают рекомендации по ответственному развитию технологии и снижению потенциальной предвзятости.

Идея Draft One появилась из-за нехватки кадров в полицейских департаментах, сказал Айснер. В опросе 2024 года, проведенном Международной ассоциацией начальников полиции среди более чем 1 000 полицейских управлений США, выяснилось, что они в среднем работают с недокомплектом не менее 10%.

«Главная проблема в сфере общественной безопасности сейчас — это набор кадров. Невозможно нанять достаточное количество полицейских, — сказал Айснер. — Поэтому всё, что может повысить эффективность работы отдела, становится приоритетом».

Axon отказалась сообщить, сколько департаментов уже используют Draft One, но известно, что он внедрен в Лафайете (Индиана), Тампе (Флорида) и Кэмпбелле (Калифорния). Учитывая, что «практически каждый департамент» в США использует хотя бы один продукт Axon, потенциал роста очевиден, добавил Айснер.

В Форт-Коллинсе сержант по технологиям Боб Янгер решил протестировать Draft One прошлым летом после демонстрации инструмента.

«Я был поражен качеством, точностью и скоростью создания отчета, — сказал он. — Я подумал: “Мы не можем упустить такую возможность”».

Сначала доступ к технологии получили около 70 офицеров, теперь — все. Янгер оценивает, что инструмент сократил время на написание отчетов почти на 70%, «и это время мы можем вернуть нашим гражданам».

«Радикальная прозрачность — лучший подход»

По словам Айснера, он в основном получал положительные отзывы от прокуроров о Draft One.

Но в сентябре прошлого года прокуратура округа Кинг, штат Вашингтон, заявила, что не будет принимать полицейские отчеты, составленные с помощью ИИ, после того как местные правоохранительные органы выразили интерес к использованию Draft One. В письме к начальникам полиции ведомство отметило, что использование инструмента «вероятно приведет к тому, что многие офицеры утвердят подготовленные Axon тексты с непреднамеренными ошибками».

Представитель Axon заявил, что компания «привержена постоянному взаимодействию с полицейскими департаментами, прокурорами, адвокатами, общественными активистами и другими заинтересованными сторонами, чтобы собирать отзывы и направлять ответственное развитие Draft One». Он добавил, что модель ИИ калибруется «для минимизации догадок и преувеличений».

Но прокуроры округа Кинг — не единственные, кто обеспокоен ошибками или предвзятостью в отчетах, составленных ИИ.

«Когда вы видите, что совершенно новая технология внедряется в сердце системы уголовного правосудия, которая и так переполнена несправедливостью и предвзятостью, — это определенно заставляет нас насторожиться и внимательно следить», — сказал Джей Стэнли, аналитик ACLU, который в прошлом году опубликовал отчет с рекомендацией отказаться от Draft One.

Даже Фергюсон, который считает, что технология, вероятно, станет нормой в полиции, опасается ошибок в расшифровках с нагрудных камер.

«Текст, который вы получите и который станет полицейским отчетом, может содержать недопонимания, если алгоритм не распознал, например, южный акцент или другой тип произношения», — сказал он. Он также отметил, что невербальные сигналы — например, кивок вместо слов «да» — могут быть упущены.

Axon пытается избежать ошибок и пробелов с помощью обязательных полей для заполнения. Однако в демонстрации в департаменте Форт-Коллинса CNN заметила, что можно удалить все подсказки и отправить отчет без изменений. При этом первоначальный черновик, созданный ИИ, не сохраняется, поэтому невозможно проверить, что офицер изменил, а что нет.

Axon утверждает, что это имитация старого процесса, когда офицеры писали от руки и черновики не сохранялись. Компания также предлагает настройку, позволяющую обязать офицеров редактировать определенный процент текста перед отправкой.

Есть и вопрос прозрачности: узнает ли обвиняемый, что отчет по его делу был составлен с помощью ИИ.

По умолчанию финальные отчеты, созданные с помощью Draft One, содержат настраиваемое уведомление о том, что они были написаны с помощью ИИ, но департаменты могут отключить эту функцию. В Форт-Коллинсе уведомления не используются, но офицеров поощряют делать отчеты своими и следить за их точностью, сказал Янгер.

«Чего боится офицер — это быть раскритикованным или привлеченным к ответственности за ошибку, — сказал он. — Они очень сосредоточены на качестве и количестве своей работы».

Но Фергюсон считает, что «радикальная прозрачность — лучшая практика». В Юте в этом году приняли закон, который обязывает указывать в финальном отчете, что он был составлен с помощью ИИ.

В конечном счете, как и многие другие применения ИИ, Draft One — это инструмент, который зависит от ответственного и добросовестного пользователя.

«Мое общее впечатление — это просто инструмент, как и любой другой, — сказал Бриттингем. — Это не решение всех проблем и не замена нам в написании отчетов. Это просто помощь в их составлении».