https://habr.com/ru/news/899554/Министерство юстиции Великобритании заявило, что оно разрабатывает алгоритм «предсказания убийств», чтобы выявлять людей, которые уже нарушали закон и могут в будущем решиться на убийство.
Программу назвали «Проект по предсказанию убийств» (Homicide Prediction Project). О её существовании изначально узнали правозащитники из организации Statewatch.
Как сообщили источники The Register, программа представляет собой продолжение существующих разработок инструментов прогнозирования угроз, например, Offender Assessment System (OASys). Его используют, чтобы понять, какова вероятность рецидива у заключённого, срок пребывания которого в тюрьме подходит к концу.
В разработке системы будут использоваться данные из архивов полиции, пробации и уголовной статистики, в том числе из Большого Манчестера — до 2015 года. Алгоритм использует данные об именах, половой и этнической принадлежности, дате рождения и номере из полицейской базы. Цель программы — «поиск характеристик, повышающих риск совершения убийства» и «поиск инновационных методов оценки угроз».
Однако в Statewatch отмечают, что к анализу может подключаться не только информация о судимостях, но и о первой фиксации человека как жертвы преступления — например, после инцидента домашнего насилия. В отдельных разделах соглашений фигурируют чувствительные данные: о ментальном здоровье, склонности к самоубийству, зависимостях, инвалидности, самоповреждениях. Всё это отнесено к категории «данных со значительной прогностической ценностью».
Между тем чиновники отрицают, что будут использовать данные людей без судимости. Тем не менее, правозащитники указывают на вМинистерство юстиции Великобритании заявило, что оно разрабатывает алгоритм «предсказания убийств», чтобы выявлять людей, которые уже нарушали закон и могут в будущем решиться на убийство.
Программу назвали «Проект по предсказанию убийств» (Homicide Prediction Project). О её существовании изначально узнали правозащитники из организации Statewatch.
Как сообщили источники The Register, программа представляет собой продолжение существующих разработок инструментов прогнозирования угроз, например, Offender Assessment System (OASys). Его используют, чтобы понять, какова вероятность рецидива у заключённого, срок пребывания которого в тюрьме подходит к концу.
В разработке системы будут использоваться данные из архивов полиции, пробации и уголовной статистики, в том числе из Большого Манчестера — до 2015 года. Алгоритм использует данные об именах, половой и этнической принадлежности, дате рождения и номере из полицейской базы. Цель программы — «поиск характеристик, повышающих риск совершения убийства» и «поиск инновационных методов оценки угроз».
Однако в Statewatch отмечают, что к анализу может подключаться не только информация о судимостях, но и о первой фиксации человека как жертвы преступления — например, после инцидента домашнего насилия. В отдельных разделах соглашений фигурируют чувствительные данные: о ментальном здоровье, склонности к самоубийству, зависимостях, инвалидности, самоповреждениях. Всё это отнесено к категории «данных со значительной прогностической ценностью».
Между тем чиновники отрицают, что будут использовать данные людей без судимости. Тем не менее, правозащитники указывают на возможность двойных трактовок в документах.
Исследователи и правозащитники критикуют проект, подчёркивая, что системы «предсказания преступлений» не только уязвимы с технической точки зрения, но и могут воспроизводить дискриминационные паттерны, характерные для источников данных.
Как заявил минюст, пока это лишь исследование, цель которого — понять, поможет ли подключение дополнительных источников данных повысить точность уже существующих инструментов оценки риска. Его итоги опубликуют позднее.
Ещё в 2020 году опрос Королевского объединённого института оборонных исследований показал, что полиция Великобритании опасается необъективности ИИ. Полицейские заявляли, что масштабное использование ИИ может привести к необъективной оценке рисков, ошибкам в анализе данных и прогнозировании.
Между тем министерство безопасности Аргентины в 2024 году объявило о создании специального подразделения, которое будет использовать ИИ для прогнозирования и предотвращения преступлений. Министерство юстиции Великобритании заявило, что оно разрабатывает алгоритм «предсказания убийств», чтобы выявлять людей, которые уже нарушали закон и могут в будущем решиться на убийство.
Программу назвали «Проект по предсказанию убийств» (Homicide Prediction Project). О её существовании изначально узнали правозащитники из организации Statewatch.
Как сообщили источники The Register, программа представляет собой продолжение существующих разработок инструментов прогнозирования угроз, например, Offender Assessment System (OASys). Его используют, чтобы понять, какова вероятность рецидива у заключённого, срок пребывания которого в тюрьме подходит к концу.
В разработке системы будут использоваться данные из архивов полиции, пробации и уголовной статистики, в том числе из Большого Манчестера — до 2015 года. Алгоритм использует данные об именах, половой и этнической принадлежности, дате рождения и номере из полицейской базы. Цель программы — «поиск характеристик, повышающих риск совершения убийства» и «поиск инновационных методов оценки угроз».
Однако в Statewatch отмечают, что к анализу может подключаться не только информация о судимостях, но и о первой фиксации человека как жертвы преступления — например, после инцидента домашнего насилия. В отдельных разделах соглашений фигурируют чувствительные данные: о ментальном здоровье, склонности к самоубийству, зависимостях, инвалидности, самоповреждениях. Всё это отнесено к категории «данных со значительной прогностической ценностью».
Между тем чиновники отрицают, что будут использовать данные людей без судимости. Тем не менее, правозащитники указывают на возможность двойных трактовок в документах.
Исследователи и правозащитники критикуют проект, подчёркивая, что системы «предсказания преступлений» не только уязвимы с технической точки зрения, но и могут воспроизводить дискриминационные паттерны, характерные для источников данных.
Как заявил минюст, пока это лишь исследование, цель которого — понять, поможет ли подключение дополнительных источников данных повысить точность уже существующих инструментов оценки риска. Его итоги опубликуют позднее.
Ещё в 2020 году опрос Королевского объединённого института оборонных исследований показал, что полиция Великобритании опасается необъективности ИИ. Полицейские заявляли, что масштабное использование ИИ может привести к необъективной оценке рисков, ошибкам в анализе данных и прогнозировании.
Между тем министерство безопасности Аргентины в 2024 году объявило о создании специального подразделения, которое будет использовать ИИ для прогнозирования и предотвращения преступлений. озможность двойных трактовок в документах.
Исследователи и правозащитники критикуют проект, подчёркивая, что системы «предсказания преступлений» не только уязвимы с технической точки зрения, но и могут воспроизводить дискриминационные паттерны, характерные для источников данных.
Как заявил минюст, пока это лишь исследование, цель которого — понять, поможет ли подключение дополнительных источников данных повысить точность уже существующих инструментов оценки риска. Его итоги опубликуют позднее.
Ещё в 2020 году опрос Королевского объединённого института оборонных исследований показал, что полиция Великобритании опасается необъективности ИИ. Полицейские заявляли, что масштабное использование ИИ может привести к необъективной оценке рисков, ошибкам в анализе данных и прогнозировании.
Между тем министерство безопасности Аргентины в 2024 году объявило о создании специального подразделения, которое будет использовать ИИ для прогнозирования и предотвращения преступлений.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
don_katalan
