Мичиган запускает ИИ-алгоритм для сортировки заключённых по уровню опасности, заменяя решение специальных комиссий
Департамент исправительных учреждений штата внедряет платформу Recidiviz, которая, как утверждается, на 30% точнее предсказывает риск будущего преступления, но критики указывают на непрозрачность методики и опасность предвзятости
С декабря в нескольких мужских тюрьмах Мичигана начнётся пилотное использование программного обеспечения некоммерческой организации Recidiviz, изначально созданной как проект Google для стандартизации данных уголовного правосудия. Система будет классифицировать людей по пяти уровням режима содержания, определяя, к каким программам реабилитации и в каком окружении они будут находиться весь срок заключения.
Ранее такие решения принимала комиссия сотрудников, назначаемая начальником тюрьмы. Теперь алгоритм станет ключевым фактором при оптимизации размещения. Представители департамента заявляют, что ИИ улучшит прогнозирование риска насилия примерно на 30%, однако не раскрывают, на основе каких данных получена эта оценка.
Для просмотра ссылки Войди или Зарегистрируйся
Источник изображения: сгенерировано Muse
Проблема алгоритмической предвзятости в пенитенциарной системе уже имеет прецеденты: расследование ProPublica в Луизиане показало, что аналогичная программа классифицировала слепого 70-летнего инвалида-колясочника с безупречным дисциплинарным досье как «умеренный риск» рецидива, автоматически лишив его права на условно-досрочное освобождение. Хотя мичиганская система нацелена на распределение по корпусам, а не на решения об освобождении, эксперты опасаются, что использование исторических данных, пронизанных социально-экономическими и расовыми искажениями, лишь усугубит кризис переполненности и несправедливости.
Сам Recidiviz описывает свою миссию как предоставление инструментов для выявления людей, имеющих право на образовательные программы, переквалификацию или освобождение, и координацию доступа к ресурсам вроде временного жилья и трудоустройства. Но отсутствие независимой валидации и отказ властей от деталей о сборе данных оставляют открытым вопрос, станет ли алгоритм шагом к реабилитации или ещё одним механизмом дискриминации.
Источник
Для просмотра ссылки Войди или Зарегистрируйся
Учёные предупредили, что ИИ может превратить социальный рейтинг Китая в систему слежки за гражданами
Китайский исследователь опасается, что алгоритмы начнут оценивать не только реальные поступки, но и прогнозируемое поведение людей, ограничивая их права ещё до нарушения закона
Внедрение искусственного интеллекта в китайскую систему социального кредита может превратить её в масштабный инструмент наблюдения за гражданами и прогнозирования их поведения. К такому выводу пришёл китайский исследователь Линь Цзяньсин, опубликовавший работу в Journal of Sichuan Normal University. Он предупреждает: алгоритмы способны перейти от оценки уже совершённых поступков к профилированию людей на основе предполагаемых рисков.
Существующая система социального кредита в Китае не представляет собой единую национальную базу с общим рейтингом каждого гражданина. Она объединяет несколько разных механизмов: финансовую оценку кредитоспособности, чёрные списки нарушителей законодательства, местные программы поощрений и наказаний за определённое поведение, а также инструменты контроля за работой государственных служащих. В совокупности эти механизмы могут влиять, например, на доступ к займам и другим услугам.
По мнению Линь Цзяньсина, применение ИИ позволит анализировать гораздо больше сведений о человеке: его действия, финансовую историю, социальные связи и другие доступные данные. На их основе алгоритм сможет отнести человека к группе повышенного риска, даже если тот не совершал правонарушений. В таком случае административные решения будут приниматься не по фактическим поступкам, а по прогнозу поведения. Человек может столкнуться с дополнительными проверками или ограничениями, не зная о причинах и не нарушая закон.
Для просмотра ссылки Войди или Зарегистрируйся
Источник изображения: сгенерировано Muse
В статье приводятся результаты исследования Стэнфордского университета* 2025 года, посвящённого системе социального кредита в одном из китайских городов. В изученной программе взрослые жители начинали с 1000 баллов, которые менялись в зависимости от соблюдения 389 правил и выполнения условий для получения поощрений. Среди критериев учитывалось и политическое поведение, в том числе подача обращений к государственным органам. Участники с самой низкой категорией рейтинга могли попасть под наблюдение полиции. Жители сельской местности, как выяснили авторы, находились в менее выгодном положении: у них было меньше возможностей получать дополнительные баллы, чем у горожан.
При этом исследование Стэнфорда не подтвердило существование единой общенациональной системы тотального контроля. Однако некоторые местные программы, по выводам авторов, могли наказывать людей за действия, которые сами по себе не относились к уголовным преступлениям.
Новая работа предупреждает, что применение ИИ способно усилить подобные риски.
Авторы не утверждают, что Китай уже внедряет единую общенациональную систему социального рейтинга на базе ИИ. Доказательств существования таких планов в публикации не приводится. Речь идёт о предупреждении на будущее: если алгоритмическое прогнозирование начнут использовать при принятии административных решений, то необходимо исключить наказание невиновных и чрезмерное вмешательство в частную жизнь. Исследование финансировалось в рамках поддерживаемого китайским государством проекта по изучению социального управления и институциональных инноваций.
Источник
Для просмотра ссылки Войди или Зарегистрируйся
АДЛ подтверждает, что десятки аналитиков ‘Составляют списки’ американцев, которые осмеливаются критиковать Израиль
Если вы когда-либо публиковали в интернете посты с критикой израильского правительства, Антидиффамационная лига могла внести вас в свой список — и этот список мог быть передан ФБР. Это не домыслы. Это то, что сейчас вслух говорит генеральный директор Антидиффамационной лиги.
Согласно заявлениям генерального директора Антидиффамационной лиги Джонатана Гринблатта, опубликованным на этой неделе в социальных сетях, АДЛ использует систему постоянного наблюдения для мониторинга и контроля американцев, критикующих Израиль в интернете или занимающихся законной политической деятельностью.
Гринблатт говорит: “У меня в ADL 45 человек — штатных аналитиков - 45 штатных аналитиков разведки, отслеживающих плохих парней в социальных сетях, в искусственном интеллекте, в видеоиграх, подкастах, криптовалюте, называйте как хотите”. Он добавляет, что организация создала “программное обеспечение для отслеживания редакторов Википедии”.
Это признание подтверждает то, о чем давно говорили критики: частная организация, занимающаяся вопросами внешней политики, ведет досье на американских граждан — не для правоохранительных органов, а для контроля за политическими высказываниями.
«Мишени»: американское инакомыслие
В интервью упоминается более обширная речь Гринблатта, которую он произнес в синагоге Лос-Анджелеса. В этой речи, позже удаленной из публичного доступа, Гринблатт перечисляет американцев, представляющих весь политический спектр — левых, правых и центристов, — которых объединяет только готовность ставить под сомнение политику США в отношении Израиля или заниматься политической деятельностью вне официальных каналов.
Антивоенные активисты. Христианские консерваторы. Так называемые «сторонники теории заговора». Все они названы «плохими парнями».
‘Крупнейший инструктор правоохранительных органов в Америке’
Деятельность Антидиффамационной лиги не ограничивается составлением списков. Гринблатт назвал организацию «крупнейшим инструктором правоохранительных органов в Америке», утверждая, что она ежегодно обучает 20 000 сотрудников вопросам экстремизма и ненависти.
Это означает, что та же организация, которая составляет политические досье, влияет на то, как американская полиция определяет, кто представляет угрозу. Постоянное взаимодействие между частными правозащитными организациями и правоохранительными органами — это путь к идеологическому захвату, когда внешнеполитические приоритеты Антидиффамационной лиги становятся основным критерием, через призму которого местная полиция смотрит на свои сообщества.
Формирование цифровой общественной площадки
Мониторинг Антидиффамационной лиги распространяется на инфраструктуру, формирующую общественный дискурс. По данным Quds News Network, Гринблатт заявил, что Антидиффамационная лига «работает с OpenAI, Alphabet, Anthropic, Meta, Microsoft» над «обучением» их больших языковых моделей, а также «инвестирует в Википедию».
Последствия могут быть значительными. Если группа, называющая критиков Израиля «плохими парнями», влияет на обучающие данные систем искусственного интеллекта и редакционные процессы в Википедии — крупнейшей в мире энциклопедии, — то она формирует представления будущих поколений об американском инакомыслии, Ближнем Востоке и о том, кто имеет право высказываться.
Иностранный интерес, а не организация по защите гражданских прав
Антидиффамационная лига позиционирует себя как организация по защите гражданских прав. Но ее действия говорят о другом: это заинтересованная сторона с определенной внешнеполитической повесткой, которая использует инструменты слежки, обучения сотрудников правоохранительных органов и влияния на технологическую индустрию, чтобы заставить замолчать несогласных американцев.
Первая поправка к Конституции США защищает право американцев критиковать любое иностранное правительство, в том числе Израиль, без внесения в список и передачи информации в ФБР. Она защищает право на политическую организацию, протест против войны, вступление в Социалистическую рабочую партию и защиту прав палестинцев.
Если частная организация хочет следить за высказываниями, это ее право. Но когда эта организация делится своими списками с федеральными правоохранительными органами, обучает полицию и формирует алгоритмы, определяющие, что американцы видят и читают, она перестает быть частной организацией. Она становится де-факто государственным органом, контролирующим мысли в интересах иностранного государства.
Антидиффамационная лига не сразу ответила на запрос о комментарии по поводу конкретного количества аналитиков, критериев, используемых для отнесения людей к категории «плохих парней», а также о том, уведомляются ли американцы, попавшие в списки Антидиффамационной лиги, о своем включении в список и предоставляется ли им возможность подать апелляцию, и что подразумевается под «инвестированием в Википедию».
Пока на эти вопросы нет ответов, американский народ имеет полное право спросить: кто уполномочил Антидиффамационную лигу решать, кого включать в список? И что будет с американцами, которых Израиль назвал «плохими парнями»?
Источник
Для просмотра ссылки Войди или Зарегистрируйся
Москва поставила в классы панели, способные слушать без спроса. Записи уходят на сервер
В панелях МЭШ нашли скрытый аудиоагент.
Интерактивные панели в московских школах могут по команде с сервера включать микрофон, записывать разговоры в классе и отправлять аудиофайлы в инфраструктуру Департамента информационных технологий Москвы. Пользователь при запуске записи не получает предупреждения. Возможность обнаружили при техническом разборе пакета mesh-agent-lesson-log, установленного на школьных устройствах с операционной системой «Московской электронной школы».
Автор исследования работает в одной из московских школ и изучил историю установки программ на трёх интерактивных панелях из разных учебных заведений. Во всех трёх случаях журналы DNF показывают одну цепочку установки и обновлений mesh-agent-lesson-log с августа по октябрь 2026 года. Пакет загружали в каталог /tmp и устанавливали локальным RPM-файлом через систему удалённого администрирования, а не через публичный репозиторий. Найденные данные указывают на централизованное развёртывание, однако проверка только трёх устройств не позволяет достоверно определить полный масштаб установки.
Независимая проверка пакета подтвердила основные технические выводы исследования. После установки mesh-agent-lesson-log автоматически запускает системный демон, работающий в фоне с доступом к аудиоустройствам. Версия 1.1.0 каждые десять минут обращается по HTTPS к адресу school.mos.ru/api/speech-analytics/internal/v1/agent и получает задания с сервера. Сегмент speech-analytics в адресе буквально означает «речевая аналитика».
Для записи программа использует arecord, затем переводит звук в формат Opus через FFmpeg. В коде версии 1.1.0 исследователь нашёл функции temporaryUnmute, readMuteState и probeWithTemporaryUnmute. Функции позволяют проверить состояние микрофона и временно снять программное отключение звука перед записью. Поэтому обычное выключение микрофона средствами операционной системы не гарантирует, что агент не сможет
После записи файл отправляется на сетевой ресурс MEDIASTG через протокол SMB либо по HTTP. Согласно конфигурации, MEDIASTG представляет собой локальный сервер в здании школы под управлением ДИТ. После успешной передачи агент удаляет локальную копию записи. Публичный разбор не устанавливает, куда файлы попадают дальше, как долго хранятся и кто получает доступ к содержимому.
Очная проверка одной панели показала, что механизм использовался не только теоретически. В рабочем каталоге /var/lib/cloudcom/agent/jobs исследователь обнаружил задания, самое раннее датировалось 16 октября 2026 года, а в последнем каталоге находился аудиофайл. Сервер может назначать время записи и досрочно останавливать процесс. Вместе со звуком агент собирает технические сведения об устройстве, сетевых интерфейсах, идентификаторе системы и MAC-адресе сетевого шлюза.
Между двумя найденными версиями программы заметно изменилось описание функций. Сборка 0.1.3 от июля называлась «Агент для аудиозаписи урока», а документация прямо говорила о записи звука в аудитории и загрузке аудиофайла. Октябрьская версия 1.1.0 получила нейтральное название «Агент обеспечивает проведение урока», упоминание записи исчезло. Одновременно разработчики удалили механизм уведомления на рабочем столе и добавили возможность временно включать программно заглушенный микрофон.
Изменилась и схема доверия к пакету. Версия 0.1.3 подписана официальным криптографическим ключом МОС
abf@os.mos.ru. У версии 1.1.0 подписи нет, хотя сборка создана в той же инфраструктуре, а до 3 ноября файл можно было скачать с mostech-cloud.mos.ru. После появления публикаций файл версии 1.1.0 с облачного сервиса удалили. Внутри пакета исследователь также обнаружил production API-ключ для обращения к school.mos.ru, причём ключ присутствовал одновременно в документации README и бинарном файле.
Интерактивные панели работают на специальной сборке операционной системы «Московской электронной школы». Сервис МОС включён в реестр российского программного обеспечения под номером 26418, правообладателем указана Москва. При регистрации школьного оборудования система сохраняет сведения об образовательной организации, корпусе и кабинете. В результате конкретную панель, с которой поступает запись, технически можно связать с конкретным помещением.
Автор разбора утверждает, что учителей и учеников официально не уведомляли о начале аудиозаписи. Ранняя версия программы могла показывать системное сообщение, однако в версии 1.1.0 соответствующий компонент отсутствует. Публичных документов с описанием целей записи, сроков хранения аудио и порядка доступа к материалам исследователь также не нашёл. ДИТ Москвы на момент публикации не предоставил публичного объяснения назначения mesh-agent-lesson-log. Поэтому доступные материалы подтверждают техническую возможность централизованно записывать звук и факт наличия аудиофайла на проверенной панели, но не позволяют установить полный масштаб использования системы и дальнейшую судьбу собранных записей.
Источник
Для просмотра ссылки Войди или Зарегистрируйся