Машина беспристрастна

https://geektimes.ru/post/276284/

Алгоритм предсказания
преступников и будущих жертв
беспокоит правозащитников, хотя
он показал удивительную точность
(более 70% жертв огнестрела в
Чикаго в 2016 году были в списке,
заранее составленном
программой).
В последнее время аналитические
программы начали использовать в
судах. Судья должен определить,
наказать преступника по
минимальной или максимальной
строгости, предусмотренной
законом для конкретного
преступления. В этом случае
программа на основе имеющихся
данных вычисляет так
называемый «показатель оценки
риска» (risk assessment score).
Этот показатель определяет
вероятность повторения
преступления и, соответственно,
влияет на тяжесть приговора.
Так вот, тщательный анализ
результатов работы программы,
проведённый ProPublica , выявил
странную тенденцию: по какой-то
причине для афроамериканцев
(негров) программа выдаёт более
высокую оценку риска, чем для
белых. Другими словами, алгоритм
проявляет расовую
дискриминацию! И это при том,
что эту программу специально
внедряли в судебную систему Алгоритм предсказания
преступников и будущих жертв
беспокоит правозащитников, хотя
он показал удивительную точность
(более 70% жертв огнестрела в
Чикаго в 2016 году были в списке,
заранее составленном
программой).
В последнее время аналитические
программы начали использовать в
судах. Судья должен определить,
наказать преступника по
минимальной или максимальной
строгости, предусмотренной
законом для конкретного
преступления. В этом случае
программа на основе имеющихся
данных вычисляет так
называемый «показатель оценки
риска» (risk assessment score).
Этот показатель определяет
вероятность повторения
преступления и, соответственно,
влияет на тяжесть приговора.
Так вот, тщательный анализ
результатов работы программы,
проведённый ProPublica , выявил
странную тенденцию: по какой-то
причине для афроамериканцев
(негров) программа выдаёт более
высокую оценку риска, чем для
белых. Другими словами, алгоритм
проявляет расовую
дискриминацию! И это при том,
что эту программу специально
внедряли в судебную систему
именно для того, чтобы исключить
такую дискриминацию.
именно для того, чтобы исключить
такую дискриминацию.

Компания Northpointe уверяет, что
раса подозреваемого ни в коем
случае не учитывается при
анализе. Но учитываются другие
факторы, которые сильно
коррелируют с расой: уровень
образования, статус занятости,
криминальная история
родственников, приём
запрещённых наркотиков
друзьями/знакомыми и т.д. Вес
каждого фактора в итоговой
оценке засекречен — это
проприетарный алгоритм компании
Northpointe.

И о настоящей дискриминации.

И: ...пойми, в бюджетном сегменте нет значительной разницы. Нужно просто выбирать более-менее приличное на ту сумму, которую собираешься потратить.
Erm: Угу. Но меня утомили асусовские легкие корпусы на защелках и конструкция, требующая полную разборку для регламентных работ. И извини меня, когда делл/хелет при сравнимом железе и обвесе стоят ценой вровень с ноутами второго-третьего эшелонов, я начинаю подозревать, что кто-то охренел. Особенно асер, который вообще "асус для бедных".
И: это бюджетный сегмент.
Erm: Бюджетность не отменяет разницы уровней. Условному хуйвею нужно быть или мощнее или дешевле условного самсунга. При равных характеристиках и цене выбор будет не в пользу хуйвея