Действительно «знай своего клиента»! Банки развертывают системы искусственного интеллекта для мониторинга клиентов и сотрудников

0
46


Елена Буйниски — американский журналист и политический обозреватель NewsClick. Следуйте за ней в Твиттере @ velocirapture23 и в Telegram

Ряд американских банков выпустили камеры на базе искусственного интеллекта, способные как распознавать лица, так и анализировать общие поведенческие модели, что намекает на более широкое распространение в розничных магазинах и других местах — и на значительное падение доверия клиентов.

Выступая перед Reuters ранее на этой неделе, главный специалист по информационной безопасности City National Бобби Домингес попытался придать позитивный оттенок антиутопическому шагу вперед, дав интервью Reuters об этом явлении в четверг. отмечая «Мы уже используем распознавание лиц на мобильных устройствах. Почему бы не использовать это в реальном мире? »

Этот жизнерадостный подход немного противоречит секретности банков, которые уже используют такую ​​технологию — Reuters объяснил, что City National Bank of Florida, JP Morgan Chase и Wells Fargo проводили испытания систем наблюдения ИИ, но отказались сказать, когда, где, или на каком основании происходит запись. Записи хранятся месяцами? Удалили через день, если не произошло чего-то действительно сочного? И хотя City National специально упомянула, что будет отслеживать 31 сайт, использующий программное обеспечение для распознавания лиц, которое потенциально может «Находить людей в правительственных списках наблюдения» это звучит как судебный процесс, ожидающий своего часа.

Безусловно, у мини-камер в банках есть и положительные стороны. По мере того, как экономика зарывается в черную дыру, нет ничего необычного в том, чтобы увидеть кого-то, прижимавшегося к спальному мешку, в вестибюле банкомата банка, где камера искусственного интеллекта может по крайней мере отличить его от неодушевленного объекта, пока они пытаются немного поспать. Придется удалить все нежелательное! Тем не менее, это одна из тех явно американских проблем, в которых власти инстинктивно идут к неверному решению — несомненно, с почти 60 пустыми домами на каждого бездомного, имеет смысл просто сопоставить человека с лишним приютом, чем использовать оруэлловское сеть полуразумных камер, стремящихся не дать людям спать в банках.

Но к этому моменту поддельное решение уже создало множество возможностей для трудоустройства — парень, который устанавливает камеру и оказывает техническую поддержку на камеру, и парень, который сидит в своей машине или в банке, ожидая предупреждения о подозрительной активности внутри вестибюля. Ты что, работа воровала _monster_?

Это, безусловно, одно из объяснений — Чейз признал, что проводил пилотную программу поведенческого тестирования в Гарлеме, долгое время являвшемся оплотом черных в Нью-Йорке, и, хотя банк хмыкнул и болтал о риске прослыть нечувствительным к расе, в конечном итоге он все равно пошел с этим местом. ради удобства. Что касается бездомных, то руководитель службы безопасности в «южном банке среднего размера», опрошенный Reuters, на самом деле рассказал о новых инновационных мерах по борьбе с бездомными, открывающими убежища в своих вестибюлях, отметив, что системы обнаружения бездельничанья, сирены и стробоскопы, и даже наружные камеры, предназначенные для обнаружения и сдерживания «подозрительная деятельность» сразу за пределами банка в нерабочие часы. Банки настаивали на том, что они не хотели мешать людям видеть убежище, но в конечном итоге удобство снова победило.

Не все алгоритмы распознавания лиц одинаковы, и некоторые из них стали печально известны тем, что демонстрируют — как в случае исследования Американского союза гражданских свобод в 2018 году — человечности, стоящей за кодированием. ACLU в прошлом году занялся делом чернокожего, которого алгоритм искусственного интеллекта ошибочно опознал как преступника.

Другой алгоритм, Clearview AI, некоторые ненавидят как «слишком * точный», поскольку он отказывается удалять старые фотографии, взятые из старых или удаленных профилей в социальных сетях, что, возможно, нарушает законы США.

В целом, распознавание лиц продолжает оставаться в серой зоне. В частности, «умная» дверные звонки, такие как Amazon Ring, которые — часто без ведома пользователей — составляют их собственную сеть специальных камер наблюдения, передавая свои данные правоохранительным органам без ведома или согласия пользователя, действуют вне закона, подобно бесчисленным камерам, усеивающим городские улицы, но менее очевидным об их деятельности.

Но зачем слюняв, а-ля Павлов, ставить эти фотоаппараты у себя, как у банков?

«В конце концов, программа сможет выявлять людей из правительственных списков наблюдения», Домингес из Chase сказал Reuters, указав, что слежка за розничной торговлей была, по сути, приманкой. Поскольку такие списки наблюдения дают метастазы, охватывая людей, даже не подозреваемых в преступлениях, а просто связанных с людьми, подозреваемыми в преступлениях, доступ к спискам наблюдения стал обязательным. Есть больше способов попасть в такие списки наблюдения, чем когда-либо, и меньше способов выйти из них. По мере того, как количество списков растет, растет и содержащаяся в них информация, как и в вызывающих тревогу полных категориях онлайн-рекламы, используемых Google и Amazon для отслеживания своих клиентов.

В то время как Чейз, например, настаивал, что не планирует использовать «Распознавание лиц, расы и пола» во время последнего тестирования программного обеспечения, направленного на выявление моделей поведения клиентов и сотрудников в некоторых из его филиалов в Огайо, банк не был склонен говорить правду. Просто спросите сами алгоритмы — не солгут ли они вам?

Думаете, вашим друзьям будет интересно? Поделись этой историей!