Кредит: Shutterstock 
Технологията за лицево разпознаване е навсякъде около нас – на концерти, летища и жилищни сгради. Но използването му от правоприлагащите органи и съдебните зали поражда особена загриженост относно неприкосновеността на личния живот, справедливостта и пристрастието, според Дженифър Линч, директор по съдебни спорове за наблюдение във Electronic Frontier Foundation. Някои проучвания показват, че някои от основните системи за лицево разпознаване са неточни.софтуер на Amazon погрешно идентифициран 28 членове на Конгреса и ги сравнява с криминални снимки. Тези неточности са склонни да бъдат много по-зле за цветнокожи и жени.
Междувременно компании като Amazon, Microsoft и IBM също разработват и продават алгоритми за „разпознаване на емоции“, които твърдят, че идентифицират емоциите на човек въз основа на изражението на лицето и движенията му. Но експерти по изражението на лицето, като Лиза Фелдман Барет, професор по психология в Североизточния университет, предупреждават, че е изключително малко вероятно тези алгоритми да открият емоции само въз основа на изражението на лицето и движенията.
Изкуственият интелект се появява и в съдебните зали под формата на „оценки на риска“ – алгоритмите предвиждат дали някой е изложен на висок „риск“ да не се яви в съда или да бъде повторно арестуван. Проучванията са установили, че тези алгоритми често са неточно и въз основа на грешни данни.
И въпреки че сме склонни да виждаме машините и алгоритмите като „расово неутрални“, Руха Бенджамин, професор по афро-американски изследвания в Принстънския университет, казва, че те са програмирани от хора и в крайна сметка могат да засилят пристрастията, вместо да ги премахнат от полицията и наказателното правосъдие . В същото време Шарад Гоел, професор по управленски науки и инженерство в Станфордския университет, разработва инструмент за оценка на риска, който отчита различни източници на пристрастия. Той смята, че има начин да се използва AI като инструмент за по-равни резултати в наказателното правосъдие.
Тези гости се присъединяват към Ира, за да говорят за това как AI ръководи решенията на полицейските управления и съдебните зали в цялата страна – и дали трябва да се притесняваме.
Разпознаване на лица 101
Как работи технологията за лицево разпознаване?
Мислете за лицевото разпознаване като за вашия „лицев отпечатък“. Компютърна програма анализира вашата уникална структура на лицето, като разстоянието между носа и устните ви, и картографира тези ключови характеристики върху съществуващо изображение - или, обикновено, срещу база данни от съществуващи изображения - за сравнение. Технологията може да се използва и в „реално време“. Например някои полицейски управления могат сканирайте лицата на минувачите с помощта на камера за наблюдение. Все пак вашият отпечатък е такъв по-малко точен отколкото пръстов отпечатък, когато технологията се използва в реално време или в големи бази данни.
Как се използва?
Лицевото разпознаване се използва, за да ви идентифицира – и това може да означава много неща. iPhone X използва технологията за отключване на вашия смартфон, когато просто погледнете екрана. Разпознаването на лица също се превърна в инструмент за правоприлагането. Имиграционните и митническите служби на САЩ имат копаеше базите данни на DMV от държави, които дават шофьорски книжки на имигранти без документи, и китайските власти успяха локализирайте и арестувайте човек в тълпа от 60 000 на концерт. Рекламодателите също започнаха да се потапят в технологията. Десетки търговски центрове Westfield в Австралия и Нова Зеландия използват цифрови технологии билбордове с вградени камери, които могат да определят възрастта, пола и дори настроението на зрителите – и могат да измислят персонализирани реклами в рамките на секунди.
Колко души има в база данни за разпознаване на лица?
Краткият отговор: Много. Но е почти невъзможно да се определи точен брой. Ние обаче знаем, че има над 117 милиона души в мрежите на правоприлагащите органи за разпознаване на лица, според отчет от Georgetown Law Center on Privacy and Technology. В допълнение Службата за отчетност на правителството установи, че за четиригодишен период ФБР проведено над 118 000 търсения за разпознаване на лица в своята база данни и Microsoft Celeb — най-големият публично достъпен набор от данни за разпознаване на лица в света — съдържа над 10 милиона изображения на близо 100 000 лица.
Как мога да разбера дали съм в една от тези бази данни?
Не можете - и един на всеки двама възрастни американци е в мрежа на правоохранителните органи за разпознаване на лица. Може би вече несъзнателно сте се съгласили с пускането на снимките, които сте качили социални медии или сайтове за запознанства . Като се има предвид броят на срещите, които всеки има с технологията за разпознаване на лица на дневна база, вие най-вероятно сте.
Какви са моите права за поверителност? И дали някои градове или щати правят нещо по въпроса?
Що се отнася до това как правоприлагащите органи използват разпознаването на лица, няколко града са забранили технологията, но няма национален стандарт. Но няколко държави имат ограничени ограничения за това как частните компании могат да събират и използват данни за разпознаване на лица. Илинойс стана първият щат, който прие законодателство, изискващо положително съгласие от клиентите, за да могат компаниите да събират и съхраняват биометрични данни. Тексас и Вашингтон са разработили подобни закони. но на Закон за поверителност на биометричната информация на Илинойс (BIPA) е единственият, който дава право на физически лица да търсят съдебни действия срещу компании за нарушения. Наскоро федерален съд постанови, че потребителите вече могат съди фейсбук за незаконно използване на технология за лицево разпознаване. В допълнение, E.U. планира по-големи регулации.
Допълнителна информация:
- Прочетете пълните доклади на нерегламентирано полицейско използване на лицево разпознаване , и проблеми с данните и технологията от Georgetown Law Center on Privacy & Technology.
- Научете повече за Участието на Amazon в разработването на софтуер за лицево разпознаване за правоохранителните органи.
- Потопете се в доклада на Pew Research Center за общественото възприемане на технологията за разпознаване на лица.
- Уча как ЕС се справя с регулирането на биометрични данни.
- Прочетете аргумент в MIT Technology Review на опасностите от използването на исторически данни за обучение на инструменти за оценка на риска.
- Научете повече за милиарда индустрия за емоционално откриване AI.