Prečo je AI rastúcou súčasťou systému trestného súdnictva

Prečo je AI rastúcou súčasťou systému trestného súdnictva

Kredit: Shutterstock


Technológia rozpoznávania tváre je všade okolo nás – je to na koncertoch, letiskách a bytových domoch. Ale jeho používanie orgánmi činnými v trestnom konaní a súdnymi sieňami vyvoláva osobitné obavy o súkromie, spravodlivosť a zaujatosť, tvrdí Jennifer Lynch, riaditeľka pre spory v oblasti dohľadu v Electronic Frontier Foundation. Niektoré štúdie ukázali, že niektoré z hlavných systémov rozpoznávania tváre sú nepresné.Softvér Amazonu nesprávne identifikované 28 členov Kongresu a spojili ich s kriminálnymi výstrelmi. Tieto nepresnosti bývajú oveľa horšie pre farebných ľudí a ženy.

Medzitým spoločnosti ako Amazon, Microsoft a IBM tiež vyvíjajú a predávajú algoritmy „rozpoznania emócií“, ktoré tvrdia, že identifikujú emócie človeka na základe výrazov tváre a pohybov. Ale odborníci na výraz tváre, ako napríklad Lisa Feldman Barrett, profesorka psychológie na Northeastern University, varujú, že je veľmi nepravdepodobné, že by tieto algoritmy dokázali odhaliť emócie len na základe výrazov tváre a pohybov.



Umelá inteligencia sa objavuje aj v súdnych sieňach vo forme „hodnotenia rizík“ – algoritmy predpovedajú, či je niekto vo vysokom „riziku“, že sa nedostaví na súd alebo bude znovu zatknutý. Štúdie zistili, že tieto algoritmy sú často nepresné a na základe chybné údaje.

A hoci máme tendenciu vidieť stroje a algoritmy ako „rasovo neutrálne“, Ruha Benjamin, profesorka afro-amerických štúdií na Princetonskej univerzite, hovorí, že sú naprogramované ľuďmi a môžu skončiť skôr posilnením zaujatosti, ako odstránením z polície a trestného súdnictva. . Sharad Goel, profesor Management Science and Engineering na Stanfordskej univerzite, zároveň vyvíja nástroj na hodnotenie rizík, ktorý zodpovedá za rôzne zdroje zaujatosti. Myslí si, že existuje spôsob, ako využiť AI ako nástroj na dosiahnutie rovnocennejších výsledkov v trestnom súdnictve.

Títo hostia sa pripojili k Ira, aby hovorili o tom, ako AI riadi rozhodnutia policajných oddelení a súdnych siení v celej krajine – a či by sme sa tým mali obávať.


Rozpoznávanie tváre 101

Ako funguje technológia rozpoznávania tváre?
Rozpoznávanie tváre si predstavte ako svoj „odtlačok tváre“. Počítačový program analyzuje vašu jedinečnú štruktúru tváre, ako je vzdialenosť medzi vašim nosom a perami, a mapuje tieto kľúčové črty na existujúci obrázok – alebo obyčajne oproti databáze existujúcich obrázkov – na porovnanie. Táto technológia môže byť použitá aj v „reálnom čase“. Napríklad niektoré policajné útvary môžu skenovať tváre okoloidúcich pomocou monitorovacej kamery. Avšak váš odtlačok tváre je menej presné ako odtlačok prsta, keď sa technológia používa v reálnom čase alebo vo veľkých databázach.

Ako sa používa?
Rozpoznávanie tváre sa používa na vašu identifikáciu – a to môže znamenať veľa vecí. iPhone X využíva technológiu na odomknutie smartfónu, keď sa jednoducho pozriete na obrazovku. Rozpoznávanie tváre sa stalo aj nástrojom presadzovania práva. Imigračné a colné orgány USA majú ťažili databázy DMV štátov, ktoré udeľujú vodičské preukazy imigrantom bez dokladov, a čínskym orgánom sa to podarilo lokalizovať a zatknúť muž v 60-tisícovom dave na koncerte. Inzerenti sa tiež začali ponoriť do technológie. Desiatky nákupných centier Westfield v Austrálii a na Novom Zélande využívajú digitál billboardy so vstavanými kamerami, ktoré dokážu určiť vek, pohlavie a dokonca aj náladu divákov – a v priebehu niekoľkých sekúnd dokážu vykúzliť prispôsobené reklamy.

Koľko ľudí je v databáze rozpoznávania tvárí?
Krátka odpoveď: Veľa. Ale určiť presné číslo je takmer nemožné. Vieme však, že v sieťach presadzovania práva na rozpoznávanie tváre je viac ako 117 miliónov ľudí, podľa a správa z Georgetown Law Center on Privacy and Technology. Úrad vlády navyše zistil, že v štvorročnom období FBI vedený viac ako 118 000 vyhľadávaní v rámci rozpoznávania tváre vo svojej databáze a Microsoft Celeb — najväčší verejne dostupný súbor údajov o rozpoznávaní tvárí na svete — obsahuje viac ako 10 miliónov obrázkov takmer 100 000 jednotlivcov.

Ako zistím, či som v jednej z týchto databáz?
Nemôžete – a každý druhý dospelý Američan je v sieti na rozpoznávanie tvárí orgánov činných v trestnom konaní. Možno ste už nevedomky súhlasili so zverejnením obrázkov, ktoré ste nahrali sociálne siete alebo zoznamky . Vzhľadom na množstvo každodenných stretnutí, ktoré má každý s technológiou rozpoznávania tváre, s najväčšou pravdepodobnosťou áno.

Aké sú moje práva na súkromie? A robia s tým niečo mestá alebo štáty?
Pokiaľ ide o to, ako orgány činné v trestnom konaní používajú rozpoznávanie tváre, niekoľko miest túto technológiu zakázalo, ale neexistuje žiadna národná norma. Niekoľko štátov má však obmedzené obmedzenia na to, ako môžu súkromné ​​spoločnosti zhromažďovať a používať údaje na rozpoznávanie tváre. Illinois sa stalo prvým štátom, ktorý schválil legislatívu vyžadujúcu súhlas od zákazníkov, aby spoločnosti mohli zbierať a uchovávať biometrické údaje. Texas a Washington vypracovali podobné zákony. ale Illinois Biometric Information Privacy Act (BIPA) je jediný, ktorý jednotlivcom umožňuje podať žalobu proti spoločnostiam za porušenie. Nedávno federálny súd rozhodol, že používatelia môžu teraz žalovať Facebook za nezákonné používanie technológie rozpoznávania tváre. Okrem toho E.U. plánuje väčšie regulácie.


Ďalšie čítanie: