Ta ameriški poslanec želi večji nadzor nad algoritmi, uporabljenimi v kazenskih sojenjih

Predstavnik Mark Takano (D CA) pravi: Pravice intelektualne lastnine ne bi smele trgati zaradi postopka.

AP Photo / J. Scott Applewhite

Ta ameriški poslanec želi večji nadzor nad algoritmi, uporabljenimi v kazenskih sojenjih

Avtorica Catherine MatacicSep 23. 2019, 16.10

Odkar je bil uveden v osemdesetih letih 20. stoletja, so dokazi DNK postali drug standard ameriških sodnih dvoran, kar je privedlo do obsodb in oproščanja tisočim obtoženim zločincem. Toda strokovnjaki se trudijo za analizo degradiranih ali onesnaženih vzorcev in mnogi so začeli uporabljati prefinjeno verjetnostno programsko opremo za genotipizacijo, da bi ocenili verjetnost, da se osumljenec iz DNK ujema z DNK na kraju zločina. Takšni tako imenovani forenzični algoritmi še zdaleč niso redki: čedalje pogosteje so uporabili za ocenjevanje ujemanja za vse, od prstnih odtisov do sodov pištole do obrazov na posnetkih varnostnih kamer.

Zagovorniki redko imajo dostop do izhodiščne kode ali drugih informacij, ki bi razložile, kako je takšna programska oprema, ki je pogosto lastniška podjetja. To je zato, ker se podjetja bojijo, da bi to razkrilo poslovne skrivnosti ali druge vrste intelektualne lastnine. Toda nepreglednost je sprožila pomisleke glede poštenosti in preglednosti.

Prejšnji teden je predstavnik Mark Takano (D CA) predstavil zakonodajo, ki bo obdolžencem, ki se soočajo z zveznimi kazenskimi ovadbami, olajšala dostop do forenzičnih algoritmov in nadalje zahtevala, da bodo proizvajalci računalniške forenzične programske opreme dosegli minimalne standarde, ki jih je določil nacionalni Inštitut za standarde in tehnologijo (NIST).

ScienceInsider je dojel Takano za razpravo o novem predlogu zakona. Ta intervju je bil urejen zaradi kratkosti in jasnosti.

V: Katere težave bi rešil ta predlog zakona?

O: Vemo, da so ljudje pogosto obsojeni s verjetnostnimi modeli, ki so edini dokaz v zadevi. Ljudje se lahko spustijo v zapor, celo izgubijo lahko življenje [samo zaradi] te oblike naključnih dokazov. Vemo pa tudi, da podjetja, ki ponujajo te tehnologije, ne želijo odpreti izvorne kode ali pojasnjevati veliko o osnovnih podatkih in jih mora vprašati obramba. Menimo, da je tukaj osnovna težava s tem. Pravice intelektualne lastnine ne bi smele ovirati ustreznega postopka.

V: Katera od teh forenzičnih tehnologij vas najbolj skrbi?

O: Dokazi DNK [iz] verjetnostne programske opreme za genotipizacijo za analizo DNK. Videti je, da je resnično vklenjena resnica, na enak način, kot je pred mnogimi desetletji test detektorja laži [naredil]. Znanost lahko privede do lažne gotovosti za porote in sodnike. Popolnoma je primerno in dejansko potrebno, da porote in sodniki razumejo meje tehnologije in kako deluje.

V: Ta predlog zakona poziva NIST, naj preizkusi forenzično programsko opremo. Kaj bi bilo to testiranje?

O: Očitno bi njihovi analitiki gledali na tehnologijo, da bi preverili, kakšne so omejitve, kakšne so možnosti, in [bi] pogledali, kaj znanost o podatkih piše in kako ti algoritmi delujejo. Spodbujali bi jih, naj [vprašajo podjetja]: Te ste preskusili, ali nam lahko pokažete podatke? Ali obstaja stopnja napak, ki kaže na nesorazmeren vpliv na manjšine, na primer, če so manjšine napačno opredeljene? "Menimo, da bi bilo treba gledati na vsak kot v smislu, kako ti sistemi lahko izpadejo.

V: Kaj je spodbudilo ta predlog zakona?

O: Veliko govorim o zaprtju moje družine med drugo svetovno vojno in japonski ameriški internaciji. Kakšna je povezava tam? To je povezano s pravicami do zasebnosti, s postopkom. Hkrati to pomaga ohranjati tekočo vlado s tehnologijo in kongresu pomaga razumeti najnovejšo tehnologijo. Nevarnost je, da - ne glede na to, ali gre za glasovalne sisteme, ki so videti svetle, svetleče ali lepe majhne črne škatle, ki izpljujejo rezultat - državljani in porote ter sodniki in tožilci ter odvetniki [ne] razumejo, kako delujejo ti sistemi.

V: S katerimi izzivi se spopada ta predlog zakona?

O: Mislim, da je to splošno vprašanje, kako poskušati pritegniti pozornost članov, pozornost kolegov in pridobiti ključne člane pododborov, da to izberejo in razumejo osnovno vprašanje. Mislim, da so vse to zelo dosegljive stvari. Druga ovira je, da je pravosodni odbor [Predstavniškega doma] trenutno veliko na svoji plošči. [Takano se je skliceval na preiskave obtožbe zoper predsednika Donalda Trumpa.] Teme, ki pritegnejo več pozornosti, so v tem trenutku lahko moja ovira. Ampak mislim ... da je to primer, ko ameriški narod razume [potrebo], zato bi bil [trud] lahko dvostranski.