0643
L-għodda tal-AI favorita tal-pulizija tħassar awtomatikament l-evidenza ta’ meta ntużat l-AI
L-għodda tal-pulizija tal-AI hija mfassla biex tevita r-responsabbiltà, jgħid l-organizzazzjoni tal-kontroll.
Issettjar tat-test
Nhar il-Ħamis, grupp tad-drittijiet diġitali, l-Electronic Frontier Foundation, ippubblika investigazzjoni estensiva dwar rapporti tal-pulizija ġġenerati mill-AI li l-grupp allega li huma, intenzjonati, kważi impossibbli li jiġu awditjati u jistgħu jagħmluha aktar faċli għall-pulizija biex jigdbu taħt ġurament.
L-Abbozz Wieħed ta' Axon iddebutta s-sajf li għadda f'dipartiment tal-pulizija f'Colorado, u qajjem mistoqsijiet immedjati dwar l-impatti negattivi li jibżgħu minnhom ir-rapporti tal-pulizija miktuba bl-AI fuq is-sistema tal-ġustizzja kriminali. L-għodda tiddependi fuq varjant ta' ChatGPT biex tiġġenera rapporti tal-pulizija bbażati fuq l-awdjo tal-kamera tal-ġisem, li l-pulizija mbagħad suppost jeditjaw biex jikkoreġu kwalunkwe żball, jivvalutaw l-outputs tal-AI għal preġudizzji, jew iżidu kuntest ewlieni.
Iżda l-EFF sabet li t-teknoloġija "tidher iddisinjata biex tfixkel kwalunkwe tentattiv ta' awditjar, trasparenza, u responsabbiltà." Il-pulizija m'għandhomx għalfejn jiżvelaw meta l-AI tintuża f'kull dipartiment, u Draft One ma jsalvax abbozzi jew iżomm rekord li juri liema partijiet tar-rapporti huma ġġenerati mill-AI. Id-dipartimenti lanqas ma jżommu verżjonijiet differenti ta' abbozzi, u dan jagħmilha diffiċli biex jiġi vvalutat kif verżjoni waħda ta' rapport tal-AI tista' titqabbel ma' oħra biex tgħin lill-pubbliku jiddetermina jekk it-teknoloġija hijiex "junk," qalet l-EFF. Dan iqajjem il-mistoqsija, issuġġeriet l-EFF, "Għaliex aġenzija ma tkunx trid iżżomm rekord li jista' jistabbilixxi l-eżattezza tat-teknoloġija?"
Vidjo tal-Ars
Bħalissa huwa diffiċli li tkun taf jekk il-pulizija humiex qed jeditjaw ir-rapporti jew "japprovaw l-abbozzi b'mod riflessiv biex jimxu 'l quddiem malajr kemm jista' jkun," qalet l-EFF. Dan huwa partikolarment inkwetanti, innotat l-EFF, peress li Axon żvelat lil mill-inqas dipartiment wieħed tal-pulizija li "diġà kien hemm okkażjoni meta l-inġiniera skoprew bug li ppermetta lill-uffiċjali f'mill-inqas tliet okkażjonijiet jaqbżu l-'guardrails' li suppost jiskoraġġixxu lill-uffiċjali milli jissottomettu rapporti ġġenerati mill-AI mingħajr ma jaqrawhom l-ewwel."
L-għodda tal-AI tista' wkoll tkun qed "teċċedi l-aspettattivi fl-interpretazzjoni tagħha tal-awdjo," possibilment tinterpreta ħażin slang jew iżżid kuntest li qatt ma ġara.
"Tħassib ewlieni," qalet l-EFF, huwa li r-rapporti tal-AI jistgħu jagħtu lill-pulizija "paraventu tad-duħħan," forsi saħansitra jippermettulhom jevitaw konsegwenzi talli jigdbu fuq il-pedana tax-xhieda billi jwaħħlu fl-għodda tal-AI għal kwalunkwe "lingwaġġ preġudikat, ineżattezzi, interpretazzjonijiet ħżiena, jew gideb" fir-rapporti tagħhom.
"M'hemm l-ebda rekord li juri jekk il-ħati kienx l-uffiċjal jew l-AI," qalet l-EFF. "Dan jagħmilha estremament diffiċli jekk mhux impossibbli li jiġi vvalutat kif is-sistema taffettwa r-riżultati tal-ġustizzja maż-żmien."
Skont l-EFF, Draft One "jidher iddisinjat apposta biex jevita awditi li jistgħu jipprovdu xi responsabbiltà lill-pubbliku." F'filmat wieħed minn diskussjoni madwar mejda tonda li rreveda l-EFF, maniġer tal-prodott prinċipali anzjan ta' Axon għall-AI ġenerattiva faħħar l-abbozzi li qed jisparixxu ta' Draft One bħala karatteristika, fejn spjega, "aħna ma naħżnux l-abbozz oriġinali u dan huwa intenzjonat u dan huwa verament għaliex l-aħħar ħaġa li rridu nagħmlu hi li noħolqu aktar uġigħ ta' ras ta' żvelar għall-klijenti tagħna u l-uffiċċji tal-avukati tagħna."
L-EFF interpretat dan li jfisser li "l-aħħar ħaġa" li trid Axon "hija li l-pulizija jkollhom jipprovdu dik id-dejta lil xi ħadd (ngħidu aħna, imħallef, avukat difensur jew organizzazzjoni mingħajr skop ta' qligħ għad-drittijiet ċivili)."
"Biex isservi u tipproteġi l-interess pubbliku, l-output tal-AI għandu jiġi evalwat kontinwament u b'mod aggressiv kull meta u kull fejn jintuża," qalet l-EFF. "Iżda Axon għamlitha diffiċli apposta."
L-EFF qed tappella għal sforz nazzjonali biex jiġu mmonitorjati r-rapporti tal-pulizija ġġenerati mill-AI, li huma mistennija li jintużaw dejjem aktar f'ħafna bliet matul il-ftit snin li ġejjin, u ppubblikat gwida biex tgħin lill-ġurnalisti u oħrajn jissottomettu talbiet għal rekords biex jimmonitorjaw l-użu tal-pulizija fiż-żona tagħhom. Iżda "sfortunatament, li jinkisbu dawn ir-rekords mhuwiex faċli," ikkonfermat l-investigazzjoni tal-EFF. "F'ħafna każijiet, huwa impossibbli għalkollox."
Kelliem għal Axon ipprovda stqarrija lil Ars:
Draft One jgħin lill-uffiċjali jabbozzaw narrattiva ta’ rapport inizjali strettament mit-traskrizzjoni awdjo tar-reġistrazzjoni tal-kamera li tintlibes fuq il-ġisem u jinkludi firxa ta’ salvagwardji, inkluż teħid ta’ deċiżjonijiet uman obbligatorju f’punti kruċjali u trasparenza dwar l-użu tiegħu. L-istess bħar-rapporti narrattivi mhux iġġenerati minn Draft One, l-uffiċjali jibqgħu kompletament responsabbli għall-kontenut. Kull rapport irid jiġi editjat, rivedut, u approvat minn uffiċjal uman, biex jiġu żgurati kemm l-eżattezza kif ukoll ir-responsabbiltà. Draft One kien iddisinjat biex jirrifletti l-proċess narrattiv eżistenti tal-pulizija—fejn, kif ilu standard, ir-rapport finali u approvat biss jiġi ssejvjat u jista’ jinstab, mhux il-modifiki, iż-żidiet, jew it-tħassir interim li jsiru waqt ir-reviżjoni tal-uffiċjal jew tas-superviżur.
Mill-ewwel jum, kull meta Draft One jintuża biex jiġġenera narrattiva inizjali, l-użu tiegħu jinħażen fir-rekord diġitali tal-verifika ta' Axon Evidence li ma jistax jinbidel, li jista' jiġi rkuprat mill-aġenziji fuq kwalunkwe rapport. B'mod awtomatiku, kull rapport ta' Draft One jinkludi wkoll dikjarazzjoni ta' ċaħda ta' responsabbiltà li tista' tiġi personalizzata, li tista' tidher fil-bidu jew fit-tmiem tar-rapport skont il-politika tal-aġenzija. Dan l-aħħar żidna l-abbiltà għall-aġenziji li jesportaw rapporti dwar l-użu ta' Draft One —li juru kemm ġew iġġenerati u sottomessi abbozzi għal kull utent—u li jħaddmu rapporti dwar liema elementi speċifiċi ta' evidenza ntużaw ma' Draft One, u b'hekk jappoġġjaw aktar it-trasparenza u s-sorveljanza. Axon hija impenjata għal kollaborazzjoni kontinwa mal-aġenziji tal-pulizija, il-prosekuturi, l-avukati tad-difiża, l-avukati tal-komunità, u partijiet interessati oħra biex tiġbor input u tiggwida l-evoluzzjoni responsabbli ta' Draft One u t-teknoloġiji tal-AI fis-sistema tal-ġustizzja, inklużi bidliet hekk kif jevolvu l-liġijiet.
"Il-pulizija m'għandhomx jużaw l-AI"
Filwaqt li stenna li l-għodda ta' Axon x'aktarx tinfirex malajr—imqiegħda fis-suq bħala servizz add-on li jiffranka l-ħin lid-dipartimenti tal-pulizija li diġà jiddependu fuq Axon għat-tasers u l-body cameras—l-analista anzjan tal-politika tal-EFF Matthew Guariglia qal lil Ars li l-EFF malajr iffurmat pjan biex issegwi l-adozzjoni tat-teknoloġija l-ġdida.
Matul ir-rebbiegħa, l-EFF bagħtet talbiet għal rekords pubbliċi lil għexieren ta’ dipartimenti tal-pulizija li huwa maħsub li qed jużaw Draft One. Biex ifasslu t-talbiet, irrevedew ukoll manwali tal-utent ta’ Axon u materjali oħra.
Fi stqarrija għall-istampa, l-EFF ikkonfermat li l-investigazzjoni "sabet li l-prodott joffri karatteristiċi ta' sorveljanza fqar," inkluża funzjoni ta' "log tal-verifika" prattikament inutli li tidher kontradittorja man-normi tal-pulizija dwar iż-żamma tad-dejta.
Forsi l-aktar ħaġa ovvja hija li l-għodda ta' Axon ma tippermettix lid-dipartimenti "jesportaw lista tal-uffiċjali tal-pulizija kollha li użaw Draft One," innota l-EFF, jew saħansitra "jesportaw lista tar-rapporti kollha maħluqa minn Draft One, sakemm id-dipartiment ma jkunx adatta l-proċess tiegħu." Minflok, Axon jippermetti biss esportazzjonijiet ta' logs bażiċi li juru azzjonijiet meħuda fuq rapport partikolari jew l-attività bażika ta' utent individwali fis-sistema, bħal logins u uploads. Dan jagħmilha "kważi impossibbli li ssir anke l-aktar analiżi statistika bażika: kemm uffiċjali qed jużaw it-teknoloġija u kemm-il darba," qalet l-EFF.
Kwalunkwe sforz biex jiġu analizzati n-numri jkun jieħu ħafna ħin, skont l-EFF. F'xi dipartimenti, huwa possibbli li wieħed ifittex ir-rekords ta' pulizija individwali biex jiddetermina meta użaw Draft One, iżda dan "jista' jfisser li wieħed irid jeżamina għexieren, mijiet, jew f'xi każijiet, eluf ta' logs ta' utenti individwali." U jkun jieħu "ammont kbir ta' ħin" simili biex jiġu magħżula r-rapporti wieħed wieħed, meta wieħed iqis "l-għadd kbir ta' rapporti ġġenerati" minn kwalunkwe aġenzija partikolari, innota l-EFF.
F'xi ġurisdizzjonijiet, il-pulizija huma meħtieġa jiżvelaw meta l-AI tintuża biex tiġġenera rapporti. U xi dipartimenti jeħtieġu dan, skont l-EFF, li għamel id-dokumenti aktar faċli biex jiġu mfittxija u min-naħa tiegħu għamel xi dipartimenti tal-pulizija aktar probabbli li jwieġbu għal talbiet ta' rekords pubbliċi mingħajr ma jitolbu tariffi eċċessivi jew jeħtieġu dewmien sostanzjali. Iżda mill-inqas dipartiment wieħed f'Indiana qal lill-EFF, "M'għandniex il-ħila li noħolqu lista ta' rapporti maħluqa permezz ta' Draft One. Mhumiex mfittxija."
Filwaqt li mhux kull pulizija jista' jfittex ir-rapporti tal-Ewwel Draft tiegħu, Axon jista', irrappurtat l-EFF, u dan jissuġġerixxi li l-kumpanija tista' ssegwi kemm il-pulizija jużaw l-għodda aħjar milli jistgħu l-pulizija nfushom.
L-EFF tittama li r-rappurtar tagħha se jnaqqas id-dipendenza dejjem tikber fuq rapporti dubjużi tal-pulizija ġġenerati mill-AI, li Guariglia qalet lil Ars li qed jirriskjaw li jsiru saħansitra aktar komuni fil-pulizija tal-Istati Uniti mingħajr intervent.
F’Kalifornja, fejn xi pulizija ilhom jużaw l-Abbozz Wieħed, ġiet introdotta abbozz ta’ liġi li tirrikjedi żvelar li jiċċara liema partijiet tar-rapporti tal-pulizija huma ġġenerati mill-AI. Dik il-liġi, jekk tiġi approvata, tkun ukoll “tirrikjedi li l-ewwel abbozz maħluq jinżamm sakemm jinżamm ir-rapport finali,” li Guariglia qalet lil Ars li jagħmel l-Abbozz Wieħed awtomatikament illegali kif imfassal bħalissa. Utah qed tikkunsidra inizjattiva simili iżda inqas robusta, innotat l-EFF.
Guariglia qal lil Ars li l-EFF tkellem ma’ difensuri pubbliċi li huma mħassba dwar kif il-proliferazzjoni ta’ rapporti tal-pulizija ġġenerati mill-AI “se taffettwa l-kontro-eżami” billi potenzjalment tagħti lill-pulizija ħati faċli meta jiġu akkużati li gidbu fuq il-pedana tax-xhieda.
Biex tiġi evitata l-kwistjoni għalkollox, mill-inqas uffiċċju ta' avukat distrettwali wieħed f'King County, Washington, ipprojbixxa r-rapporti tal-pulizija tal-AI, u kkwota "tħassib leġittimu dwar xi wħud mill-prodotti fis-suq bħalissa." Guariglia qal lil Ars li wieħed mit-tħassib ewlieni tal-avukat distrettwali kien li l-użu tal-għodda tal-AI jista' "jipperikola l-każijiet." L-EFF issa qed tħeġġeġ "prosekuturi oħra biex jagħmlu l-istess u jitolbu li l-pulizija fil-ġurisdizzjoni tagħhom ma joħorġux dan il-prodott tal-AI ġdid, mhux responsabbli, u intenzjonalment opak."
"Il-pulizija m'għandhomx jużaw l-AI biex jiktbu rapporti tal-pulizija," qal Guariglia. "Hemm wisq mistoqsijiet mhux imwieġba dwar kif l-AI tittraduċi l-awdjo ta' sitwazzjonijiet, jekk il-pulizija fil-fatt hix se teditja dawk l-abbozzi, u jekk il-pubbliku qatt ikunx jista' jgħid x'inkiteb minn persuna u x'inkiteb minn kompjuter. Dan qabel ma naslu għall-kwistjoni ta' kif dawn ir-rapporti jistgħu jwasslu għal problemi f'sistema ta' ġustizzja kriminali li diġà hija inġusta u mhux trasparenti."
Din l-istorja ġiet aġġornata biex tinkludi stqarrija minn Axon.
Ritratt ta' Ashley Belanger