Hoppá: Nagymamát tartóztattak le egy mesterséges intelligencia hibája miatt
Súlyos jogsértés és technológiai hiba áldozata lett egy idős amerikai nő, akit egy arcfelismerő szoftver téves azonosítása miatt vettek őrizetbe a hatóságok. Az eset rávilágít a rendőrségi munkában használt mesterséges intelligencia kockázataira, miután a rendszer egy bűncselekmény helyszínén rögzített felvétel alapján tévesen mutatta ki az egyezést a nagymama és az elkövető között. A nőt annak ellenére tartották fogva, hogy semmilyen egyéb bizonyíték nem szólt ellene.
A Clearview AI által fejlesztett technológia az interneten fellelhető több milliárd fényképet használja fel az azonosításhoz, azonban az algoritmus pontatlansága miatt egy teljesen ártatlan állampolgár került rács mögé. Az érintett nő elmondása szerint a letartóztatás mély nyomokat hagyott benne, hiszen korábban soha nem volt dolga a törvénnyel, és a családja is értetlenül állt a történtek előtt. A hatóságok csak napokkal később ismerték el, hogy a szoftver hibázott, és az azonosítás nem volt megbízható.
Az eset komoly vitákat váltott ki az Egyesült Államokban az arcfelismerő rendszerek szabályozásáról és a rendőrségi alkalmazásukról. Jogvédők szerint elfogadhatatlan, hogy egy automatizált algoritmus döntése alapján bárkit megfosszanak a szabadságától anélkül, hogy az adatokat humán elemzők alaposan ellenőriznék. A bírósági eljárás során kiderült, hogy a rendszer gyakrabban hibázik bizonyos etnikai csoportok vagy idősebb korosztályok esetében, ami további aggályokat vet fel a technológia elfogulatlanságával kapcsolatban.
A tévesen megvádolt nagymama most jogi lépéseket fontolgat az érintett techcég és a rendőrség ellen a meghurcoltatása miatt. Az ügy hatására több városban is kezdeményezték az ilyen típusú szoftverek használatának felfüggesztését a nyomozati szakaszban. A szakértők szerint ez az eset intő jel minden olyan szervezet számára, amely kritikus döntéseket bíz a mesterséges intelligenciára anélkül, hogy megfelelő kontrollmechanizmusokat építene be a rendszerbe.
Fotó: Angela Lipps / GoFundMe
