Kāpēc tas ir laiks, lai apturētu akli ticēt liels datu

algoritmi izlemt tagad, kas apstiprina aizdevuma, apdrošināšanas vai kurš saņem uzaicinājumu uz interviju, bet bieži viņi to dara negodīgi. Un tas tikai palielina plaisu starp iedzīvotāju slāņiem.

Keitija O'Neill (Ketija O'Neil)

Matemātiķis, par finanšu tirgu analīzi speciālists, autors grāmatas "ieroču matemātisko sakāvi."

Lai izveidotu algoritmu, mums ir divas lietas: datu (kas ir noticis pagātnē) un definīciju veiksmīgu iznākumu (to, ko jūs vēlaties atrast, izmantojot šo algoritmu). Pēc tam tā nosaka, kādiem kritērijiem radīt veiksmīgu iznākumu. Bet definīcija panākumu nevar būt universāla.

Algoritms - ir kāds cits viedoklis, iebūvēto kodu.

Mēs izmantojām domāt, ka algoritmi ir objektīva un uzticama, bet tas ir tikai mārketinga triks, kas paredzēti, lai iebiedētu mums un padara mūs uzticos algoritmu un matemātiskajām datiem.

O'Neill min piemērus, kur algoritmi var radīt nopietnu kaitējumu. Tas notiek, novērtējot darbiniekus. Piemēram, 2011. gadā skolu Vašingtonas apgabalā ir noraidījusi vairāk nekā 200 skolotāji pēc to

Turklāt algoritmi bieži vien ir iemesls izņemšanu nobīdīti spriedumu. Ziņas organizācija ProPublica nesen veica izmeklēšanu un atrastsTas algoritmi, kas nosaka, ka recidīva risku, strādā objektīvi. Tajā pašā noziegumiem teikumus bieži izņemts melnajiem amerikāņiem.

Mēs visi esam pakļauti aizspriedumiem, un mēs nest tos uz algoritmu, kas nolemj, kuras dati ir jāņem vērā.

Algoritmi ir vienkārši atkārtojot savas pagātnes kļūdas, automatizēt esošo kārtību. Tāpēc mēs nevaram akli uzticēties viņiem, mums ir nepieciešams, lai pārbaudītu tos ir mērķis: pārdomāt definīciju veiksmīgu iznākumu, kļūdu, nav apdrošināti jebkuru algoritmu. Cik bieži tās notiek, un kurš tiek ietekmēts? Kāda ir maksa par šādu kļūdu?

Profesionāļi, kas strādā ar datiem, nevajadzētu būt noregulējumā taisnīguma. Ir pienācis laiks pārtraukt akli ticēt lielie dati.