Cookies   I display ads to cover the expenses. See the privacy policy for more information. You can keep or reject the ads.

Video thumbnail
Europeisk lag skyddar dig från automatiserade beslut. Vilket låter som en liten sak, men om ett
automatiserat system gör meningsfulla beslut om ditt liv - om du ska få en löneförhöjning,
eller om du ska få en varning för att du kom sent till jobbet -- så måste du få veta att det
var ett automatiserat beslut, och du måste ha möjligheten att få det granskat av en människa. Åt minstonde,
i europa. Och en viktig sak, du kan be ett företag att aldrig göra ett automatiserat beslut
om dig och dom måste följa det. Det gäller inte småsaker som
personlighets-quiz online, om inte quizzet bestämmer -- utan att en människa vet -- om
du är en säker person att låna pengar till.
men dom är alla väldigt välvilliga automatiska system, även om det kanske inte känns så
när du just har fått avslag på ett lån.
Men om det automatiserade systemet är menat att skada människor då?
jag har filmat vid den här tanken en gång förut. Det är en gammal sovjetisk T-34 stridsvagn, placerad här i
London två decennier av en arg lokalboende som blev nekad tillstånd att bygga på den här
biten land... men han hade tillstånd att förvara fordon här. Eller så fick han tillstånd
att förvara en "tank" där, för att kommunen trodde att han prata om nån sorts
förvarings tank, inte en faktisk T-34. Historien har blivit lite rörig över de senaste tjugo åren eller så.
Men den här stridsvangen är designad för människor. Den är designad för människo-soldater som gör mänskliga beslut.
Och det konceptet kanske inte stämmer länge till.
Så, den Amerikanska armén gav nyligen ut en rapport som kallas visualisera det taktiska mark-slagfältet
år 2050. Vilket låter som en ganska töntig serietidning, men det är faktiskt intressant
att läsa, och den har några saker att säga om automatiserade beslut.
Den Amerikanska armén tror att människor kommer att vara oförmögna att hantera all information som kommer bli
kastad på dom under framtida kamper. Hur fort datorer kan bearbeta information säger den kommer inte
vara en begränsande faktor, och som människor växer och blir mer vana vid automatiserade beslut, men
självklart kommer vi bli glada att använda de i slagfälten med. Om du har en soldat som är nöjd med att ha autopilot
påslaget i sin bil, självfallet kommer dom vara nöjda med att göra exakt samma sak
med en stridsvagn och gevär.
"slagets takt" -- och jag säger exakt som dom sa
"slagets takt kommer öka tills punkten då, i många sammanhang människor inte kommer kunna
bibehålla sin aktiva status, och stället kommer människor bara kunna
se vad som händer... och agera i efterhand eller i förhand.
så: den Amerikanska armén tror att de, inom de närmaste deccenierna kommer ha
automatiska vapen som kommer ha beteendemönster som en ingenjör kommer
behöva försöka "debug" medans den avfyrar ammunition. Om du är en programerare
som jobbar med en open-source dator-syn eller kollision-undvikande, eller, säg, något som t. ex. flockande
beteende algorithmer, finns det en chans att din kod kommer bli en del av det. Och
om du du har nån invädning mot det: bra för dig, men det kommer inte hindra nån.
Och jag misstänker att allt Europas legislation kan göra kommer inte hjälpa alls när du har
en av dom här som bokstavligen bestämmer