Zanimljivo

Programiramo li automobile ubojice? Etika autonomnih vozila

Programiramo li automobile ubojice? Etika autonomnih vozila

Tokom proteklih nekoliko godina u automobile su ugrađene sve više i više autonomnih karakteristika. I samo nekoliko mjeseci unazad, Tesla je objavio sljedeći video u kojem se pohvalio postizanjem „Potpunog samovođenja“.

U članku iz Techopedije izviješteno je da su čak i ranije Teslini automobili sadržavali "neophodan hardver za autonomnu vožnju", iako je aktiviranje sposobnosti ovisilo o ažuriranju softvera. Članak je također predvidio razliku između načina na koji će se danas autonomni automobili razlikovati od onih u budućnosti.

Trenutno su Teslini automobili opremljeni potrebnim hardverom za autonomnu vožnju, ali za potpuno omogućavanje funkcije potrebna su ažuriranja softvera. Iako će omogućiti potpuno autonomnu vožnju, i dalje će omogućiti ljudskom vozaču da preuzme kontrolu kada situacija zahtijeva intervenciju.

Novoj generaciji autonomnih vozila, međutim, neće trebati upravljači, pedale ili mjenjači. Prednost takvih automobila je mogućnost smanjenja nezgoda i osiguravanje potrebnog prijevoza za ljude koji nisu sposobni za vožnju poput starijih osoba ili osoba sa oštećenjem vida ili tjelesnog oštećenja.

Ali postoji i potencijalna mana: potreba da ljudska agencija koja postavlja program automobila predvidi sve moguće scenarije i da usmeri automobil na donošenje vrsta prosudbi koje ljudi moraju kad scenarij poziva na akciju koja će neizbježno izazvati neke oblik štete.

Iako je Tesla možda najpoznatije ime na AI frontu za vozila, sigurno nije jedini igrač na ovom rastućem tržištu. Neka daleko časnija imena u industriji također su se uključila u postupak.

POVEZANO: ZANIMLJIVA POVIJEST ELEKTRIČNIH AUTOMOBILA

Bernard Marr nedavno je napisao o Toyotinoj investiciji od milijardu dolara u samovozeće automobile i AI. Kompanija je sebi postavila ciljeve koje želi postići do 2020 .:

"Kroz Toyotina ulaganja u tehnološka pokretanja kao što je Perceptive Automata, nada se da će stvoriti tehnologiju koja će omogućiti autonomnim vozilima više ljudske intuicije kada su na putu sličnija načinu na koji ljudski vozači komuniciraju s pješacima."

Rekordi sigurnosne staze za samovozu

Još nismo tamo. Ali pitanje je je li to krajnji cilj i je li to nešto čemu bismo trebali težiti bez potpunog razmatranja posljedica potpuno neovisnog automobila.

Svaka pojedinačna nesreća sa samouređenim automobilom i popis smrtnih slučajeva po devet nesreća u kojima su sudjelovala autonomna vozila, od kojih su samo četiri uzrokovale smrtne slučajeve. Uprkos tvrdnjama iz naslova, spisak je nepotpun, jer je nakon objavljivanja članka bilo smrtnih slučajeva zbog takvih nesreća.

Posljednji smrtni slučaj koji je prijavio bio je onaj koji je uključivao Teslu Model X 23. marta 2018. Vozač automobila je umro kada je udario u prepreku autoputa. Tesla je za to okrivio uplitanje barijere u sistem autonomne vožnje vozila:

"Razlog zbog kojeg je ovaj sudar bio tako težak je taj što je prigušivač sudara, sigurnosna barijera na autoputu koja je dizajnirana da smanji udar u betonski razdjelnik trake, slomljen u prethodnoj nesreći bez zamjene", rekao je Tesla u svojoj izjavi.

Kompanija je dodala: "Nikada nismo vidjeli ovakav nivo oštećenja na modelu X u bilo kojem drugom padu."

Nažalost, to ipak nije bio kraj fatalnih nesreća za Tesline samovozeće automobile. Određeni broj njih dogodio se ove godine.

Među incidentima se dogodio i jedan 1. marta 2019. Američki Nacionalni odbor za sigurnost transporta (NTSB) potvrdio je da je poluautonomni softver Autopilot bio angažiran na Tesli Model 3 kada se zabio u traktorsku prikolicu pri pokušaju prelaska preko Floride autoputa i vozač automobila je poginuo.

Iako su još uvijek relativno rijetke, u poređenju sa automobilskim nesrećama koje su prouzrokovali ljudski vozači, činjenica da ima bilo kakvih nesreća i smrtnih slučajeva uzrokovanih samovozećim automobilima ljude je zabrinula zbog njihove sigurnosti i programiranja. Zapravo, ove godine Quartz je bacio neke sumnje u Tesline sigurnosne tvrdnje.

Poput te Tesline nesreće, većina autonomnih automobilskih nesreća rezultira smrću osobe koja sjedi na vozačkom mjestu. Međutim, bilo je slučajeva da su ljude izvan automobila udarili i ubili autonomni automobili.

Najzloglasniji incident te vrste mogao bi biti onaj koji je uključivao Uber u martu 2018. godine Elaine Herzberg. 49-godišnjakinja je šetala i gurala svoj bicikl preko avenije Mille u Tempeu u državi Arizona kada ju je udario automobil Uber.

Snimak incidenta koji je objavila policija možete pogledati ovdje:

Kao rezultat toga, Uber je usvojio politiku osiguranja da u svoje automobile uključi i ljudske vozače. Priča je ovdje prijavljena: Uber vraća samovozeće automobile na posao, ali s ljudskim vozačima.

Ovo je način da Uber zaobiđe problem s kojim ćemo se morati suočiti, ako i kada potpuno autonomni automobili postanu norma: kako ih programirati da ugrade instinkt za očuvanje ljudskog života.

Programiranje AI s brigom za etiku

Kao što smo vidjeli u drugom članku, Naš hrabri novi svijet: zašto napredak AI-a izaziva etičku zabrinutost, velikom snagom AI-a dolazi velika odgovornost da utvrdimo da tehnologija ne završava pogoršavajući situacije u ime napretka. Proučavanje etike za umjetnu inteligenciju privuklo je pažnju ljudi koji razmišljaju o tome što treba učiniti prije primjene automatiziranih rješenja.

Jedan od tih ljudi je dr Paul Thagard, kanadski filozof i kognitivni naučnik, pokrenuo je neka pitanja s kojima se sada moramo suočiti u vezi s programiranjem etike u AI u Kako izgraditi etičku umjetnu inteligenciju.

Postavlja sljedeće tri prepreke:

  1. Etičke teorije su vrlo kontroverzne. Neki ljudi više vole etička načela utvrđena religijskim tekstovima poput Biblije ili Kur'ana. Filozofi raspravljaju o tome treba li se etika zasnivati ​​na pravima i dužnostima, na najvećem dobru za najveći broj ljudi ili na djelujući kreposno.
  2. Etičko postupanje zahtijeva zadovoljavanje moralnih vrijednosti, ali ne postoji saglasnost oko toga koje su vrijednosti prikladne, pa čak ni oko toga koje su vrijednosti. Bez računa o odgovarajućim vrijednostima koje ljudi koriste kada djeluju etično, nemoguće je uskladiti vrijednosti AI sistema s vrijednostima ljudi.
  3. Da bi se stvorio AI sistem koji se ponaša etički, ideje o vrijednostima i dobrom i netačnom trebaju biti dovoljno precizne da bi se mogle implementirati u algoritme, ali preciznost i algoritmi jako nedostaju u trenutnim etičkim promišljanjima.

Thagard nudi pristup za prevladavanje tih izazova, kaže, i referira se na svoju knjigu, Prirodna filozofija: od društvenih mozgova do znanja, stvarnosti, morala i ljepote. Međutim, u toku članka, on ne nudi rješenje koje se posebno odnosi na programiranje samovozećih automobila.

Samovozeći automobili i problem s kolicima

U idealnom slučaju, vozači izbjegavaju udariti bilo koga ili bilo koga. Ali moguće je naći se u situaciji u kojoj je nemoguće izbjeći sudar, a jedini izbor je koju osobu ili ljude treba udariti.

Ova etička dilema je ono što je poznato kao problem kolica, koji se, poput samog kolica, vraća više od jednog stoljeća. Općenito se prikazuje na sljedeći način:

Vidite odbjegla kolica kako se kreću prema pet vezanih (ili na drugi način onesposobljenih) ljudi koji leže na tračnicama. Stojite pored poluge koja upravlja prekidačem. Ako povučete ručicu, kolica će biti preusmjerena na bočni kolosijek, a pet osoba na glavnoj stazi bit će spremljeno. Međutim, na bočnoj stazi leži jedna osoba.

Imate dvije mogućnosti:

  1. Ne činite ništa i dopustite kolicima da ubiju pet osoba na glavnoj stazi;
  2. Povucite ručicu skrećući kolica na bočnu stazu gdje će ubiti jednu osobu.

Naravno, ovdje nema stvarno dobrog izbora. Pitanje je koja je manja od dvije loše opcije. Upravo je ovu vrstu dileme Zeleni goblin predstavio Spidermanu u filmu iz 2002. godine, pokušavajući ga prisiliti da bira između spašavanja žičare pune djece ili žene koju voli:

Kao superheroj, Spiderman je mogao iskoristiti svoje sposobnosti i snagu predenja na mreži da spasi oboje. Ali ponekad čak i superheroji moraju napraviti tragičan izbor, kao što je bio slučaj u filmu iz 2008. godineMračni vitez u kojem je Batmanov izbor bio ostaviti ženu koju je volio u zgradi koja je eksplodirala.

Dakle, čak i oni koji imaju superiorne sposobnosti ne mogu uvijek spasiti sve, a ista situacija može se primijeniti i na automobile s omogućenom inteligencijom.

Pitanje je onda: Koji etički kodeks primjenjujemo kako bismo ih programirali da donose takve odluke?

Šta treba da rade samovozeći automobili?

MIT Technology Review skrenuo je pažnju na neke istraživače koji su prije nekoliko godina radili na formuliranju odgovora u članku Kako pomoći samovozećim automobilima da donose etičke odluke. Među istraživačima na tom polju je Chris Gerdes, profesor sa Univerziteta Stanford koji istražuje "etičke dileme koje se mogu pojaviti kada se samovožnja vozila koristi u stvarnom svijetu".

Ponudio je jednostavniji izbor: rješavanje djeteta koje istrčava na ulicu, što prisiljava automobil da nešto udari, ali mu omogućava da bira između djeteta i kombija na cesti. Za čovjeka koji se uopće ne treba truditi, zaštita djeteta je važnija od zaštite kombija ili samog autonomnog automobila.

Ali šta bi AI mislio? A šta je sa putnicima u vozilu koji bi na kraju mogli zadobiti neke povrede od takvog sudara?

Gerdes je primijetio: "To su vrlo teške odluke s kojima se svakodnevno suočavaju oni koji dizajniraju algoritme upravljanja za automatizirana vozila."

U članku se također citira Adriano Alessandrini, istraživač koji radi na automatizovanim vozilima sa Univerziteta de Roma La Sapienza u Italiji, koji je služio kao šef italijanskog dijela projekta CityMobil2 sa sjedištem u Europi za testiranje automatiziranih tranzitnih vozila. Pogledajte video o tome ispod:

Ona je u ovom sažetku uvrstila problem kolica za vozače i samovozeće automobile:

„Možda vidite nešto na svom putu i odlučite promijeniti traku, a kao što je i nešto drugo nalazi se u toj traci. Dakle, ovo je etička dilema. "

Još jedan istaknuti stručnjak u toj oblasti je Patrick Lin, profesor filozofije na Cal Poly, s kojim je Geerdes radio. Linov TED-Ed na etičkim problemima u programiranju samovozećih automobila kako bi donosio odluke o životu ili smrti, predstavljen je kao eksperiment razmišljanja u ovom videu:

Da smo se vozili u tom boksovanom automobilu u ručnom načinu, na koji god način reagirali, to bi se shvatilo samo kao reakcija, a ne kao smišljena odluka ", kaže Lin u videozapisu. U skladu s tim, podrazumijeva se da je" instinktivni panični potez bez predumišljaja i zlobe. "

Vrlo stvarna mogućnost smrti koja se dogodi kao rezultat ne kvara, već kao rezultat automobila koji prate njihovo programiranje, čini toliko važnim razmišljati unaprijed o tome kako postupati s onim što Lin opisuje kao "vrsta ciljanja algoritma".

Objašnjava da bi takvi programi "sistematski favorizirali ili diskriminirali određenu vrstu predmeta na koje bi se upali".

Kao rezultat, oni koji su u "ciljnim vozilima trpjeće negativne posljedice ovog algoritma bez svoje krivnje."

On ne nudi rješenje za ovaj problem, ali to je upozorenje da moramo razmišljati o tome kako ćemo to riješiti:

"Uočavanje ovih moralnih okreta sada će nam pomoći da manevriramo nepoznatim putem tehnološke etike i omogućit će nam da pouzdano i savjesno kružimo u našu novu, hrabru budućnost."

To će se vjerovatno pokazati još većim izazovom za navigaciju od puteva kojima autonomna vozila moraju voziti.


Pogledajte video: Floating car that hovers above the streets of China (Oktobar 2021).