Zaudēt Kontroli: Slepkavas Robotu Briesmas (Op-Ed)

{h1}

Mašīnas, kas var mērķēt un nogalināt cilvēkus bez cilvēka iejaukšanās vai atbildības, rada morālus draudus pasaulei.

Jaunā tehnoloģija var likt cilvēkiem atteikties no kontroles pār lēmumiem par letāla spēka izmantošanu. Tā kā mākslīgais intelekts attīstās, strauji tuvojas iespēja, ka mašīnas varētu patstāvīgi izvēlēties un šaut uz mērķiem. Pilnībā autonomi ieroči, kas pazīstami arī kā “slepkavas roboti”, ātri pāriet no zinātniskās fantastikas pasaules uz realitāti.

Šie ieroči, kas varētu darboties uz sauszemes, gaisā vai jūrā, draud satraucošā veidā mainīt bruņotos konfliktus un tiesībaizsardzību. Atbalstītāji saka, ka šie slepkavas roboti ir nepieciešami tāpēc, ka mūsdienu kaujas kustas tik ātri, un tāpēc, ka, ja roboti veic kaujas, karavīri un policisti netiktu pakļauti kaitēkļiem. Bet draudi cilvēcei būtu lielāki par militāriem vai tiesībaizsardzības ieguvumiem.

Cilvēku izslēgšana no mērķa lēmuma radītu bīstamu pasauli. Mašīnas dzīvību un nāvi varētu noteikt ārpus cilvēka kontroles. Palielināsies nesamērīga kaitējuma vai kļūdainas civiliedzīvotāju mērķtiecības risks. Nevienu personu nevarēja saukt pie atbildības.

Ņemot vērā pilnīgi autonomo ieroču morālos, juridiskos un atbildības riskus, nevar gaidīt, kamēr viņi ierodas, izstrādājot, ražojot un lietojot. Labākais veids, kā novērst šos draudus, ir starptautisks, juridiski saistošs ieroču aizliegums, kam nav jēgpilnas cilvēku kontroles.

Empātijas un sprieduma saglabāšana

Vismaz 20 valstis ASV sanāksmēs ir paudušas pārliecību, ka cilvēkiem vajadzētu diktēt mērķu izvēli un iesaistīšanos. Daudzi no viņiem ir atkārtojuši argumentus, kas izklāstīti jaunā ziņojumā, kura galvenā autore es biju. Ziņojumu aprīlī izdeva Human Rights Watch un Hārvardas Juridiskās skolas Starptautiskā cilvēktiesību klīnika - divas organizācijas, kas rīkojas par pilnībā autonomu ieroču aizliegumu.

Cilvēka kontroles saglabāšana pār ieročiem ir morāls pienākums. Tā kā viņiem piemīt empātija, cilvēki var izjust emocionālu svaru, nodarot kaitējumu citam indivīdam. Viņu cieņa pret cilvēka cieņu var - un tam vajadzētu būt - kā slepkavības pārbaudi.

Turpretī robotiem trūkst patiesu emociju, ieskaitot līdzjūtību. Turklāt nedzīvas mašīnas nevarēja patiesi izprast kāda cilvēka dzīvības vērtību, kuru viņi izvēlējās uzņemties. Ļaujot viņiem noteikt, kad lietot spēku, tiktu mazināta cilvēka cieņa.

Cilvēku kontrole veicina arī starptautisko tiesību ievērošanu, kas ir paredzēti, lai aizsargātu gan civiliedzīvotājus, gan karavīrus. Piemēram, kara likumi aizliedz nesamērīgus uzbrukumus, kuros paredzamie civilie zaudējumi pārsniedz paredzamās militārās priekšrocības. Cilvēki var izmantot savu spriedumu, pamatojoties uz iepriekšējo pieredzi un morālajiem apsvērumiem, un katrā atsevišķā gadījumā noteikt proporcionalitāti.

Tomēr gandrīz neiespējami atkārtot šo spriedumu pilnībā autonomos ieročos, un tos nevarēja ieprogrammēt, lai apstrādātu visus scenārijus. Rezultātā šie ieroči nespētu darboties kā "saprātīgi komandieri", kas ir tradicionālais tiesiskais standarts sarežģītu un neparedzamu situāciju risināšanai.

Turklāt cilvēku kontroles zaudēšana apdraudētu mērķa tiesības netikt patvaļīgi atņemtam dzīvībai. Šo cilvēka pamattiesību ievērošana ir pienākums tiesībaizsardzības, kā arī militāro operāciju laikā. Lai novērtētu uzbrukuma nepieciešamību, ir nepieciešami sprieduma izsaukumi, un cilvēki ir labākā situācijā nekā mašīnas, lai tos izdarītu.

Atbildības veicināšana

Turot cilvēku prātā lēmumiem par spēka izmantošanu, tiek nodrošināta atbildības par nelikumīgām darbībām iespējamība. Saskaņā ar starptautiskajām krimināltiesībām operators cilvēks vairumā gadījumu izvairās no atbildības par kaitējumu, ko nodarījis ierocis, kurš darbojies neatkarīgi. Ja vien viņš vai viņa tīši neizmanto pilnīgi autonomu ieroci nozieguma izdarīšanai, būtu negodīgi un juridiski problemātiski turēt operatoru atbildīgu par robota rīcību, kuru operators nevarēja ne novērst, ne sodīt.

Pastāv papildu šķēršļi, lai atrastu programmētājus un pilnībā autonomu ieroču ražotājus, kas ir atbildīgi saskaņā ar civiltiesībām, kuros cietušais iesniedz prasību tiesā pret iespējamo likumpārkāpēju. Piemēram, Amerikas Savienotās Valstis lielākajai daļai ieroču ražotāju nosaka imunitāti. Tam ir arī augsti standarti, lai pierādītu, ka izstrādājumam ir trūkumi tādā veidā, kas ražotāju padarītu juridiski atbildīgu. Jebkurā gadījumā upuriem no citām valstīm, visticamāk, trūks piekļuves un naudas, lai iesūdzētu tiesā ārvalstu vienību. Atšķirība atbildībā vājinātu nelikumīgu darbību atturēšanu un upurus paliktu neapmierinātiem ar to, ka kāds tiek sodīts par viņu ciešanām.

Iespēja izmantot

ASV sanāksmē Ženēvā aprīlī 94 valstis ieteica sākt oficiālas diskusijas par "letālajām autonomām ieroču sistēmām". Sarunās tiks apsvērts, vai šīs sistēmas būtu jāierobežo saskaņā ar Konvenciju par parastajiem ieročiem - atbruņošanās līgumu, kas regulē vai aizliedz vairākus citus ieročus, ieskaitot aizdedzinošos ieročus un apžilbinošos lāzerus. Nācijas, kas pievienojušās līgumam, decembrī tiksies pārskata konferencē, lai noteiktu turpmāko darbu darba kārtību. Ir ārkārtīgi svarīgi, lai dalībnieki vienotos sākt oficiālu procesu par nāvējošām autonomām ieroču sistēmām 2017. gadā.

Atbruņošanās likums nodrošina precedentu, lai pieprasītu cilvēku kontroli pār ieročiem. Piemēram, starptautiskā sabiedrība pieņēma plaši pieņemtos līgumus, kas lielā mērā aizliedz bioloģiskos ieročus, ķīmiskos ieročus un sauszemes mīnas, jo cilvēki nespēj pienācīgi kontrolēt to ietekmi. Tagad valstīm vajadzētu aizliegt pilnībā autonomus ieročus, kas radītu vienādu vai lielāku humanitāro risku.

Decembra pārskata konferencē valstīm, kas ir pievienojušās Konvencijai par parasto ieročiem, būtu jāveic konkrēti pasākumi šā mērķa sasniegšanai. Viņiem jāuzsāk sarunas par jaunu starptautisku nolīgumu, lai pievērstos pilnīgi autonomiem ieročiem, pārsniedzot vispārējas bažas par īpašām darbībām. Viņiem vajadzētu atvēlēt pietiekami daudz laika 2017. gadā - vismaz vairākas nedēļas - būtiskām apspriedēm.

Kaut arī starptautisko tiesību izstrādes process ir bēdīgi lēns, valstis var ātri rīkoties, lai novērstu pilnībā autonomu ieroču draudus. Viņiem vajadzētu izmantot iespēju, ko piedāvā pārskata konference, jo alternatīva nav pieņemama: Tehnoloģiju atļaušana pārsniegt diplomātiju radītu drausmīgas un nepārspējamas humānās sekas.

Bonija Dhertija, tiesību lektore, Hārvarda Juridiskās skolas Starptautiskās cilvēktiesību klīnikas vecākā klīniskā instruktore, Hārvardas universitāte

Šis raksts sākotnēji tika publicēts vietnē The Conversation. Izlasiet oriģinālo rakstu.

Zaudēt Kontroli: Slepkavas Robotu Briesmas (Op-Ed)


Video Papildinājums: Suspense: 'Til the Day I Die / Statement of Employee Henry Wilson / Three Times Murder.




Pētniecība


Šī Floridas Pilsēta Ir Nācijas Vislaimīgākā Jau Trešo Gadu Pēc Kārtas
Šī Floridas Pilsēta Ir Nācijas Vislaimīgākā Jau Trešo Gadu Pēc Kārtas

Senā Jeruzaleme Atdzīvojas Jaunā Virtuālās Realitātes Lietotnē
Senā Jeruzaleme Atdzīvojas Jaunā Virtuālās Realitātes Lietotnē

Zinātne Ziņas


Viss Par Mani: Spēcīgi Cilvēki Iedvesmo Sevi
Viss Par Mani: Spēcīgi Cilvēki Iedvesmo Sevi

Elektroenerģijas Pamati: Pretestība, Induktivitāte Un Kapacitāte
Elektroenerģijas Pamati: Pretestība, Induktivitāte Un Kapacitāte

2012. Gads: Neaizmirstams Laika Apstākļu Gads
2012. Gads: Neaizmirstams Laika Apstākļu Gads

Okeāna Lielākie Viļņi Kļūst Vēl Lielāki
Okeāna Lielākie Viļņi Kļūst Vēl Lielāki

Pēc Teroristu Uzbrukuma Pārāk Daudz Tv Var Būt Kaitīgs
Pēc Teroristu Uzbrukuma Pārāk Daudz Tv Var Būt Kaitīgs


LV.WordsSideKick.com
Visas Tiesības Aizsargātas!
Pavairošana Materiālu Atļauts Tikai Prostanovkoy Aktīvu Saiti Uz Vietni LV.WordsSideKick.com

© 2005–2024 LV.WordsSideKick.com