Firmy vyvíjajúce umelú inteligenciu upozorňujú na riziká autonómnych zbraní

Značky: umelá inteligenciazbrane

DSL.sk, 21.8.2017

Desiatky zakladateľov a šéfov spoločností z oblasti umelej inteligencie a robotiky dnes v otvorenom liste upozorňujú Organizáciu spojených národov na vážne riziká autonómnych zbraní riadených umelou inteligenciou namiesto ľudského ovládania.

"Keď budú vyvinuté, umožnia aby sa ozbrojené konflikty viedli v rádovo väčšom rozsahu ako kedykoľvek doteraz a rýchlosťou väčšou ako im dokážu ľudia porozumieť. Môžu byť zbraňami teroru, zbraňami ktoré despoti a teroristi používajú proti nevinnému obyvateľstvu a zbraňami, ktoré budú hacknuté aby sa správali nežiadúcim spôsobom," upozorňujú na riziká smrtiacich autonómnych zbraní.

Experti upozorňujú, že ľudstvo nemá dlho na reakciu a keď sa Pandorina skrinka autonómnych zbraní otvorí, bude ťažké ju zavrieť.

Autonómne zbrane budú podľa nich znamenať tretiu revolúciu v zbrojení.

V liste experti explicitne nežiadajú zákaz týchto zbraní, žiadajú ale OSN a zúčastnené krajiny aby našli spôsob ako nás ochrániť pred týmito rizikami, aby zabránili hromadnému zbrojeniu týmito zbraňami, ochránili pred nimi civilistov a zabránili destabilizačným efektom týchto technológií.

Vzhľadom na popísané riziká je otázne či je k dispozícii iné riešenie ako zákaz týchto zbraní.

Pod listom je podpísaný okrem iného zakladateľ spoločnosti DeepMind vyvíjajúcej pokročilú inteligenciu, ktorá porazila najlepších ľudí v Go, a v súčasnosti je vlastnená Google, Mustafa Suleyman. Nechýba ani podpis Elona Muska, ktorý bol v minulosti v DeepMind investorom a opakovane upozorňuje na riziká umelej inteligencie a jej rýchly vývoj.

Informácie z otvoreného listu zároveň naznačujú, že otázka nemá v súčasnosti v OSN a medzi krajiny dostatočnú prioritu. OSN aktuálne síce už zriadila expertnú pracovnú skupinu ohľadom smrtiacich autonómnych zbraňových systémov. Tá mala mať práve dnes prvé zasadanie, to sa ale podľa listu neuskutoční kvôli nezaplateným príspevkom štátov do OSN a bolo odložené na november.

Podobný list bol už OSN adresovaný pred dvomi rokmi, vtedy bol podpísaný najmä expertami z akademickej sféry. Pod tento list sa podpísali aj Stephen Hawking a tiež Musk.

Výzva pred dvomi rokmi bola explicitnejšia, žiadala priamo zákaz autonómnych zbraní riadených umelou inteligenciou a upozorňovala, že vzhľadom na súčasný stav technológie umelej inteligencie by takéto zbrane mohli byť vyvinuté do niekoľkých rokov.

Takéto zbrane by boli podľa vtedajších upozornení expertov dostupnejšie ako viaceré iné súčasné účinné zbraňové technológie hromadného ničenia a hoci by v regulárnych konfliktoch mohli eliminovať počet obetí, znižovali by tiež bariéry pre vstup do ozbrojených konfliktov a hlavne by mohli byť efektívne použiteľné na atentáty, selektívnu likvidáciu časti populácie, napríklad podľa etnika, destabilizáciu celých národov.




Najnovšie články:



Diskusia:

clovek Od: :Pjetro de | Pridané: 21.8.2017 9:40 no treba dufat ze to nehrozi, ze ludstvo nebude tak sproste ako v sci-fi filmoch a neda pravomoc pouzivat vojensky zbranovy potencial nejakej AI a ze konecne rozhodnutie bude robit vzdy clovek Odpovedať Známka: -1.8 Hodnotiť:

Re: clovek Od: syntaxterrorXXX | Pridané: 21.8.2017 9:50 Inteligencia, trenovana hrami s cieľom vyhrať, sa priekazne rozhodne riadit pisomnymi odporucaniami protistrany, lebo jej zrazu dobre chce. Odpovedať Známka: 4.4 Hodnotiť:

kde ukradnú gayovia deti? Od: trapne otázky | Pridané: 21.8.2017 9:52 Prečo by gayovia nemohli mať deti? Prečo by umelá inteligencia nemohla ovládnuť svet? Odpovedať Známka: 2.4 Hodnotiť:

Re: kde ukradnú gayovia deti? Od reg.: roob_ | Pridané: 21.8.2017 9:54 gayovia nemozu mat (vlastne) deti z principu a umela inteligencia moze ovladnut svet lahko Odpovedať Známka: 7.9 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: cha cha | Pridané: 21.8.2017 10:00 Môžu mať majú na to právo. A s takouto loggiou raz ľudstvo nahradia inteligentná kosačka s právom voliť. Odpovedať Známka: 3.3 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: trapne otázky | Pridané: 21.8.2017 10:02 Ak dokážu roboty pochodovať s transparentami, tak majú právo aj viesť vlastnú vojnu. Odpovedať Známka: 7.9 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: cha cha | Pridané: 21.8.2017 10:05 takže OSN by si mala zadovážiť vlastnú atomovku, aby ju mohla odpáliť v atmosfére a pomocou EMP vypnúť všetku elektroniku a vrátiť nás 100 rokov do bezpečia. Odpovedať Známka: 8.7 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: 778665875 | Pridané: 21.8.2017 10:08 To by nepomohlo, ostali by všetky konvenčné zbrane navádzané manuálne. Do pár rokov by ľudia dokázali bojovať aj bez elektroniky. Odpovedať Známka: 5.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: cha cha | Pridané: 21.8.2017 10:16 Keby mali Nemci robotov, tak by prečislili Rusov. Ale nemali dosť ludi aby sa premnožili. Odpovedať Známka: -10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: Boston Dynamics | Pridané: 21.8.2017 10:53 Google robot Atlas alebo dron + rozpoznávanie tváre + strelná zbraň :) Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: pingmeter | Pridané: 21.8.2017 12:54 a uz by sa mu ten tipek s hokejkou neodvazil trieskat po krabici :) Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od reg.: akoze | Pridané: 21.8.2017 13:32 zatial vo verzii ked mu mozes (musis) j.bnut po hlave http://www.rouming.cz/roumingGIF.php?gif=44954 Odpovedať Známka: 7.5 Hodnotiť:

Re: kde ukradnú gayovia deti? Od reg.: ujo horar | Pridané: 22.8.2017 9:31 20x som si to musel pozriet ake je to dobre na ujebavanie sa... a pytam sa... kde asi urobili indicki programatori pracujuci pre google chybu? Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: syntaxterrorXXX | Pridané: 22.8.2017 9:52 Nuz, priekazne pri rozhodovani primarne optimalizovat nie svoju cinnost. Odpovedať Hodnotiť:

Re: kde ukradnú gayovia deti? Od reg.: roob_ | Pridané: 21.8.2017 10:40 prava na deti sa vzdali, ked sa rozhodli sulozit s rovnakym pohlavim. To je asi take, ze ked chcem mat ryzen, nemozem si kupit intel dosku.. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: fuj hovno | Pridané: 21.8.2017 10:56 volá sa to turecká antikoncepcia Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: Shasho | Pridané: 21.8.2017 10:05 Jojo je vedecky dokazane, ze gajovia a gajky su sterilny. Odpovedať Známka: -10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: trapne otázky | Pridané: 21.8.2017 10:07 to asi nie ale očividne sú nechápavý. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: cha cha | Pridané: 21.8.2017 10:10 Ja si viem predstaviť, že by som celý život strávil vo virtuálnom prostredí. Bol by to dokonalí život. Ale roznožovať by som sa musel v reálnom svete s gravitáciou. Odpovedať Známka: 5.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: syntaxterrorXXX | Pridané: 21.8.2017 10:27 Roznožovanie je možné aj mimo a bez nej, zato ale rozmnožovanie nepatrí ani medzi občianske povinnosti a ani medzi garantované práva. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: cha cha | Pridané: 21.8.2017 10:29 Bez gravitácie nie, bez inteligencie sa to da. Odpovedať Známka: 6.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: jozisko | Pridané: 21.8.2017 10:27 Mars je ideálny na vojnu robotov. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: taglajf | Pridané: 21.8.2017 11:07 mozu mat,len je to komplikovane a realne bude dieta genetickym nositelom len jedneho z otcov/matiek Odpovedať Hodnotiť:

Re: kde ukradnú gayovia deti? Od: syntaxterrorXXX | Pridané: 21.8.2017 11:10 Dieta nie je mozne mat, iba niest zan pravnu zodpovednost. Samozrejme s výnimkou napriklad statov s otrokarskym zriadenim. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od reg.: roob_ | Pridané: 21.8.2017 11:17 zivot nieje film Sexmisia.. na umele oplodnenie stale potrebujes mat 3 veci.. vajicko, spermiu a zivu zenu. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: asdfa | Pridané: 21.8.2017 9:57 ak si ich dokazu splodit, nech maju kolko chcu Odpovedať Známka: 7.3 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: trapne otázky | Pridané: 21.8.2017 10:20 Je lacnejšie si ich ukradnúť teda pardon kúpiť z Ruska, Afriky alebo Činy. Odpovedať Známka: 8.2 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: náhradná matka | Pridané: 21.8.2017 10:33 Alebo môžeš oplodniť nejakú socku a potom jej ho ukradnúť za finančnú kompenzáciu. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: smutnéeeee | Pridané: 21.8.2017 10:58 alebo obviníš suseda, že obťažuje svoje deti a zveria ti ich do opatere a ešte dostaneš štátnu dotáciu pre týrané deti. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: old | Pridané: 23.8.2017 10:06 mozu splodiť akurat tak hovno Odpovedať Hodnotiť:

Re: kde ukradnú gayovia deti? Od: jannak | Pridané: 21.8.2017 10:06 Pretože prakticky stoja v opozícii tak proti teistickému ako aj ateistickému svetonázoru. Podľa náboženských kreacionistov je homosexualita hriechom, podľa evolucionistov odporuje prirodzenému výberu a nemožnosťou mať deti smeruje k prirodzenému zániku. Odpovedať Známka: 10.0 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: homolobbying | Pridané: 21.8.2017 10:41 Vôbec nie. Je to spôsob ako preukázať ochotu kolaborovať. Ak chceš dotáciu z amorálnych fondov, musíš preukázať pružnosť svojej morálky. Ak človeka zlomíš, bude poslušne bez reptania plniť akékoľvek tvoje požiadavky v budúcnosti. Odpovedať Známka: 4.3 Hodnotiť:

Re: kde ukradnú gayovia deti? Od: Hamster. | Pridané: 22.8.2017 9:54 Prečo by sme mali mať "teplé" rodiny? Pre Boha to je aký obraz sveta?? A ešte dvaja buzeranti aby opatrovali dieťa?? To čo z neho vyrastie? Zasa len buzík... To hádam nie! Odpovedať Známka: -2.0 Hodnotiť:

Re: clovek Od reg.: palqo | Pridané: 21.8.2017 10:05 Vies ako koncia ludia, ktori dufaju namiesto konania? Pozri si ucebnicu dejepisu... Odpovedať Hodnotiť:

Janka ma meniny Od: Swampy | Pridané: 21.8.2017 9:57 ...A my prekujeme svoje mikrovlnky na magnetronove dela.. a zas bude dobre. Odpovedať Známka: 10.0 Hodnotiť:

Re: Janka ma meniny Od: optimista | Pridané: 21.8.2017 10:48 Lenže človek dokážte vraždiť 8-12hodin denne a robot 24 x 365 tak hádaj kto vyhrá. Odpovedať Známka: 7.1 Hodnotiť:

Re: Janka ma meniny Od reg.: akoze | Pridané: 21.8.2017 17:10 neboj, AI vymysli ucinny humanny a rychly sposob ukoncovania zivotnych funkcii. prvych ludi to asi bude zozaciatku boliet a budu pri tom nasmrt vystraseny ale potom to uz pojde jedna radost, ani nebudes vediet a nebudes. Odpovedať Známka: 10.0 Hodnotiť:

mozno sa len hrali Od: qwerty/z | Pridané: 21.8.2017 10:04 mozno sa len hrali Call of Duty: Black ops II Odpovedať Známka: 10.0 Hodnotiť:

Re: mozno sa len hrali Od: taglajf | Pridané: 21.8.2017 11:08 ked pisal hawking tak skor Black Ops III Odpovedať Hodnotiť:

Zlaté pravidlo UI Od: MoKy | Pridané: 21.8.2017 11:59 Nikdy nepodceňuj schopnosti umelej inteligencie. Ani v dobrom ani v zlom samozrejme. Odpovedať Známka: 10.0 Hodnotiť:

sakle na hlave Od: prdlajs | Pridané: 21.8.2017 12:01 "...žiadajú ale OSN a zúčastnené krajiny aby našli spôsob ako nás ochrániť pred týmito rizikami" Ziadaju tu trojpismenkovu organizaciu, ktorej rozhodnutia krajina s najsilnejsou armadou sveta (USA) pravidelne ignoruje a ma v nej pravo veta? Chlapci dnes hulili riadne silny matros. Odpovedať Známka: -2.0 Hodnotiť:

Prevratná spolupráca členov OSN Od: _Majko_ | Pridané: 21.8.2017 15:31 Firmy vyvíjajúce umelú inteligenciu upozorňujú na riziká autonómnych zbraní preto, pretože umelá inteligencia je ako hračka, nebezpečná hračka v rukách zbraní. Majitelia zbraní, výrobcovia zbraní, objednávatelia zbraní, používatelia zbraní, potenciálne obete zbraní, by mali užšie spolupracovať na takých hračkách, ktoré nahradia zbrane, aby umelá inteligencia nemusela riešiť hračky zbraňových hier, vedúcich priamo k rizikám. Odpovedať Hodnotiť:

redakcia mat tam chybu. Od: Ivan G. | Pridané: 21.8.2017 15:47 Ahojte,chybu na mate konci clanku, citujem "destabilizáciu celých národov" spravne Nadorov by byt malo. Odpovedať Známka: 10.0 Hodnotiť:

Re: redakcia mat tam chybu. Od: Ivan G. | Pridané: 21.8.2017 15:50 * malo byt, sorry za preklep Odpovedať Známka: 10.0 Hodnotiť:

Magori sa vždy nájdu Od: Hamster. | Pridané: 22.8.2017 10:30 Najskôr vymyslia atómovú bombu a potom sa jej boja? Vždy sa nájde nejaký magor, čo to zneužije. A nemusí sa ani volať Kim... Odpovedať Známka: 2.0 Hodnotiť:

Re: Magori sa vždy nájdu Od: kirtap | Pridané: 24.8.2017 12:00 ...a KIM ako prvy vymysli DI, cize umelu demenciu... Odpovedať Hodnotiť:

Pridať komentár