neprihlásený Streda, 22. novembra 2017, dnes má meniny Cecília   DonaskaKvetov.sk - donáška kvetov v SR a zahraničí Pošli kvety
Firmy vyvíjajúce umelú inteligenciu upozorňujú na riziká autonómnych zbraní

Značky: umelá inteligenciazbrane

DSL.sk, 21.8.2017


Desiatky zakladateľov a šéfov spoločností z oblasti umelej inteligencie a robotiky dnes v otvorenom liste upozorňujú Organizáciu spojených národov na vážne riziká autonómnych zbraní riadených umelou inteligenciou namiesto ľudského ovládania.

"Keď budú vyvinuté, umožnia aby sa ozbrojené konflikty viedli v rádovo väčšom rozsahu ako kedykoľvek doteraz a rýchlosťou väčšou ako im dokážu ľudia porozumieť. Môžu byť zbraňami teroru, zbraňami ktoré despoti a teroristi používajú proti nevinnému obyvateľstvu a zbraňami, ktoré budú hacknuté aby sa správali nežiadúcim spôsobom," upozorňujú na riziká smrtiacich autonómnych zbraní.

Experti upozorňujú, že ľudstvo nemá dlho na reakciu a keď sa Pandorina skrinka autonómnych zbraní otvorí, bude ťažké ju zavrieť.

Autonómne zbrane budú podľa nich znamenať tretiu revolúciu v zbrojení.

V liste experti explicitne nežiadajú zákaz týchto zbraní, žiadajú ale OSN a zúčastnené krajiny aby našli spôsob ako nás ochrániť pred týmito rizikami, aby zabránili hromadnému zbrojeniu týmito zbraňami, ochránili pred nimi civilistov a zabránili destabilizačným efektom týchto technológií.

Vzhľadom na popísané riziká je otázne či je k dispozícii iné riešenie ako zákaz týchto zbraní.

Pod listom je podpísaný okrem iného zakladateľ spoločnosti DeepMind vyvíjajúcej pokročilú inteligenciu, ktorá porazila najlepších ľudí v Go, a v súčasnosti je vlastnená Google, Mustafa Suleyman. Nechýba ani podpis Elona Muska, ktorý bol v minulosti v DeepMind investorom a opakovane upozorňuje na riziká umelej inteligencie a jej rýchly vývoj.

Informácie z otvoreného listu zároveň naznačujú, že otázka nemá v súčasnosti v OSN a medzi krajiny dostatočnú prioritu. OSN aktuálne síce už zriadila expertnú pracovnú skupinu ohľadom smrtiacich autonómnych zbraňových systémov. Tá mala mať práve dnes prvé zasadanie, to sa ale podľa listu neuskutoční kvôli nezaplateným príspevkom štátov do OSN a bolo odložené na november.

Podobný list bol už OSN adresovaný pred dvomi rokmi, vtedy bol podpísaný najmä expertami z akademickej sféry. Pod tento list sa podpísali aj Stephen Hawking a tiež Musk.

Výzva pred dvomi rokmi bola explicitnejšia, žiadala priamo zákaz autonómnych zbraní riadených umelou inteligenciou a upozorňovala, že vzhľadom na súčasný stav technológie umelej inteligencie by takéto zbrane mohli byť vyvinuté do niekoľkých rokov.

Takéto zbrane by boli podľa vtedajších upozornení expertov dostupnejšie ako viaceré iné súčasné účinné zbraňové technológie hromadného ničenia a hoci by v regulárnych konfliktoch mohli eliminovať počet obetí, znižovali by tiež bariéry pre vstup do ozbrojených konfliktov a hlavne by mohli byť efektívne použiteľné na atentáty, selektívnu likvidáciu časti populácie, napríklad podľa etnika, destabilizáciu celých národov.


      Zdieľaj na Twitteri



Najnovšie články:

Elektronické schránky majú znovu problémy, už týždne
NASA má na Marse problém s kolesami, vyvinula nové lepšie
iPhone bude zrejme podporovať dve SIM
Všetky PC s modernými Intel CPU hacknuteľné, kvôli firmvéru zahrnutého ME procesoru
HBO mal hacknúť Iránec, ktorý pre armádu útočil na nukleárne systémy. Cez loginy zamestnancov
Všetky ilúzie sú preč, Android posiela svoju približnú polohu. Aj s vypnutou lokalizáciou a bez SIM
Prvý objekt z inej hviezdnej sústavy, ktorý tesne minul Zem, vyzerá ako veľké torpédo
Ďalšie spájanie veľkých výrobcov CPU a radičov, Marvell kupuje Cavium
Klon Raspberry Pi Model B za 9 dolárov
O2 chcelo využiť 17.11. Kritizovalo socializmus, pre chybu nasadilo reálnu cenzúru


Diskusia:
                               
 

no treba dufat ze to nehrozi, ze ludstvo nebude tak sproste ako v sci-fi filmoch a neda pravomoc pouzivat vojensky zbranovy potencial nejakej AI a ze konecne rozhodnutie bude robit vzdy clovek
Odpovedať Známka: -1.8 Hodnotiť:
 

Inteligencia, trenovana hrami s cieľom vyhrať, sa priekazne rozhodne riadit pisomnymi odporucaniami protistrany, lebo jej zrazu dobre chce.
Odpovedať Známka: 4.4 Hodnotiť:
 

Prečo by gayovia nemohli mať deti?
Prečo by umelá inteligencia nemohla ovládnuť svet?

Odpovedať Známka: 2.4 Hodnotiť:
 

gayovia nemozu mat (vlastne) deti z principu a umela inteligencia moze ovladnut svet lahko
Odpovedať Známka: 7.9 Hodnotiť:
 

Môžu mať majú na to právo.
A s takouto loggiou raz ľudstvo nahradia inteligentná kosačka s právom voliť.
Odpovedať Známka: 3.3 Hodnotiť:
 

Ak dokážu roboty pochodovať s transparentami, tak majú právo aj viesť vlastnú vojnu.
Odpovedať Známka: 7.9 Hodnotiť:
 

takže OSN by si mala zadovážiť vlastnú atomovku, aby ju mohla odpáliť v atmosfére a pomocou EMP vypnúť všetku elektroniku a vrátiť nás 100 rokov do bezpečia.
Odpovedať Známka: 8.7 Hodnotiť:
 

To by nepomohlo, ostali by všetky konvenčné zbrane navádzané manuálne. Do pár rokov by ľudia dokázali bojovať aj bez elektroniky.
Odpovedať Známka: 5.0 Hodnotiť:
 

Keby mali Nemci robotov, tak by prečislili Rusov.
Ale nemali dosť ludi aby sa premnožili.
Odpovedať Známka: -10.0 Hodnotiť:
 

Google robot Atlas alebo dron
+
rozpoznávanie tváre
+
strelná zbraň
:)

Odpovedať Známka: 10.0 Hodnotiť:
 

a uz by sa mu ten tipek s hokejkou neodvazil trieskat po krabici :)
Odpovedať Známka: 10.0 Hodnotiť:
 

zatial vo verzii ked mu mozes (musis) j.bnut po hlave
http://www.rouming.cz/roumingGIF.php?gif=44954
Odpovedať Známka: 7.5 Hodnotiť:
 

20x som si to musel pozriet ake je to dobre na ujebavanie sa...
a pytam sa... kde asi urobili indicki programatori pracujuci pre google chybu?
Odpovedať Známka: 10.0 Hodnotiť:
 

Nuz, priekazne pri rozhodovani primarne optimalizovat nie svoju cinnost.
Odpovedať Hodnotiť:
 

prava na deti sa vzdali, ked sa rozhodli sulozit s rovnakym pohlavim. To je asi take, ze ked chcem mat ryzen, nemozem si kupit intel dosku..
Odpovedať Známka: 10.0 Hodnotiť:
 

volá sa to turecká antikoncepcia
Odpovedať Známka: 10.0 Hodnotiť:
 

Jojo je vedecky dokazane, ze gajovia a gajky su sterilny.
Odpovedať Známka: -10.0 Hodnotiť:
 

to asi nie ale očividne sú nechápavý.
Odpovedať Známka: 10.0 Hodnotiť:
 

Ja si viem predstaviť, že by som celý život strávil vo virtuálnom prostredí.
Bol by to dokonalí život.
Ale roznožovať by som sa musel v reálnom svete s gravitáciou.
Odpovedať Známka: 5.0 Hodnotiť:
 

Roznožovanie je možné aj mimo a bez nej, zato ale rozmnožovanie nepatrí ani medzi občianske povinnosti a ani medzi garantované práva.
Odpovedať Známka: 10.0 Hodnotiť:
 

Bez gravitácie nie, bez inteligencie sa to da.
Odpovedať Známka: 6.0 Hodnotiť:
 

Mars je ideálny na vojnu robotov.
Odpovedať Známka: 10.0 Hodnotiť:
 

mozu mat,len je to komplikovane a realne bude dieta genetickym nositelom len jedneho z otcov/matiek
Odpovedať Hodnotiť:
 

Dieta nie je mozne mat, iba niest zan pravnu zodpovednost. Samozrejme s výnimkou napriklad statov s otrokarskym zriadenim.
Odpovedať Známka: 10.0 Hodnotiť:
 

zivot nieje film Sexmisia.. na umele oplodnenie stale potrebujes mat 3 veci.. vajicko, spermiu a zivu zenu.
Odpovedať Známka: 10.0 Hodnotiť:
 

ak si ich dokazu splodit, nech maju kolko chcu
Odpovedať Známka: 7.3 Hodnotiť:
 

Je lacnejšie si ich ukradnúť teda pardon kúpiť z Ruska, Afriky alebo Činy.

Odpovedať Známka: 8.2 Hodnotiť:
 

Alebo môžeš oplodniť nejakú socku a potom jej ho ukradnúť za finančnú kompenzáciu.
Odpovedať Známka: 10.0 Hodnotiť:
 

alebo obviníš suseda, že obťažuje svoje deti a zveria ti ich do opatere a ešte dostaneš štátnu dotáciu pre týrané deti.
Odpovedať Známka: 10.0 Hodnotiť:
 

mozu splodiť akurat tak hovno
Odpovedať Hodnotiť:
 

Pretože prakticky stoja v opozícii tak proti teistickému ako aj ateistickému svetonázoru. Podľa náboženských kreacionistov je homosexualita hriechom, podľa evolucionistov odporuje prirodzenému výberu a nemožnosťou mať deti smeruje k prirodzenému zániku.
Odpovedať Známka: 10.0 Hodnotiť:
 

Vôbec nie.
Je to spôsob ako preukázať ochotu kolaborovať.
Ak chceš dotáciu z amorálnych fondov, musíš preukázať pružnosť svojej morálky.

Ak človeka zlomíš, bude poslušne bez reptania plniť akékoľvek tvoje požiadavky v budúcnosti.
Odpovedať Známka: 4.3 Hodnotiť:
 

Prečo by sme mali mať "teplé" rodiny? Pre Boha to je aký obraz sveta?? A ešte dvaja buzeranti aby opatrovali dieťa?? To čo z neho vyrastie? Zasa len buzík...
To hádam nie!
Odpovedať Známka: -2.0 Hodnotiť:
 

Vies ako koncia ludia, ktori dufaju namiesto konania? Pozri si ucebnicu dejepisu...
Odpovedať Hodnotiť:
 

...A my prekujeme svoje mikrovlnky na magnetronove dela.. a zas bude dobre.
Odpovedať Známka: 10.0 Hodnotiť:
 

Lenže človek dokážte vraždiť 8-12hodin denne a robot 24 x 365 tak hádaj kto vyhrá.
Odpovedať Známka: 7.1 Hodnotiť:
 

neboj, AI vymysli ucinny humanny a rychly sposob ukoncovania zivotnych funkcii. prvych ludi to asi bude zozaciatku boliet a budu pri tom nasmrt vystraseny ale potom to uz pojde jedna radost, ani nebudes vediet a nebudes.
Odpovedať Známka: 10.0 Hodnotiť:
 

mozno sa len hrali Call of Duty: Black ops II
Odpovedať Známka: 10.0 Hodnotiť:
 

ked pisal hawking tak skor Black Ops III
Odpovedať Hodnotiť:
 

Nikdy nepodceňuj schopnosti umelej inteligencie. Ani v dobrom ani v zlom samozrejme.
Odpovedať Známka: 10.0 Hodnotiť:
 

"...žiadajú ale OSN a zúčastnené krajiny aby našli spôsob ako nás ochrániť pred týmito rizikami"

Ziadaju tu trojpismenkovu organizaciu, ktorej rozhodnutia krajina s najsilnejsou armadou sveta (USA) pravidelne ignoruje a ma v nej pravo veta? Chlapci dnes hulili riadne silny matros.
Odpovedať Známka: -2.0 Hodnotiť:
 

Firmy vyvíjajúce umelú inteligenciu upozorňujú na riziká autonómnych zbraní preto, pretože umelá inteligencia je ako hračka, nebezpečná hračka v rukách zbraní. Majitelia zbraní, výrobcovia zbraní, objednávatelia zbraní, používatelia zbraní, potenciálne obete zbraní, by mali užšie spolupracovať na takých hračkách, ktoré nahradia zbrane, aby umelá inteligencia nemusela riešiť hračky zbraňových hier, vedúcich priamo k rizikám.
Odpovedať Hodnotiť:
 

Ahojte,chybu na mate konci clanku, citujem "destabilizáciu celých národov" spravne Nadorov by byt malo.
Odpovedať Známka: 10.0 Hodnotiť:
 

* malo byt, sorry za preklep
Odpovedať Známka: 10.0 Hodnotiť:
 

Najskôr vymyslia atómovú bombu a potom sa jej boja?

Vždy sa nájde nejaký magor, čo to zneužije.
A nemusí sa ani volať Kim...
Odpovedať Známka: 2.0 Hodnotiť:
 

...a KIM ako prvy vymysli DI, cize umelu demenciu...
Odpovedať Hodnotiť:

Pridať komentár