neprihlásený Pondelok, 9. marca 2026, dnes má meniny Františka
Vedci budú skúmať, aké nebezpečenstvo nám hrozí od umelej inteligencie

DSL.sk, 26.11.2012


Vedci na britskej Cambridgskej univerzite založili nové výskumné centrum, ktorého cieľom je analyzovať potenciálne vážne hrozby hroziace ľudstvu z nových technológií.

Centrum nesie označenie Cambridge Project for Existential Risk, CPER, a jeho zakladateľmi sú jeden zo spoluzakladateľov Skype Jaan Tallinn, astrofyzik Martin Rees a filozof Huw Price.

Cieľom centra je analyzovať riziká, ktoré môžu predstavovať pre ľudstvo existenčnú hrozbu, od rozličných moderných technológií a ich vplyvov a dopadov.

Venovať sa tak má okrem iného vplyvom a rizikám nanotechnológií, extrémnych klimatických zmien v dôsledku technológií a najmä umelej inteligencie.

V oznámení vzniku CPER sa vedci venujú najmä potenciálnym rizikám plynúcim z vytvorenia všeobecnej umelej inteligencie.

"Kritickým bodom môže byť, ak počítače dosiahnu schopnosti ľudí pri písaní programov a začnú vyvíjať vlastné technológie," uvádza sa v oznámení.

Vedci v oznámení priznávajú, že v súčasnosti samozrejme nie je možné tieto riziká dostatočne dobre predvídať, práve preto je podľa nich ale potrebné riziká a hrozby začať analyzovať.



Najnovšie články:

Predaje smart okuliarov sa viac ako zdvojnásobili
Slovensko.sk má po dvojdňovej odstávke technický problém
Sociálne siete a videá mladým zakázala už aj rozvíjajúca sa Indonézia
Test odklonenia asteroidu nárazom sondy NASA bol ešte úspešnejší
LibreOffice kritizoval Európsku komisiu za vyžadovanie XLSX, pridala ODS ale chybne
Výrobca skiel Gorilla má nové keramické sklo, smartfóny majú prežiť opakované pády na asfalt
PC podľa analytikov zdražia tento rok o 17%
Pozor, dnes začína opäť dvojdňové vypnutie Slovensko.sk
Vydaný nový operačný systém pre routery OpenWrt 25.12
Železnice idú zlepšiť WiFi v stovkách vozňov


Diskusia:
                               
 

Bude to ako v sci-fi filmoch. Najrpv sa urobi studia ako by nas mohli roboti zabit, potom nasledne nejaka mudra hlava sediaca na baliku penazi rozhodne, ze ta sprava sa nema brat vazne. Nasledne ta mudra hlava spravi upravu kodu spravania umelej inteligencie a presvedci cely svet, ze umela inteligencia nam nic nemoze spravit. No a o 200 rokov na to budeme bojovat proti umelej inteligencii :)
Pomaly sa naplna scenar filmu Ja Robot a serialu Warship Galactica :)
Odpovedať Známka: 7.1 Hodnotiť:
 

1. galactica bola battlestar a 2. sa odohravala v minulosti, x 1000 rokov pred Dzizusom. Koncila dakedy ked boli ludia neandertalci.
Odpovedať Známka: 7.0 Hodnotiť:
 

Battlestar anooo....rychlo ma to nenapadlo, dakujem!
Odpovedať Známka: 8.3 Hodnotiť:
 

Dzizus to je aký džús???
Odpovedať Známka: 9.0 Hodnotiť:
 

som cital ze x 1000 rokov pred dzurindom
Odpovedať Známka: 8.3 Hodnotiť:
 

pri tom x su uz dve tisicky iba mala odchylka
Odpovedať Známka: 3.3 Hodnotiť:
 

takze aby ste to mali presne... posadka Battlestar galactica, teda "ludia" ktori prezili vojnu s cylonmi prisli na Zem 150 000 rokov pred sucastnostou. Ku koncu sa priamo hovori, ze predkom dnesneho cloveka - nas bol prvy potomok Cilona (tej paradnej aziatky :) ) s typkom co neskor hral v Dollhouse. Takze x1000 je presne 150k.
Odpovedať Známka: 5.0 Hodnotiť:
 

Myslim ze lepsie priklady su :
Terminator --> skynet
Matrix ---> Matrix

:_D

Odpovedať Známka: 9.5 Hodnotiť:
 

Mass Effect -> motherfucking Geths took over Quarians
Odpovedať Známka: 4.0 Hodnotiť:
 

Budu mat sebestacnu iteligenciu, tak hned budu chciet ovladnut cloveka, pche, zneuzivat moc a ovladat to je tak vlastne cloveku, preco by to malo byt hned vlastne aj strojom s AI ...
Odpovedať Známka: 7.8 Hodnotiť:
 

Lebo aj tu AI vymyslel clovek?
Odpovedať Známka: 9.3 Hodnotiť:
 

Ludia, vy ste strasne pozadu :D
Netreba Skynet na to, aby bola ludska civilizacia poskodena.
Len si pozrite, akym smerom podporuje vyjadrovanie a komunikaciu taky pokec/facebook a zistite, ze "damage is done" (pekny priklad tohoto je napr. duckface-ing)
Odpovedať Známka: 8.8 Hodnotiť:
 

lenze tieto veci mozem ignorovat ale takeho robota kriminalnika uz asi tazko
Odpovedať Známka: 7.1 Hodnotiť:
 

http://dopice.sk/4lv
Odpovedať Hodnotiť:
 

Inteligencia je jedna vec a VÔĽA podmienena motiváciou druhá. Nebezpečenstvo môže hroziť len z chyby v programe nie že by stroje mali vlastnú vôľu.
Odpovedať Známka: 5.5 Hodnotiť:
 

V sucastnosti a na sucastnych pocitacoch to ano. V buducnosti, ale mozu byt pocitace daleko vyspelejsie.

Predstav si, ze budu neuronove pocitace s poctom neuronov blizkym cloveku. Pouzitim genetickych algoritmov ( a fungovanim neuronovej siete podobne, ako pracuje nas mozog ) by bolo mozne vytvorit umelu entitu.
Odpovedať Známka: 3.0 Hodnotiť:
 

ked napíšeš v súčasTnosti tak napíš ja v budúcTnosti...
Odpovedať Známka: 5.2 Hodnotiť:
 

A na tento ľavopis si ako prišiel??
Odpovedať Známka: 0.0 Hodnotiť:
 

tak asi v škole, nás tam tiež učili, že súčasnosť sa píše "súčasnosť" a nie "súčastnosť"
Odpovedať Známka: 8.0 Hodnotiť:
 

stale ale nebude mat vlastnu volu, nebude si vediet vybrat ci chce jablkovy dzus ci pomarancovy. to nie je mozne definovat. akykolvek algoritmus ci definicia vychadza z predpokladu, vola nie.

Odpovedať Známka: 0.0 Hodnotiť:
 

no, už vidím, jako sa projekt,/AI Skynet - Terminator zasekne na takom, al. podobnom výbere.. to by na takú vojenskú/bojovú AI bolo dosť slabé, ne ? ;D

(napr. situacia v misii - robots aktivnou AI,samoučiacousa, napr. TX-1000, potrebuje sa na dlhšej route odviesť autom, vidí na parkovisku zaparkovaních napr. 100 roznych aut, rozne typy, velkosti, ročníky, značky a pod. - ktoré si vyberie ? ak vobec nejaké
-zadanie je - prekonať v čo najkratšom čase z A do B, v "thief"-mode)
Odpovedať Známka: 7.8 Hodnotiť:
 

taka blondinka by vyberala auto podla farby
Odpovedať Známka: -4.3 Hodnotiť:
 

Vuoľa (ak nebude mať presah...)
je len riešeňie problému ako nezomrieť.. je to jednoduché = primitívne.
Stačí ak stroj zistí že existuje vipínač, ktorím sa dá "ZABIŤ"!
A stroj jednoducho začne riešiť problém ako tomu účinne zabrániť....
áno je to jednoduché = stačí odstrániť element ovládajú ten vipínač...
Odpovedať Známka: 4.0 Hodnotiť:
 

Pes ma môže "vypnúť" tiež a stále sme ho nevypli skôr. Podľa mňa nastane hrozba ak AI vyhodnotí ľudstvo ako prekážku k dosiahnutiu stanoveného cieľa. Cieľom by mohla byť socializácia, ale to zrejme bez hmatu ešte ňáky ten páteček potrvá.
Odpovedať Známka: 3.3 Hodnotiť:
 

Vsak vyberie si na co bude mat chut :)

Odpovedať Známka: 6.7 Hodnotiť:
 

ale to až v r. 2690, modely androidov od ..napr. United space Massive Dynamic ;P ;D
tie budú už aj s akcelerátorom vyšších funkcií AI - emočný koprocesor - suprakvant.bioplazmatický metakryštál, atd.. :p
Odpovedať Známka: 6.7 Hodnotiť:
 

Poviem to inac, ty si biologicky stroj, mas DNA, svoj zakladny program. Mas vela senzorov a tvoj mozog je neuronovy pocitac. Tvoj pocitac ma pamat, vies ako co chuti. Napriklad mas nedostatok cukru. Nahodou ides okolo cukrarne. Mozog vysle signal, aby sa ti zacali tvorit sliny, dostanes chut na sladke a na zaklade predchadzajucich skusenosti si vyberies, na co mas chut.

Samotne emocie su primitivne algoritmy, ktore ti maju zvysit sancu na prezitie.

AI s vlastnou volou, ak ju niekedy ludstvo vynajde, urcite nebude zalozena na programoch, ako funguju teraz.

Odporucam pozriet serial pre laikov Through the Wormhole, kde v najnovsej serii ukazuju experiment s primitivnym neuronovym procesorom.

Alebo si mozes pozriet prednasky a dokumenty o ludskom mozgu, ako funguje, preco tak funguje,...

Otazka skor znie, preco by sme robili pocitac s vlastnou vôlou :), nie ci je to mozne.
Odpovedať Známka: 10.0 Hodnotiť:
 

Ono nemusí ísť o zneužívanie moci, aby sa konalo "zlo". Zlo je relatívne. Ak zistíme, že stroje sa začali samé učiť a zlepšovať sa, nebolo by neprirodzené, keby sa ľudia zľakli. A v strachu by sa našli zastanci jednoduchého riešenia - zničiť stroje. Kto je potom zlý? Čo ak stroje na základe chladnej matematiky vypočítajú, že efektívnejšie by bolo ľudí vyhladiť/zotročiť/doplňte ako s nimi vyjednávať mier? S emóciami sa AI vyrábať nebude, aspoň teraz to nie je produkt, po ktorom by bol dopyt.

A toto je len jeden z celkom rozumných scenárov humanity vs. AI (Mass Effect - quarians vš geth).
Odpovedať Známka: 7.1 Hodnotiť:
 

Vyjadrenie : " nasa umela inteligencia je 100% bezpecna.... Bude ovladana z centra clovekom,cize v pripade hrozby ju mozeme vypnut. "
Dalsie rozhodnutie... Nasadenie umelej inteligencie na riadenie vojenskych sil,ponoriek,odpalovacich zariadeni.... "je to bezpecneeee"
Bude sa volat SKYNET :-D
V roku XXXX je inteligencia spustena.. o par minut vyhladenych 85% ludskej populacie... Juch
Odpovedať Známka: 9.0 Hodnotiť:
 

Na AI je dobrý služobnícky džihád. :)
Odpovedať Známka: 1.4 Hodnotiť:
 

No najbližšie dva roky to je len tunel na peniaze niekomu do vrecka, v dobrom samozrejme. A neskôr to bude skôr o výskume ako vytvoriť nebezpečnú umelú inteligenciu aby vôbec mohli to nebezpečenstvo skúmať :)
Odpovedať Známka: 7.1 Hodnotiť:
 

neni kazdy slovak
Odpovedať Známka: 8.0 Hodnotiť:
 

neskoro sa zobudili, skynet uz nezastavia :P
Odpovedať Známka: 8.3 Hodnotiť:
 

a bude to vyvyjat aperture science?
Odpovedať Známka: 8.2 Hodnotiť:
 

ano a tam AI bude stavat pre ludi logicke hadanky a na ich prekonanie budu pouzivat teleport
Odpovedať Známka: 8.3 Hodnotiť:
 

Pripomína mi to tiež presne Filmy, napr. SpiderMan 2 z časti keď si nasadil tie ruky a praskol mu ten inhibítorový chip a nakoniec ten reaktor s tým tritiom, dlho som čakal na takúto správu :)
Odpovedať Známka: -5.3 Hodnotiť:
 

Akože aké riziko od AI ? Veď sú čoraz ťažšie tie strieľačky a stratégie, jedného aby z toho šľak trafil.
Odpovedať Známka: 7.8 Hodnotiť:
 

ťažšie? Ta de...
Odpovedať Známka: 5.0 Hodnotiť:
 

Ciele pre terminátora: Tallinn Jaan, Rees Martin a Huw Price.
Odpovedať Známka: 9.0 Hodnotiť:
 

nieeeee zle definujes...

ciel pre terminátora : Justin Bieber, Hanah Montana....
Odpovedať Známka: 3.3 Hodnotiť:
 

hrozba? nulová. Tak isto, ako môže niekto pozmenil AI, aby chcela zničiť ľudstvo, tak isto môže potom niekto zmeniť AI, aby chcela zachrániť ľudstvo, potom by to bol len boj AI proti AI+ľudia.
Odpovedať Známka: 1.1 Hodnotiť:
 

umela inteligencia je 100x nebezpecnejsia ako prirodzena blbost. :-) to je zname uz davno. :-)
Odpovedať Známka: 6.2 Hodnotiť:
 

som nevedel ze tych 150 trtkov v parlamente su droidi. Mnohe to ale potom vysvetluje
Odpovedať Známka: 8.2 Hodnotiť:
 

Samsung, designed for cyborgs
Odpovedať Známka: 8.7 Hodnotiť:
 

a predstav si aka nebezpecna musi byt umela demencia
Odpovedať Známka: 9.4 Hodnotiť:
 

reklama buducnosti: Novy iPhone 10, vas nezabije! The all new human friendly android 10.11! No frags... Ever!
Odpovedať Známka: 9.0 Hodnotiť:
 

ste moc paranoidný a oblbnutý z tých milion scifi filmov na tému robot vs human
Odpovedať Známka: -3.8 Hodnotiť:
 

hlavne len ty mozes byt helikoptera
Odpovedať Známka: 8.4 Hodnotiť:
 

Myslim ze je lepsie byt oblbnuty a opatrny ako neoblbnuty a neopatrny. Chapes, rochniak?
Odpovedať Známka: 5.0 Hodnotiť:
 

Vsak pockaj, az ta raz prepadne v noci v tmavej ulicke vibrator s umelou inteligenciou, tak ta ten smiech prejde!
Odpovedať Známka: 9.6 Hodnotiť:
 

https://www.youtube.com/watch?v=9ZstFSgziTo
Odpovedať Známka: 5.0 Hodnotiť:
 

skuknut T2?
Odpovedať Známka: 7.1 Hodnotiť:
 

Umelá inteligencia je ďalšou z vecí, ktoré nám môžu sakramentsky uľahčiť život, a namiesto toho aby sa do nej investovalo, tak sa robia investície napr. do výskumu Marsu, ktorý ľudstvu aj tak nič hodnotné neprinesie. Veda by mala byť služobníkom, nie pánom, a nemali by sme sa báť nových technológií, ani nanotechnológií, ani biotechnológií, ani klonovania. Keby sa veda dala do služieb ľudstva (čo sa stane iba ak ľudia odstránia vládnucu chamtivú elitu), za niekoľko rokov by sme premenili túto planétu na skutočný raj, čo je aj cieľom myšlienkového smeru zvaného paradizmus. paradism.org + sk.rael.org život na zemi vytvorili mimozemšťania - http://tinyurl.com/crlgvqs + video na http://tinyurl.com/9bn4eny pod videom klik na CC a zrolovať na slovak. už to pochopte konečne :)
Odpovedať Známka: -3.8 Hodnotiť:
 

solarnu burku na teba ;)
Odpovedať Známka: 7.6 Hodnotiť:
 

ked odstranis vladnucu chamtivu elitu tak povstane nova chamtiva elita
Odpovedať Známka: 8.5 Hodnotiť:
 

"stale ale nebude mat vlastnu volu, nebude si vediet vybrat ci chce jablkovy dzus ci pomarancovy. to nie je mozne definovat. akykolvek algoritmus ci definicia vychadza z predpokladu, vola nie."
Nesuhlasim neuronove siete sa to dokazu naucit. AI si moze spravit prioritny rad a vypocitat co je v danej situacii lepsie. Niekedy sme nevedeli najst najkratsiu cestu, dnes vieme a je to akysi zaklad inteligencie.
Odpovedať Známka: 8.0 Hodnotiť:
 

lenze clovek vybera intuitivne a robot logicky
Odpovedať Známka: -6.0 Hodnotiť:
 

Ale kde.... Intuícia je tiež len na základe už niečoho známeho, aj keď úplne vzdialeného. Ak je človek úplne stratený tak ide na náhodu alebo potom rozmýšľa logicky na zálade znalostí a inteligencie. Horšie by to bolo s iracionálnym rozhodovaním, keď spravím somarinu z dlhej chvíle :) Otázne je,načo by niečo také bolo strojom... V podstate by sa dalo časom nasimulovať takmer všetko, aspoň podľa mojej intuície :)
Odpovedať Známka: 3.3 Hodnotiť:
 

Intuicia vobec nezavisi od niecoho znameho. To tvrdia len jej skeptici. Oficialny vyskum uz davno dokazal opak.
Odpovedať Hodnotiť:
 

Link na oficiálny výskum by sa našiel, keď sa vyťahuje taký argument? Dík.
Odpovedať Známka: 10.0 Hodnotiť:
 

Zoberte si napriklad GPS, autopilota lietadla. Nie je to umela inteligencia ale programy uz na vysokej urovni, staci mala chybicka a ste v prdeli.
Odpovedať Známka: 2.7 Hodnotiť:
 

Chybicka GPS,autopilota ? Autopilot/GPS tazko spravi chybu. Kolko percent nehod v letectve je zapricinenych ludskym faktorom skus si najst..
Odpovedať Známka: 5.0 Hodnotiť:
 

Inými slovami, vedci budú v pracovnom čase pozerať Terminátora :)))
Odpovedať Známka: 6.9 Hodnotiť:
 

nie zle zamestnanie...
Odpovedať Známka: 6.0 Hodnotiť:
 

Pockat, pockat a nemali mam uz par rokov sefovat roboty? Mozno uz vladu nad ludmi prevzali furiky, parne stroje, elektronika, programy, artificial life, ... nie, nie, ludom stale vladnu iny ludia a to dost nafukani trtkovia. A pravdu povediac, mozno by bolo aj lepsie, keby vladli pocitace, zrejme by boli lacnejsie na spravu statu a inteligentnejsie, ako tie nenazrate hovada vo vladach, ktore si donekonecna financuju svoje trapne obzerstvo.
Odpovedať Známka: 8.0 Hodnotiť:
 

no konečne to niekto povedal priamo ! ja už dlho vravím, že nejlepšía by bola osvietenská absolutistická autarchia ( / monarchia), alebo priamo neco jako Matrix (matrix jen jako princíp, koncepcia plne-simulovaneho, full-editovatelneho sveta,/vesmíru, "jsoucna", neco jako takí vševediaci,/všemocný boh, v hi-tech/sci-fi verzii, ne to co bolo obsahom tej trilogie od Wachoskich (najma nie 2. a 3.časť)
Odpovedať Hodnotiť:
 

Docasne by to bolo lepsie ale potom sa to obrati proti nam, ako vsetko ostatne.
Odpovedať Známka: 0.0 Hodnotiť:
 

A mozno to bude len v tom, ze chladnicky povstanu proti tomu, ze su stale postavene v kute, a odmietnu ludom vydat jedlo. Na druhy den tu bude hladomor.
Odpovedať Známka: 10.0 Hodnotiť:
 

epic1: keby som bol normalne uvazujuci robot tak spravim skynet a vycistim najvacsiu pliagu planety zem a o nejakych 20-30 rokov by som zacal sadit stromy.

epic2: keby som bol normalne uvazujuci robot tak vytvorim milionarsku dan - zarobis 1.01mil tak zaplatis 90% tym co to potrebuju. Pretoze tato rovnica co je na svete je chora a bude horsie... cim viac bohaty zaraba tym vvsetci od vyzsej strednej vrstvy chudobneju, ale 2 nasobne viac
Odpovedať Známka: 3.3 Hodnotiť:
 

ad epic2:
A. tak zarobim 0,99 al. 0,5 - menej sa narobim a viacej mi ostane
B. Najviac to potrebuju najchudobnejsi, najNEvzdelanejsi a najchorejsi - cize to podje vsetko na Lunik IX a osady - tak si si to predstavoval?
Radsej Fi(co)gela ako Teba :P

Odpovedať Hodnotiť:
 

kto ukrade - odrezat mu ruku. kto zabije - zabit ho tiez. kto nepracuje - nic mu nedavat zadarmo.. ak by boli taketo zakony staci ze len u nas, hned by sa nam krajsie zilo..
Odpovedať Hodnotiť:
 

Ad1 : budes odrezavat ruky kazdemu?ak to urobi Pubertalne dieta,alebo clovek co nevie o tvojom zakone,aj jemu?ako by si nasiel vekovu hranicu?niektori 13 rocny su mudrejsi ako 17 rocni.
Ad 2 : a co ludia, kt. Su postihnuti, resp. Zabie z nedbanlivosti,zabitie z pomsty (podla tvojho zakona).aj jeho by si popravil?kto sme aby sme mohli rozhodovat nad zivotom a smrtou inych? Historia je plna sudnyh omylov kedy ludia prisli zbytocne o zivot.
Ad 3 : ta poznamka s citanmi bola uplne trefna. Rozdelujes ludi iba na pracujucich a nepracujucich, nie podla toho kto ako "silno" pracuje.nesuhlasim aby sa mal kazdy rovnako.
Inac tieto zvoje zakony tu uz raz boli - v stredoveku,resp. v dobe temna.
Odpovedať Hodnotiť:

Pridať komentár