Amazon predstavil nový akcelerátor AI pre trénovanie neurónových sietí

Značky: Amazonumelá inteligencia

DSL.sk, 4.12.2024

Spoločnosť Amazon Web Services na svojej konferencii AWS re:Invent v utorok predstavila množstvo noviniek vrátane noviniek v oblasti podpory trénovania neurónových sietí v jej cloudovej službe AWS.

Služba AWS ponúka virtuálne servery postavené na procesoroch a GPU iných výrobcov vrátane serverov s x86 procesormi a GPU od Nvidie, zároveň si spoločnosť vyvíja aj vlastné ARM procesory Graviton a tiež akcelerátory pre trénovanie veľkých neurónových sietí Trainium.

Po minuloročnom predstavení novej generácie čipu Trainium2 aktuálne oznámila v rámci služby EC2 sprístupnenie virtuálnych serverov s označením Trn2 a tzv. Trn2 UltraServerov postavených na Trainium2.

Trn2 má 16 Trainium2 čipov a celkový výpočtový výkon 20.8 petaflopu / s pri výpočtoch s FP8, Trn2 UltraServery spájajú štyri Trn2 a majú teda štvornásobný výkon 83.2 petaflopu / s.

Trainium2 čip má 8 jadier NeuronCore-v3, 96 GB HBM pamäte a FP8 výkon 1.3 petaflopu / s, viaceré Trainium2 čipy sú prepojené technológiou NeuronLink. Trainium2 čipy sú vhodné na trénovanie veľkých neurónových sietí a podľa tvrdenia spoločnosti majú Trn2 o 30% až 40% lepší pomer ceny a výkonu ako súčasná generácia serverov EC2 P5e a P5en postavená na GPU.

Okrem sprístupnenia serverov postavených na Trainium2 spoločnosť predstavila aj ďalšiu generáciu tohto čipu Trainium3. Čip bude prvým AWS čipom vyrábaným 3-nm výrobným procesom.

Detailné parametre čipu spoločnosť zrejme neoznámila, avizuje iba očakávané 4-násobné zvýšenie výkonu UltraServerov postavených na Trainium3 oproti Trn2 UltraServerom. Sprístupnenie prvých serverov s Trainium3 očakáva až na konci roka 2025.




Najnovšie články:



Diskusia:

ja ti nevim Karle Od: Quanti | Pridané: 4.12.2024 14:21 Nemyslim, ze vyvoj vlastnych cipov je ten spravny smer. Predsalen, Amazon nema dost kvalifikovanych inzinierov a pocitam, ze vsetko je outsourced do Indie. A tu vidim dost zavazny problem. Kedze indicky sudruhovia naslubuju vsetko mozne, tak aby nakoniec nezistili, ze ten akcelerator je z Alixpressu. Odpovedať Známka: -2.5 Hodnotiť:

Re: ja ti nevim Karle Od: EHJKHJKH | Pridané: 4.12.2024 16:14 Vsak si uz navrhuju vlastne procaky na server farmu, tak neake knowhow maju Skor ako debilny akcelerator debilneho ai, by som chcel internet a vyhladavac z pred 20 rokov, kedy sa dalo cokolvek najst a stranky boli uzitocne Dnes je vsetko "ai degenerated" paskvil a predrazeny subscription a predrazeny paywall Keby radsej vymysleli ako rovnomerne distribuovat bohatstvo a sucasne plnohodnotnu automatizaciu hovnojobov Odpovedať Známka: 7.5 Hodnotiť:

Re: ja ti nevim Karle Od: Hroch_asdf | Pridané: 4.12.2024 17:37 Vyhladavac uz nemoze fungovat podobne ako 20 rokov dozadu, nemoze zobrazovat rovnake vysledky na identickom obsahu. Jednoducho dovodom su regulacie a autorske prava. A nezabudajme na stav reklamy, najdolezitejsia cast vyhladaneho obsahu. A v sucasnosti mame navyse obsah prisposobeny vyhladavacim botom. Podla mna je preto lepsi sposob sucasne AI vyhladavanie, kde sa berie kombinacia spracovanych textov so subehom vyhladavania na webe (vyssia relevancia vysledkov). Vlastne take nieco dnes robi aj chatgpt vo free verzii. Odpovedať Známka: -3.3 Hodnotiť:

Re: ja ti nevim Karle Od: obvious | Pridané: 5.12.2024 13:45 a hlavne mnozstvo obsahu na internete rastie exponencialne. samozrejme bolo lahsie vyhladavat v priestore, ktory bol tak 200 krat mensi ako je dnes. Odpovedať Hodnotiť:

Re: ja ti nevim Karle Od: jebe jebe jebe: | Pridané: 4.12.2024 16:36 ty si nejaka troll LLM 1b quantized? Odpovedať Známka: -3.3 Hodnotiť:

Re: ja ti nevim Karle Od: Hroch_asdf | Pridané: 4.12.2024 17:34 Jednoducho nemas pravdu. Nemas pravdu z hospodarskeho, ekonomickeho a ani technologickeho hladiska. AI minimalne v LLM oblasti tu budu. Kto riesil problematiku rozsiahlych dokumentacii a sucasne sa nemohol spolahnut na internet, LLM mu pomoze. Existuje aj vela inych aplikacii, dokonca vojenskych. Aj India sa meni :). Yes sir uz nie je vsade zakladnou frazou a normou. Je mozne, ze o par 10roci budu prave oni vrcholom technologickeho napredovania. Odpovedať Známka: -3.3 Hodnotiť:

ddddd Od: fasdfasfasfasdf | Pridané: 4.12.2024 14:26 A naco to robia? nevedia, ze uz uz pride slovenske Tachium? Odpovedať Známka: 8.3 Hodnotiť:

ultraradikálny objasňovačizmus Od: syntaxterrorXXX, . Y | Pridané: 4.12.2024 14:47 Lenže pri uvedení procesorov Tachium ich bude vzhľadom k obrovskému záujmu takmer obrovský nedostatok, takže sa na všetkých neujde, no a tí, na ktorých sa neujde, budú potrebovať priekazne obrovské množstvá iných čipov, aby dokázali byť aspoň trochu konkurencieschopný. Odpovedať Známka: 2.0 Hodnotiť:

Re: ddddd Od: Berg | Pridané: 4.12.2024 16:45 Netreba akcelerator. Nas Aurel akceleroval bankove ucty politickych nominamtov. Odpovedať Známka: 7.1 Hodnotiť:

Re: ddddd Od: Hroch_asdf | Pridané: 4.12.2024 17:54 Nespominaj ved vies koho, lebo k Tebe na navstevu pride Prodigy. A Slovenske to az tak nie je. Chlapik zo Slovenska, riadny KSC clen, ma US obcianstvo. Odpovedať Známka: -3.3 Hodnotiť:

Cim to budu krmit? Od: Ai clovek | Pridané: 4.12.2024 23:31 A cím to budu rmit??? AI ma dnes hodne velky problem Nie su data na ktorych by sa dlo ucit, Vacsina webov a spolocnosti zacina rapidne obmedzovat zdielanie dat pre ucenie AI, alebo to daju za paywall A AI vytvoreny obsah pre ucenie sa AI su zatial len bludy.. Odpovedať Známka: 10.0 Hodnotiť:

Re: Cim to budu krmit? Od: Amos. | Pridané: 7.12.2024 14:29 A kedy sa naše decká začnú učiť? Až načisto osprostieme? Odpovedať Hodnotiť:

Pridať komentár