TL;DR / A lényeg:
Sam Altman, az OpenAI vezére szerint brutális erőforrás-pazarlás, hogy a világ korlátozott DRAM-készletének nagy része PC-kben csücsül tétlenül az idő 95 százalékában. Szerinte a felhőalapú, csúcsra járatott memória sokkal hatékonyabb megoldás lenne a mostani AI-bumm idején.
Mit mondott pontosan Altman a PC-s memóriáról?
Az OpenAI vezérigazgatója nemrég egy interjúban, a Cheeky Pint podcastban fejtette ki véleményét a helyi AI-futtatásról és a RAM-pazarlásról. Altman szerint sokan tévesen gondolják, hogy a nyílt forráskódú modellek megjelenése kapásból feleslegessé teszi az adatközpontokat.
Ahogy ő maga fogalmazott:
„Sokan szeretnék helyben futtatni az AI-t. Valahogy azt feltételezik, hogy a probléma megoldódott, mert lesznek nyílt forráskódú modellek, amiket a saját gépükön pörgethetnek, így nem lesz szükség az adatközpontok infrastruktúrájára. Globális erőforrás-elosztási szempontból viszont egyenesen szörnyű, hogy a világ korlátozott DRAM-készletének hatalmas része PC-kben ül, és az idő mindössze öt százalékában van kihasználva. Ha egy ilyen rendkívül szűkös kínálatú környezettel kell megküzdeni, akkor a felhőben kell maximális kihasználtságra törekedni. Sokaknál viszont pont fordítva működik az intuíció.”
Miért számít ez most ennyire?
Az AI-modellek elképesztő tempójú terjedése és az adatközpontok folyamatos bővülése komoly nyomást helyez a DRAM-piacra. A memóriahiány és az ebből fakadó áremelkedések egyre égetőbb problémát jelentenek a techiparban. Altman érvelésének lényege, hogy egy globálisan szűkös erőforrást helyi gépenként elaprózni egyszerűen nem éri meg.
A helyi AI-futtatás hívei persze más érveket hoznak fel a saját gépükön pörgetett modellek mellett:
| Érv a helyi futtatás mellett | Miért fontos a gamereknek és felhasználóknak? |
|---|---|
| Adatvédelem | A privát adatok, promptok és fájlok sosem kerülnek fel a felhőbe. |
| Offline elérhetőség | Internetkapcsolat nélkül is zavartalanul működik a rendszer. |
| Függetlenség | Nincs havidíj, és nem érintenek a szerverleállások sem. |
Ezek abszolút valós szempontok, Altman azonban a makrogazdasági hatékonyságot tartja szem előtt, nem pedig az egyéni felhasználói élményt.
Mit gondol Altman az AI jövőjéről?
Az interjúban Altman egy másik érdekes kijelentést is tett. Elmondta, hogy inkább választaná, ha egybillió enyhén emberfeletti intelligenciájú AI csatlakozna a társadalomhoz, mintsem egyetlen, egybillió IQ-jú szuperintelligencia születne meg. Ez az álláspont maximálisan egybevág az OpenAI decentralizált, széles körű AI-terjedést célzó víziójával.
Gyakori kérdések
Miért tartja Sam Altman pazarlásnak a PC-s RAM-ot?
Altman szerint a PC-kben lévő DRAM az idő körülbelül 95 százalékában tétlenül áll, ami globálisan szűkös erőforrás esetén rendkívül hatékonytalannak számít. Véleménye szerint a felhőalapú, folyamatosan pörgetett memória sokkal logikusabb megoldás.
Függ össze a RAM-hiány az AI terjedésével?
Igen, az AI-modellek és adatközpontok bővülése brutális nyomást gyakorol a DRAM-piacra, ami memóriahiányhoz és áremelkedésekhez vezet. Ez az egyik fő oka annak, hogy az OpenAI vezére hatékonysági kérdésként tekint a helyi gépeken történő számításokra.
Miért nem elegendő a nyílt forráskódú AI a helyi futtatáshoz?
Sam Altman úgy látja, hogy a nyílt forráskódú modellek önmagukban nem oldják meg az erőforrás-elosztás problémáját. Még ha technikailag lehetséges is a helyi futtatás, a rengeteg PC-n szétaprózott, alacsony kihasználtsággal működő RAM-készlet globális szinten meg sem közelíti a felhős infrastruktúra hatékonyságát.
Forrás: Insider Gaming
A kontrollered ne csücsüljön tétlenül!
Altman aggódik a kihasználatlan RAM miatt, mi viszont a kihasználatlan kontrolleredért aggódunk. Ha stick drift vagy gombhiba tartja vissza a játékélményed, ne hagyd, hogy egy elkerülhető hiba döntsön a meccs sorsáról! Nézd meg árkalkulátorunkban, mennyiért varázsolunk belőle újra precíz fegyvert.
