手机浏览器扫描二维码访问
吴财满脸好奇,追问道:“芯片的问题都解决了,难道还有其他难题?”
叶老微微叹了口气,神色中带着几分忧虑:“还不是算力的问题嘛!
就说咱们的GPU制造,和星耀相比,差距还很大。
鹰尾巴的幻光100芯片,拥有800亿晶体管,80GB显存,带宽高达3TBs,专为超大数据、超复杂的计算任务设计,像AI训练、大规模计算、气候模拟这些,它都能轻松应对。
反观咱们国产的GPU,明月的辉光9系列,性能大概只和鹰尾巴幻光1050相当,橘子的耀光910B算力勉强能和鹰尾巴的幻影100较量一下,可跟幻光100比起来,尤其是在显存和带宽上,差距就太明显了,耀光910B的带宽只有56GBs。
不仅如此,芯片之间的互联技术上,幻光100支持高效的多GPU协作,能让多个芯片同时工作,效率能提升好几倍,国产GPU在这方面技术差得远,带宽低,芯片间协作能力不行,想做高效并行计算,难如登天。”
吴财若有所思地点点头,又问道:“你说的是AI领域吗?”
叶老肯定地点点头:“没错,就是AI。
虽说在工业生产和应用领域,咱们国家的AI技术比山鹰国领先,像国内很多工厂引入AI实现生产流程自动化,提升了生产效率和产品质量,港口利用AI优化货物装卸和运输调度,提高了运营效率。
但在生成式AI方面,因为算力不足,和山鹰国还是有不小的差距。
像训练山鹰目前最强那种超大规模的语言模型,需要大量的GPU算力支持,才能完成海量数据的处理和复杂模型的训练,从而实现自然语言处理、文本生成、对话交互等强大功能。
咱们由于算力受限,在训练同等规模和复杂度的模型时,就会面临效率低、成本高,甚至难以实现的问题,这就导致生成式AI的发展受到制约。”
吴财皱眉问道:“既然我们的算力受限,为什么不多弄点GPU堆呢?”
叶老无奈地摇了摇头,说道:“吴财啊,你这话说起来简单,可实际操作起来,那成本高得超乎想象。
就说要赶超山鹰目前最强大语言模型CGT吧,咱们先从算力需求来讲。”
“CGT训练所使用的算力是极其庞大的。据估算,它训练一次的算力消耗,大概需要数百万个鹰尾巴的幻影100运行数周时间。咱们就算找到性能相当的国产GPU来替代,成本也低不了。
以鹰尾巴的幻影100为例,一颗市场价格大概在1万刀左右,这还不算配套的服务器、散热设备等周边硬件成本。”
“假设我们要搭建一个算力集群来追赶CGT的训练水平,保守估计需要500万个GPU。
光GPU采购成本就得500亿刀,这还只是硬件的基础投入。”
“除了硬件,还有运行成本。这些GPU需要24小时不间断运行,电力消耗就是天文数字。
按照一个GPU一天消耗3度电来算,500万个GPU一天就需要1500万度电。以工业用电每度1元来计算,一天的电费就是1500万元,一年下来电费就得54.75亿元。
而且,数据中心的维护、管理,专业技术人员的薪酬等,每年又是一笔巨额开支,至少几十亿。”
“另外,训练过程中,为了保证数据的准确性和多样性,还需要购买和处理海量的数据,数据的采集、清洗、标注等环节,又得花费大量资金,至少数十亿甚至上百亿美元。
这样算下来,从硬件采购到运行维护,再到数据处理等一系列环节,想要达到赶超CGT的算力水平,前期投入至少得1000亿刀以上,每年的持续运营成本也得几百亿刀。”
不告而别,三年后总裁疯了 (咒会同人)最强特级背后灵助我十年之期龙王回归[咒回] 王者荣耀:为了活命我只好去屠杀妖魔 强制宠爱!前任他舅诱我上瘾 重生之女配末世求生 藏起孕肚后,顾总求着复合 穿越水浒的医者 自请和离,侯府嫡女是权臣意中人 异界领主:从建筑奇迹开始 八零娇娇有点辣,痞帅糙汉宠上瘾 白衣披甲 惨死重生后,八零悍妻发疯家暴全家 君夺臣妻:我死遁后太子疯了 我就一实习警察,真没想破案啊 与妾做平妻?我转身改嫁当皇后 逆醉清欢 女尊,请多指教 步步引诱!是他,三爷甘愿沉沦 捉鬼小队进行时 闺蜜穿八零:嫁首长,虐极品
甜宠无虐+日更+萌宝+智脑一个大佬和重生来的小媳妇甜蜜日常!一个娱乐小透明凭借智脑逆袭成超级影后的故事~...
...
...
朱慈烺此贼比汉奸还奸,比额李自成还能蛊惑人心!闯王李自成立马虎牙山,遥望东南,感慨万千。慈烺此子忤逆不孝,奸诈凶残,简直是曹操再世,司马复生,让他当了皇帝,全天下的逆贼奸臣刁民一定会想念朕的!大明崇祯皇帝于明孝陵前,痛哭流涕。我冤枉啊!我洪承畴真的不是朱贼慈烺的内应,我对大清可是一片忠心啊!大清兵部...
...
万众瞩目之下,楚浩扔出一柄剑这轩辕剑你拿好,以后别在我面前装逼。这天,这地,这沧海,这宇宙,谁都无法阻止我。ps看完了?新书搜索从诡秘复苏开始不当人推荐票刷起来,让我们再次征战。...