免费阅读
返回
菜单
上一章查看最新章节下一章

第57章 孙博的能力

作品:年近三十,科技立业作者:辰小序
如果本章错误,请点击报错10秒纠正

有一个巨大的问题,根据我的研究,它的增长不是线性的。

“我大约计算过,实际的增长曲线就不说了,很复杂,但大约可以简化为这个函数:y=c·log(e)·(X+1)。

“这里边y指的是性能,X你们就姑且理解为算力堆积的基本单位,大约趋势如下图。”

就算是对数学再不懂的人,看到这个公式也该看出来了,因为这个函数的曲线到最后,几乎就是一条平平的横线。

也就是说,当显卡堆积达到一定规模之后,就算再堆积硬件,性能虽然也会增加,但增加的也会十分有限,到最后甚至肉眼都不可见了。

这么说着,孙博还举例道:“以现在的GPT4为例,如果想要一个2倍GPT4参数的大模型,对算力的需求大约会是多少呢?

“我计算过,大约需要十几倍。而且公式计算的只是理论效果,而更大规模的集群,片间互联的损失肯定也会更大,实际效果只会更差。”

孙博很是热情,只要不涉及他自己工作的机密和核心,只要他在的时候,那几乎是有问必答的。

纪弘也正好翻看到这儿,他没有过多的惊讶,片间互联损失这一块儿本身就不好解决,要不然超大规模智算中心也不至于这么稀有了——河州大学搞的那个还是纯国产第一例。

“按你这么说,微软这孤注一掷的效果,不一定会好啊!”有人这么回了一句。

“效果不好是一定的,花费两倍的价格,可能能得到1.5倍的性能,最多也就如此了,想要赶上耳语的能力,我觉得不大行。

“其实OpenAI自己肯定也清楚,GPT4乃至后续没有发布的4.5版本,之所以没这么堆规模,就是在卡能效比的两个节点。

“再堆规模下去,性价比会越来越低不高。但现在不是被耳语逼的没办法了吗?”

孙博本就是研究前沿理论的,现有模型的理论上限他清楚的很,哪个算力节点卡一下性价比最高他大约也都清楚。

到了一定程度,盲目的加规模肯定得不偿失。除非迫不得已,一般不会这么干的。

纪弘一边看着孙博的回复,一边分析这个人,越分析越是感兴趣了——这是一个有真材实料的理论家。

“如果能挖来卷耳科技,将会是一个巨大的臂助。”

……

纪弘在念叨孙博的时候,孙博也在念叨他——起因就是纪弘发的那个私信。

“最优化理论的

…。。
   本章没完,请点击下—页继续阅读!如果被转码了请退出转码或者更换浏揽器即可。
  温馨提示:亲爱的读者,如果你觉得本站还好,为了避免丢失和转马,请勿依赖搜索访问,建议你使用[华为刘揽器]或[Firefox火狐刘揽器]访问并收蔵【无极书院】 m.wjzxchina.com。我们将会持续为你更新,还建议你注册会员使用书架功能追书阅读更方便。
上一页 123下一页
上一章查看最新章节下一章
临时书架加入书签回顶部↑

看了《年近三十,科技立业》的书友还喜欢看

让你当收尸人,你直接解刨了前女友
作者:夜无声
简介: 解刨课上,尸体竟是我前女友……

从那以后,我经历了许多匪夷...
更新时间:2026-03-03 22:57:00
最新章节:第两千两百五十九章 处理完,后台好硬啊
华娱顶流,我真得狠狠操作你们了
作者:纯洁小松鼠
简介: 娱乐圈边缘人物许秀重回2018年。在这个流量为王的时代,四大三小如日中天,大花与小花...
更新时间:2026-03-03 23:23:00
最新章节:第136章 开始臭脸美人养成计划(补更求月票求订阅)
我,新世界的第一个训练家
作者:骑马与看傻
简介: 两个月前,怪物突然间降临,因为其拥有的恐怖力量,人类开始惧怕怪物,于是战争便在双方完...
更新时间:2026-03-03 23:34:44
最新章节:第1490章 你好,你犯法了你知道吗?
徒儿不要,师尊我比你大很多
作者:一六飞歌
简介: 【无敌文+杀伐果断+有恩报恩+有仇必报】\n五年前,我因护妹心切打断了一个大家族公子...
更新时间:2026-03-03 23:42:04
最新章节:第1088章 炼化精血
美利坚:从街头流浪汉开始肝技能
作者:人比西瓜瘦
简介: 马杰克穿越到洛杉矶街头,一没身份二没工作,只能被迫成为一名拾荒者。

更新时间:2026-03-03 23:09:00
最新章节:第351章 童话故事与黄毛辣妹
宿舍求生,我被拉进了管理群
作者:翻滚的蛋蛋
简介: 【无限流+不圣母+系统+求生+爽文】一觉醒来,辰北进入了宿舍求生游戏,与一间宿舍绑定...
更新时间:2026-03-03 23:50:59
最新章节:第1731章 三根柱子
书名:

本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。

Copyright © 2020 无极书院 All Rights Reserved.kk

SiteMap