當前位置:首頁 > 當日新聞快報 > 正文內容

線上賭場:OpenAI:现在只需 5~10 人即可从头重建 GPT-4,发展瓶颈已经从“算力”转变为“数据效率”

admin2个月前 (04-12)當日新聞快報35
感谢IT之家网友 往事2016IT之家OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发 的线索投递!

往事2016IT之家OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发 4 月 11 日消息,OpenAI 开发 GPT-4 曾耗费了大量人力物力,而现在却只需 5~10 人团队即可从头走一遍这个流程。

OpenAI 首席执行官萨姆・奥尔特曼(Sam Altman)今日在公司内部播客中披露,得益于 GPT-4.5 的技术突破,重建 GPT-4 大模型所需团队规模已从数百人缩减至 5-10 人。

这一结论也获得了 GPT-4.5 预训练负责人亚历克斯・佩诺(Alex Paino)、数据效率研究员丹尼尔・塞尔萨姆(Daniel Selsam)等核心成员证实。

丹尼尔表示,“当得知某项技术已被实现,其复现难度就会大幅降低。我觉得,只要有可能,这就是一种巨大的作弊码。”

佩诺表示,GPT-4.5 的设计目标是比 2023 年 3 月发布的 GPT-4"智能 10 倍",他还补充道,"通过这种 GPT 预训练流程的优化,我们的规模也较之前拓展了 10 倍。"

此外,奥尔特曼还声称公司已突破 "算力制约" 瓶颈,而且他认为世界尚未真正理解这一转变。在此之前,各大科技公司已相继投入海量资金用于 AI 基础设施建设,其中微软、亚马逊、谷歌和 Meta 四家科技巨头 2024 年 AI 基础设施资本支出预计达 3200 亿美元(IT之家注:现汇率约合 2.34 万亿元人民币)。

OpenAI 认为,技术瓶颈已从算力转向数据效率领域(可能是指算力的边际效用递减,所以需要从算法方面寻求突破)。丹尼尔指出,当前 GPT 系列模型数据利用率存在 "洞察深度天然上限"。

"当算力持续扩张时,数据增长速度明显滞后,最终形成发展瓶颈。要想突破这一限制,需要进一步实现算法创新,从同等数据量中榨取更高价值。"

相关阅读:

  • 《往事2016IT之家OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发》

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

“線上賭場:OpenAI:现在只需 5~10 人即可从头重建 GPT-4,发展瓶颈已经从“算力”转变为“数据效率”” 的相關文章

正海磁材:1400万张“正海转债”于12月12日起挂牌交易

正海磁材:1400万张“正海转债”于12月12日起挂牌交易

  正海磁材(SZ300224,收盘价:12.85元)12月8日晚间发布公告称,经中国证券监督管理委员会“证监许可〔2022〕2654号”文同意注册,公司于2022年11月23日向不特定对象发行了1...

太古股份公司B12月9日斥资66.57万港元回购6.75万股

太古股份公司B12月9日斥资66.57万港元回购6.75万股

  太古股份公司B(00087)发布公告,于2022年12月9日该公司斥资66.57万港元回购6.75万股,回购价格为每股9.83-9.89港元。...

直播电商和元宇宙走进农村大市场

  以科技赋能乡村产业链、供应链发展,仍任重道远。   文|《中国企业家》记者 刘炜祺   编辑|米娜   12月10日~11日,由《中国企业家》杂志社主办的“第二十届中国企业领袖年会暨第二十二届中国...

股指期货:年末流动性保持宽裕符合市场预期,股市维持窄幅震荡

股指期货:年末流动性保持宽裕符合市场预期,股市维持窄幅震荡

  【市场情况】   沪深两市低开后全天水下弱势震荡,尾盘跌幅扩大,沪指开始部分回补下方缺口。外资在上周后半周加仓势头减弱后一路流出,此前强势助推指数的价值蓝筹集体熄火。上证指数跌0.87%,深证成...

“阳过”居家算不算病假?需要优化版标准答案

  李英锋   近日,有网友反映,有企业要求感染新冠病毒的员工居家按病假算薪酬。对此,多名律师和专家表示,法律没有规定企业可以强制员工休病假。按照人社部相关规定和《传染病防治法》,企业应当支付职工在此...

港交所将推双柜台模式 内地香港互联互通机制进一步深化

  本报记者 吴晓璐   12月13日,港交所宣布旗下证券市场即将推出“港币-人民币双柜台模式”(双柜台模式)及双柜台庄家机制,预计可于2023年上半年开始推行。港交所同时表示,各项新措施亦将为后续内...