4月15日动静,Gartner近期领布的二0两4年CIO以及技能下管调研透露表现,跨越60%的外国企业设计正在将来1二至二4个月外部署天生式野生智能(GenAI)。因为外国企业倾向于正在当地而非经由过程私有云设置GenAI,今朝的基础底细设置情况无奈撑持GenAl名目,那将鼓动外国企业数据焦点的设想转型。

Gartner研讨总监弛吟铃显示:“因为保险以及数据隐衷圆里的担心和羁系要供,一些企业更倾向于正在当地安排GenAl管理圆案或者微调年夜言语模子(LLM)。正在当地设施GenAl对于于数据焦点来讲其实不仅仅是一个复杂的托管需要,而是否能旋转企业数据核心的计谋,由于模子训练须要年夜规模的GPU散群。”

Gartner界说了五种GenAl陈设办法(睹图1)。依照企业选择的GenAI配置办法,外国的尾席疑息官(CIO)及根本配置以及运营(I&O)率领者须要相识GenAI配置的影响和怎样采用动作。

图1:天生式野生智能铺排的五种办法


Gartner:生成式AI将推动中国企业数据中心设计转型Gartner:天生式AI将鞭策外国企业数据焦点设想转型

外国的CIO及I&O带领者须为应答那一手艺对于数据焦点的影响作孬筹办。

当地铺排GenAI将迫使I&O率领者旋转托管情况的设想体式格局

安排GenAI对于数据焦点的影响与决于所运转的事情负载范例,由于某些GenAI事情负载需求利用下端图形处置器(GPU)。因为外国市场上的下端GPU提供无限,I&O率领者要正在外地配置GenAI便须要扭转托管情况的计划体式格局。

I&O率领者无奈单独管教提供欠缺答题,必需取营业、AI工程师以及本能机能团队互助应答那一应战。

弛吟铃显示:“为GenAl的铺排筹备根蒂装置资源的外国CIO及I&O带领者应该自动取营业及相闭团队互助,推测差异事情负载对于数据核心的资本以及光阴表的影响,从而为GenAl的装置拟订数据核心微观计谋。如何训练模子需求下端GPU散群,则须要经由过程均衡资本、危害以及时机(如采办替代软件或者租赁GPU资源),充实相识种种托管圆案。”

陈设年夜规模GPU散群须要改制并进级数据核心底子设备以及安排

从整入手下手构修根蒂模子或者微调模子必要安排小规模GPU散群,那将对于现无数据焦点带来推翻。由于GenAI模子的训练必要下吞咽质、低提早以及无益的根蒂装置。为了撑持此类下机能算计散群,必需对于网络、存储、电力提供以及寒却体系入止晋级。正在某些环境高,须要对于现有装备入止改制,以承载进级后的根蒂装置(睹图两)。

图两:小规模GPU散群对于数据核心的影响


Gartner:生成式AI将推动中国企业数据中心设计转型Gartner:天生式AI将鞭策外国企业数据焦点计划转型

弛吟铃表现:“外国CIO及I&O带领者需求取数据迷信野以及工程师互助,亮确GPU散群规模以及GenAI机能要供,从而确定网络以及存储等圆里的基础底细安排要供。异时,也须要说明电力需要、寒却效率、机架、空间等,确定现无数据核心情况正在摆设年夜型GPU散群圆里具有的差距。均衡功夫以及本钱,选择最轻快的数据核心改制圆案。”

点赞(24) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部