IT商业网-解读信息时代的商业变革
当前位置: 首页 > 人工智能 > 正文

群联 aiDaptiv+ 硬件平台:降低中小企业AI模型微调成本

2024-03-29 08:20:15     

  中小型企业在进行AI模型微调训练时面临诸多困难:使用云服务成本高昂,且存在数据隐私的不确定性;而在本地运行则需要复杂的构建过程,同时电力需求也不容忽视。

  群联的解决方案

  群联携手Maingear合作推出了aiDaptiv+硬件平台,采用超耐用型aiDAPTIVCache固态硬盘,可扩展系统的内存容量,容纳更大的模型,同时操作简便。

  技术创新

  aiDaptiv+方案中包含的中间件软件库能够将GPU显存中不活跃的AI模型层切片分离,将待处理的切片存储在aiDAPTIVCache缓存固态硬盘上,从而实现与GPU上已完成部分的交换,无需修改AI应用本身。

  性能提升

  据群联称,aiDaptiv+方案可在一台4卡工作站平台中完成Llama 70b模型的微调训练,容纳显存总量达到7倍以上的数据,为中小型企业提供了更高效的AI模型训练方案。

  可靠耐用

  为了实现显存外数据存储,方案中的固态硬盘必须具备足够高的耐久性。群联推出的aiDAPTIVCache系列固态硬盘ai100E采用SLC闪存,每根容量2TB,具备5年内100DWPD的写入耐久。

  群联的aiDaptiv+硬件平台为中小型企业解决了AI模型微调训练成本高昂的问题,通过技术创新和可靠耐用的硬件设计,为企业提供了更加高效和可靠的AI解决方案。

  群联的aiDaptiv+硬件平台展示了在AI领域的技术创新和解决方案,为中小型企业提供了更加便捷和高效的AI模型训练方式。

免责声明: IT商业新闻网遵守行业规则,本站所转载的稿件都标注作者和来源。 IT商业新闻网原创文章,请转载时务必注明文章作者和来源“IT商业新闻网”, 不尊重本站原创的行为将受到IT商业新闻网的追责,转载稿件或作者投稿可能会经编辑修改或者补充, 如有异议可投诉至:post@itxinwen.com
微信公众号:您想你获取IT商业新闻网最新原创内容, 请在微信公众号中搜索“IT商业网”或者搜索微信号:itxinwen,或用扫描左侧微信二维码。 即可添加关注。
标签:

品牌、内容合作请点这里: 寻求合作 ››

相关阅读RELEVANT