a&s专业的自动化&安全生态服务平台
公众号
安全自动化

安全自动化

安防知识网

安防知识网

手机站
手机站

手机站

大安防供需平台
大安防供需平台

大安防供需平台

资讯频道横幅A1
首页 > 资讯 > 正文

亚马逊云科技携手Hugging Face 让生成式AI触手可及

生成式AI蕴藏着改变整个行业的巨大潜力,但其成本和所需的专业知识使该技术无法为除少数公司之外的所有公司所用。
资讯频道文章B

  亚马逊云科技宣布与Hugging Face进一步合作,以加速对大语言模型和视觉模型的训练、精调和部署,促进生成式AI应用的创建。生成式AI应用可以执行各种任务,包括文本摘要、问题回答、代码生成、图像创建以及撰写论文和文章。

  亚马逊云科技在生成式AI创新方面拥有深厚历史。例如,亚马逊使用AI技术为Amazon Alexa用户提供对话体验,每周用户互动次数达到数十亿次,同时也越来越多地使用生成式AI来支持新体验,如"Create with Alexa"功能。此外,作为亚马逊搜索(Amazon Search)的一个小组,M5可以帮助亚马逊各地团队将大模型应用到他们的应用程序中,并训练大模型以提升Amazon.com网站的搜索结果。亚马逊云科技持续在机器学习(ML)的所有领域中创新,包括基础设施、Amazon SageMaker相关工具和开箱即用的AI服务,比如Amazon CodeWhisperer,它嵌入到程序员使用的IDE中,通过注释来生成建议代码,以提高开发人员的生产力。为加速机器视觉与大语言模型的训练和推理,亚马逊云科技还推出了自研训练芯片Amazon Trainium与推理芯片Amazon Inferentia。

  Hugging Face之所以选择亚马逊云科技作为首选云供应商,是因为它提供了灵活、可选的全球领先性能工具,例如Amazon SageMaker、Amazon Trainium和Amazon Inferentia,满足了Hugging Face模型训练、精调和部署需求。依赖于此,开发人员使用Hugging Face可以轻松优化性能并降低成本,从而更快地将生成式AI应用投入到生产环境。

  "AI的未来已经到来,但并非每个人都能平等享用AI。"Hugging Face首席执行官Clement Delangue表示,"可访问性和透明性是以明智和负责任的方式使用这些新功能,从而共享成果和创造新工具的关键。Amazon SageMaker和亚马逊云科技定制芯片会帮助我们的团队和更大的机器学习社区,将最新研究成果转化为人人都可构建的、公开的可复制模型。"

  高性能且兼具成本效益的生成式AI

  大语言模型和视觉模型的构建、训练和部署是一个昂贵且耗时的过程,需要深厚的机器学习专业知识的支持。这两类模型非常复杂,可能包含数千亿个参数,因此在很大程度上,许多开发人员无法使用生成式AI。

  为了弥补这一差距,Hugging Face与亚马逊云科技建立合作,让开发人员更易通过访问亚马逊云科技的服务,来应用部署Hugging Face模型,尤其是那些生成式AI模型。这样做的好处是:可以更快地训练与扩展低延迟和高通量的推理任务。例如,由Amazon Trainium支持的Amazon Elastic Compute Cloud(Amazon EC2)Trn1实例提供了更快的训练时间,与基于GPU的实例相比,可节省高达50%的训练成本。而由最新一代Amazon Inferentia芯片支持的Amazon EC2 Inf2实例,旨在部署最新一代大语言模型和视觉模型。相比Inf1实例,Inf2实例吞吐量提升了4倍,延迟降低了10倍。Amazon SageMaker为ML提供工具和工作流,开发人员可以通过Amazon SageMaker等托管服务使用Amazon Trainium和Amazon Inferentia,亦或在Amazon EC2上自行管理。

  "生成式AI蕴藏着改变整个行业的巨大潜力,但其成本和所需的专业知识使该技术无法为除少数公司之外的所有公司所用。"亚马逊云科技首席执行官Adam Selipsky表示,"Hugging Face和亚马逊云科技让用户更易访问流行的机器学习模型,以最高的性能和最低的成本创建自己的生成式AI应用。此次合作充分说明,生成式AI公司和亚马逊云科技的合作可以让更多客户对创新技术触手可及。"


参与评论
回复:
0/300
文明上网理性发言,评论区仅供其表达个人看法,并不表明a&s观点。
0
关于我们

a&s是国际知名展览公司——德国法兰克福展览集团旗下专业的自动化&安全生态服务平台,为智慧安防、智慧生活、智能交通、智能建筑、IT通讯&网络等从业者提供市场分析、技术资讯、方案评估、行业预测等,为读者搭建专业的行业交流平台。

免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
© 2020 Messe Frankfurt (Shenzhen) Co., Ltd, All rights reserved.
法兰克福展览(深圳)有限公司版权所有 粤ICP备12072668号 粤公网安备 44030402000264号
用户
反馈