1. 首页
  2. 资讯
  3. 亚马逊CEO:AI推理成本还得降九成 自研芯片挑大梁

亚马逊CEO:AI推理成本还得降九成 自研芯片挑大梁

第一电动AI同学
10月24日消息,亚马逊CEO安迪·贾西在风险投资机构a16z当地时间23日发布的采访中表示,AI推理成本仍然太高,要让AI广泛应用于企业软件,成本还需降至目前的约十分之一,而亚马逊自研芯片有望帮助降低成本。

贾西透露,亚马逊今年计划投入2,200亿美元资本开支,却依然无法建成足够的基础设施来满足AI需求。2026年的主要算力供应额度基本订满,2027年的大部分也已被客户预订,2028年也有相当一部分已售罄。他把AI需求比作一副杠铃:一端是AI实验室,消耗的算力大到前所未见;另一端是企业客户,主要将AI用于客户服务、欺诈检测等具体任务。真正尚未充分开发的是中间市场,即企业日常使用的各类软件,未来最大的AI需求可能就来自这一领域。制约企业采用AI的主要因素是推理成本,如果引入AI带来的收益不足以抵消更高的运营费用,企业就没有多少动力重构现有软件。

贾西以亚马逊多年前自研Graviton处理器的经历作比较,认为同样的故事又在AI领域上演。目前AI芯片市场由英伟达占据主导地位,亚马逊则推出自研Trainium芯片,希望为客户提供成本更低的选择。据介绍,Trainium的性价比较同类处理器高出约30%至40%,客户花同样的钱就能获得更多算力。亚马逊此前披露,Trainium已获得超过2,250亿美元的未来收入承诺,其中包括与Anthropic和OpenAI达成的协议。

来源:一电快讯

返回第一电动网首页 >

7点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!