亚马逊巨资投向“Olympus”语言模型 据称其拥有2万亿个参数
123457931
发表于 2023-11-8 18:40:21
1193
0
0
大型语言模型是人工智能工具的基础技术,这些工具需要从庞大的数据集中学习和训练,以产生类似人类的反应。
考虑到所需的计算能力,训练更大的人工智能模型的成本更高。早在4月的财报电话会议上,亚马逊高管就已经表示,该公司将增加对大型语言模型和生成式人工智能的投资。
据此次的知情人士透露,这个代号为“Olympus”的模型有两万亿个参数,这一点使它成为正在训练的最强大的模型之一。
目前来看,OpenAI公司的GPT-4模型是最好的模型之一,而它也只有一万亿参数。
据报道,该团队由亚马逊语音助手Alexa的前负责人Rohit Prasad领导,而他现在直接隶属于首席执行官安迪·贾西。
同时,作为亚马逊通用人工智能(AGI)的首席科学家,Prasad请来了Alexa人工智能的研究人员和亚马逊科学团队的研究人员来共同着手开发“Olympus”模型。
在今年的这场人工智能竞赛中,亚马逊并不属于第一梯队。尽管亚马逊已经训练了Titan等较小的模型;并且它还与Anthropic和AI21 Labs等人工智能模型初创公司合作,并将这些模型提供给亚马逊网络服务(AWS)。
不过,缺乏自有的模型对亚马逊来说始终是个问题。知情人士称,亚马逊认为拥有自有的模型可以使其产品在AWS上更具吸引力,因为企业客户总是希望访问性能最好的模型。
目前该公司还没有官方发布新模型的具体时间表。
CandyLake.com is an information publishing platform and only provides information storage space services.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.
Disclaimer: The views expressed in this article are those of the author only, this article does not represent the position of CandyLake.com, and does not constitute advice, please treat with caution.