678CHAT AI资讯 加拿大一家创业公司出了个叫 Command A 的轻巧 AI 模型,说只要两块英伟达 A100 或 H100 的显卡就能搞定

加拿大一家创业公司出了个叫 Command A 的轻巧 AI 模型,说只要两块英伟达 A100 或 H100 的显卡就能搞定

3月14日,加拿大AI初创公司Cohere宣布推出了一款名为“Command A”的AI模型,这款模型以轻量化应用为特色,声称仅需两块英伟达A100或H100 GPU即可完成部署,并且其性能表现能够与GPT-4o相媲美,实现了在有限硬件资源下发挥最大性能的目标。

加拿大一家创业公司出了个叫 Command A 的轻巧 AI 模型,说只要两块英伟达 A100 或 H100 的显卡就能搞定插图

Cohere指出,Command A是专为中小型企业环境量身打造的,它支持256k的上下文长度以及23种语言。相比之下,其他竞争对手的同类模型通常需要32块GPU才能完成部署。

加拿大一家创业公司出了个叫 Command A 的轻巧 AI 模型,说只要两块英伟达 A100 或 H100 的显卡就能搞定插图1

在性能测试环节,Command A的表现十分亮眼,其最快每秒能够输出156个Token,据称这一速度比GPT-4o快1.75倍。此外,在指令追踪、SQL、代理程序和工具任务的基准测试中,Command A也展现出了卓越的性能。

Cohere还引用了相关性能数据,指出业界的大语言模型如果规模过大,可能会在输出结果时出现严重的延迟问题。而如果用户追求快速获取正确答案,Command A无疑是一个相当不错的选择。

目前,Cohere已经将Command A发布在Hugging Face平台,供学术界使用,并且未来还计划将其推向其他云服务平台。

本文来自网络,不代表678CHAT立场,转载请注明出处:https://www.678chat.com/ai/11643.html

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部