廣告
加拿大新創公司推「Command A」AI 模型 用2顆輝達GPU表現即可媲美GPT-4o
【財經中心／台北報導】加拿大AI新創公司Cohere發表一款名為「Command A」的 AI 模型，該模型主打輕量化應用，號稱只需要2顆英偉達A100或H100 GPU即可輕鬆部署，號稱「表現能和GPT-4o 相媲美」，實現「用最少的硬體發揮最大的性能」。
Cohere 表示，Command A專門為中小型企業環境設計，其支援256k的上下文長度和23種語言，作為比較，其他競爭對手的「同類模型」需要32顆GPU 才能部署。
在性能測試中，Command A 最快每秒可以輸出156個Token，據稱比GPT-4o快1.75倍。而在指令追蹤、SQL、代理程序和工具任務的基準測試上，Command A 也表現出色。
Cohere 援引相應性能數據，聲稱業界的大語言模型如果「規模過大」，反而在輸出結果時可能會出現嚴重的延遲問題；如果只是想快速得到正確答案，Command A相對是個不錯的選擇。
目前，Cohere已將相應Command A發表在Hugging Face 平台，對學術界開放使用，未來還會登陸其他雲服務平台。
廣告
廣告
廣告
