Mistral发布Ministral 3B/8B,边缘模型新突破?

   时间:2024-10-17 14:45 来源:ITBEAR作者:杨凌霄

Mistral公司近期隆重推出了两款全新的AI模型——Ministral 3B与Ministral 8B,专为提升笔记本电脑和智能手机等设备的本地化AI体验而设计。据官方宣称,这两款模型堪称“全球顶尖的边缘模型”。

随着企业对在个人设备上运行AI模型的需求日益增长,Mistral公司此次推出的模型旨在确保数据处理的安全性,并显著提升响应速度。这两款模型均能在无互联网连接的情况下,执行翻译、本地分析及机器人等多项任务。

值得注意的是,Ministral 3B与8B均拥有128K的上下文窗口,能够一次性处理长达50页的文档内容。

价格方面,Ministral 8B的定价为每百万个tokens售价0.1美元,而3B版本则更为亲民,售价为0.04美元,非常适合小规模操作或初创开发者使用。尤为Ministral 8B采用了独特的交错滑动窗口注意力机制,这一设计使得其在推理过程中更为迅速且内存占用更少。

这两款AI模型的推出,无疑为需要在本地设备上高效运行AI应用的企业和个人提供了更为优质的选择。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群