全新开源软件支持根据用户需求与环境灵活平衡容量和性能
为持续优化固态硬盘(SSD)的使用,提升检索增强生成(RAG)系统中AI向量数据库搜索的可用性,全球存储解决方案领导者Kioxia Corporation今日宣布更新其KIOXIA AiSAQ™(全存储型乘积量化近似最近邻搜索)软件。此次新开源版本引入了灵活控制功能,使系统架构师能够在搜索性能与向量数量之间定义平衡点——这两个因素在系统SSD存储的固定容量中相互制约。这一成果带来的益处是,RAG系统的架构师无需对硬件进行任何修改,即可针对特定工作负载及其需求精细调整出最佳平衡点。
KIOXIA AiSAQ软件于2025年1月首次推出,采用专为SSD优化的新型近似最近邻搜索(ANNS)算法,无需将索引数据存储在DRAM中。通过支持直接在SSD上进行向量搜索并降低主机内存需求,KIOXIA AiSAQ技术使向量数据库能够进行扩展,基本不受DRAM容量限制的影响。
当系统中SSD的安装容量固定时,提升搜索性能(每秒查询数)需要每个向量消耗更多SSD容量,从而导致向量数量减少。反之,若要最大化向量数量,则需减少每个向量的SSD容量消耗,这将导致性能下降。这两个对立条件的最佳平衡点因具体工作负载而异。为找到合适的平衡,KIOXIA AiSAQ软件引入了灵活的配置选项。此次最新更新使管理员能够在RAG系统中为各种不同工作负载选择最佳平衡点。这一更新使KIOXIA AiSAQ技术不仅适用于RAG应用,还适用于离线语义搜索等其他向量密集型应用,成为基于SSD的理想ANNS解决方案。
随着对可扩展AI服务的需求不断增长,SSD为管理RAG系统所需的高吞吐量和低延迟提供了比DRAM更实用的替代方案。KIOXIA AiSAQ软件能够高效满足这些需求,使大规模生成式AI得以实现,而不受内存资源有限的限制。
通过将KIOXIA AiSAQ软件以开源形式发布,Kioxia强化了对AI社区的承诺,推动以SSD为中心的可扩展AI架构发展。
请点击此链接下载KIOXIA AiSAQ开源软件。
* KIOXIA AiSAQ(全存储型乘积量化ANNS,一种新颖的索引数据放置方法)是Kioxia的商标。
* 所有其他公司名称、产品名称和服务名称可能是第三方公司的商标。
关于Kioxia
Kioxia是全球存储解决方案领域的领军企业,致力于闪存和固态硬盘(SSD)的开发、生产和销售。其前身Toshiba Memory于2017年4月从1987年发明NAND闪存的公司Toshiba Corporation分拆而出。Kioxia致力于通过提供产品、服务和系统来为客户创造选择,并为社会创造基于存储技术的价值,从而提升世界的“记忆”。Kioxia创新的3D闪存技术BiCS FLASH™正在塑造存储技术在高密度应用领域(包括高级智能手机、PC、汽车系统、数据中心和生成式AI系统)的未来。
*本文档中的信息(包括产品价格和规格、服务内容和联系信息)在公告发布之日是正确的,但如有更改,恕不另行通知。
- 新愿景,新启航!研华加速从IPC迈入边缘计算新时代
- PIK3CA基因检测助力乳腺癌精准治疗新篇章
- 伽澜健康助力黄河金三角区域医疗机构临床营养学科建设论坛圆满举办
- 立屯精神聚合力 政企共建助振兴—中国人寿财险广西分公司联合天等县开展主题党日活动
- 《StellarSugar》12强选手惊现韩国最大中餐厅:燕京大饭店
- 有梦有方向 青春正飞扬 “青春影像”校园歌手征集最终展示活动将在重庆举办
- 山东双嘉家庭教育走进历城一中:开展心理讲座赋能青春梦想
- 春天里·议国是|共担文化使命——张传斌
- 追寻共同记忆 乔治·何克亲属来沪祭奠
- 三部门新政力推智能家居 居然智家数智化转型迎利好东风
- 海棠情缘,京津和鸣 菜百股份亮相京津两市海棠花节
- 福布斯首次举办餐饮领军人物评选,旺旺蔡旺庭凭借邦德咖啡馆布局获奖
- 供应链峰会赋能中国制造业,点燃增长新引擎 深圳立合供应链技术
- 越秀北京 梧桐星宸|当产品力遇见年轻力,大城生活一步达成
- 连续2年登榜,安保医疗解锁呼吸机核心技术!