您当前的位置 :三板富> 首页 > 资讯 > 时讯 > 正文
云创数据:AI大模型推理是公司向量计算一体机主要应用场景之一
2023-06-29 19:02:29 来源:挖贝网 编辑:news2020


(资料图片)

6月29日消息,近日云创数据(835305)接待了上海龙猛私募基金管理有限公司的调研。云创数据重点介绍了公司“cVector向量计算一体机”的原理、应用、优势等情况。

云创数据表示,公司于3年前推出了“超大规模人脸向量比对一体机”。当时公司发现面向大规模人脸比对场景时(例如:在学校宿舍区,通过视频监控判断每一个进入区域的人员是否是校内人员,当发现校外人员进入时发出告警,提升校园安全等场景),如果采用业内常规的特征计算方法,需要大量的GPU支撑,费用十分高昂。公司通过自研算法和软件,将人脸数据转换成特征向量数据存放在一体机上,用优化后的CPU计算代替GPU进行高维向量计算比对,大幅提升搜索性能、降低成本,单台“超大规模人脸向量比对一体机”每秒可处理约7亿次人脸数据特征向量比对。

之后随着公司技术研发的推进,云创数据的向量计算的方法不仅可用于人脸数据,其他结构化和非结构化的数据都可以转化为向量数据。因此,公司经过技术升级与产品更新迭代,于2022 年6月推出了“cVector 向量计算一体机”,用以支撑大规模向量计算的应用场景。

云创数据强调,公司“cVector 向量计算一体机”是一款软硬件一体化的产品,具有类似向量数据库的功能。该产品主要应用于人工智能领域中的大规模图像检索和生成式AI大模型推理两大主要场景,目标定位是辅助解决仅依靠GPU不足以支撑所需算力的难题,具有更高的性价比优势。

标签:

相关阅读
版权和免责申明

凡注有"三板富 | 专注于新三板的第一垂直服务平台"或电头为"三板富 | 专注于新三板的第一垂直服务平台"的稿件,均为三板富 | 专注于新三板的第一垂直服务平台独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"三板富 | 专注于新三板的第一垂直服务平台",并保留"三板富 | 专注于新三板的第一垂直服务平台"的电头。

最新热点

精彩推送

 

Copyright © 1999-2020 www.3bf.cc All Rights Reserved 关于我们
三板富投资网  版权所有 沪ICP备2020036824号-16联系邮箱:562 66 29@qq.com