统信发布中国首款操作系统级端侧模型 UOS LM
统信软件今日宣布,中国首款操作系统级端侧模型 UOS LM 正式发布。目前,UOS LM 端侧模型面向所有统信 UOS 社区版用户发起定向邀约内测,添加 deepin 小助手申请内测资格。
为保证流畅体验,统信推荐以下硬件性能:
1.5B 模型:内存 2G,GPU 显存 4G,10TOPS
7B 模型:内存 8G,GPU 显存 10G,20TOPS
对于个人用户,UOS LM V1.0 版本实现本地文档构建知识库,并通过向量数据库支持基于语义的相似性和向量分析操作,帮助用户通过 UOS AI 桌面智能助手对于组织用户,UOS LM V1.0 版本针对组织用户的原始文档,知识库系统的处理总共分为五个部分,分别是文档预处理、文本智能分块、向量化计算、向量索引构建、元数据索引文件的保存和调用。
汇总如下:
对于开发者,UOS LM 提供了丰富的功能和灵活的扩展性,并提供了强大的文档支持,助力开发者简化 AI 应用开发流程,加速行业应用、业务系统的开发,拓展 AI 应用场景。
AI SDK 提供三个层面的接口能力: