大模型

大模型(LLM)技术资讯专区,聚焦本地化部署、私有化算力与企业数据安全场景下的大模型落地实践,解读大模型与存储基础设施的协同应用。

Open WebUI 私有知识库:NAS 资料怎样自动更新?
大模型

Open WebUI 私有知识库:NAS 资料怎样自动更新?

以售后工程师查询设备配置恢复步骤为线索,比较人工上传、浏览器目录同步和 oikb 定时增量同步三种方式,说明群晖 NAS 正式资料目录怎样只读接入 Open WebUI 知识库,以及挂载异常时的删除防护、知识库权限、完整备份范围和回答引用的验收步骤。

Dify+NAS:如何建立企业知识资产库
大模型

Dify+NAS:如何建立企业知识资产库

本文围绕一家软件公司实施工程师处理接口超时故障的过程,说明NAS正式资料区与Dify知识库、连续问答的分工,现场经验复盘后回写正式文档的流程,首批入库资料的选择和上线四个步骤,以及Dify 1.17.1升级前后的备份与验收方法。

AnythingLLM与NAS私有知识库|制造业文档检索
大模型

AnythingLLM与NAS私有知识库|制造业文档检索

本文围绕制造业设备手册、工艺SOP、质量资料和维修记录,说明如何用NAS建立受控文档源与备份体系,再用AnythingLLM搭建可对话的私有RAG知识库;覆盖工作区权限设计、部署方式、试点验证与生产验收,并给出从单一售后场景扩展到跨部门治理的完整路径。

QNAP QAI-h1290FX|AI存储服务器本地LLM与RAG
大模型

QNAP QAI-h1290FX|AI存储服务器本地LLM与RAG

以QNAP QAI-h1290FX为代表,分析AI存储服务器在本地LLM推理和企业RAG部署中的角色。包含RTX PRO 6000 Max-Q和RTX PRO 4500两款选配GPU规格与Ollama推理基准,解析算力、模型服务、检索应用和数据保护四层架构,对比一体机与独立GPU服务器的选型边界,讨论RAG权限治理和采购前PoC评估。