登录社区云,与社区用户共同成长
邀请您加入社区
GraphRAG通过将信息组织成知识图谱,使AI能精准回答复杂问题;Ollama则是在本地运行AI模型的开源工具。两者结合,可构建隐私优先、成本效益高的本地AI系统。文章详细介绍了GraphRAG与Ollama的协同工作原理、代码实现、设置指南及实际应用场景,帮助开发者从零开始构建本地知识图谱AI助手,提升AI回答的准确性和关联性。
掌握如何借助 DeepSeek R1 与 Ollama 搭建检索增强生成(RAG)系统。本文将通过代码示例,为你提供详尽的分步指南、设置说明,分享打造智能 AI 应用的最佳实践。
文章详细介绍了Deepseek大模型的接入方法,包括获取API参数、通过环境变量安全配置、解决常见问题,以及使用Ollama进行本地部署。内容涵盖Spring Boot集成配置、参数设置和测试用例编写,帮助开发者快速将Deepseek模型集成到应用中,同时提供了本地部署方案以增强数据安全性和降低成本。
摘要:本文介绍了基于Vue+SpringBoot框架,结合SpringAI和Ollama实现对话机器人的完整开发流程。主要包括:1)创建SpringBoot项目并配置Ollama依赖;2)编写配置类注册ChatClient;3)创建RESTful控制器处理用户请求;4)解决跨域问题;5)前端Vue实现交互界面,支持流式响应显示。实现了特定领域的对话功能,并详细展示了前后端代码实现及调试过程。
Ollama和vLLM作为当下备受瞩目的大模型部署工具,以其独特的技术优势和便捷的使用方式,吸引了众多开发者和企业的目光。
本文详细介绍了Ollama这一本地大模型部署工具的安装与使用方法。内容包括Mac/Windows/Linux系统的多种部署方式(裸机部署、Docker部署),常用命令操作,模型库选择,自定义模型配置,API服务设置,以及通过Open WebUI实现可视化界面。文章还提供了一键整合方案,帮助用户快速搭建本地大模型环境,降低技术门槛,实现大模型本地自由使用。
借助Ollama的INT4量化技术与Anything-LLM结合,可在16GB内存设备上高效部署本地RAG系统。采用GGUF格式压缩模型至3.5GB以下,实现低资源占用、数据私有化和低成本落地,适用于个人与企业知识库构建。
缓存雪崩:大量 key 同时过期 → 解决方案:随机过期时间 + 多级缓存 + 限流降级缓存穿透:查询不存在的数据 → 布隆过滤器 + 空值缓存缓存击穿:热点 key 失效瞬间被暴击 → 互斥锁(Redis SETNX)或永不过期策略业务场景:电商平台商品详情页、秒杀系统。
本文详细介绍了在本地部署Ollama大模型并将其接入Dify平台的完整流程,包括模型添加、参数配置及常见问题解决方案。针对Docker部署的连接问题,提供了不同操作系统的环境变量设置方法。文章强调AI大模型技术爆发式增长,人才缺口大、薪资高,是程序员必备技能,建议收藏学习。
本文介绍了在Ubuntu 22.04.3 LTS系统下配置Docker和Ollama的完整流程。内容包括:1)更新系统并安装Docker必备工具;2)添加Docker官方GPG密钥和阿里云镜像源;3)安装Docker并配置多个国内镜像加速源;4)安装NVIDIA容器工具包以支持GPU加速;5)部署Ollama容器并运行大语言模型(如gpt-oss:20b等);6)附上Ollama支持的主流模型列表
本文介绍了如何在星图GPU平台上自动化部署【ollama】granite-4.0-h-350m镜像,并利用该模型实现本地函数调用功能。通过一个完整的Python示例,展示了如何让模型理解用户意图并生成结构化请求,以完成查询天气、换算汇率等典型任务,为构建本地AI助手提供了实践方案。
本文介绍了如何在星图GPU平台上自动化部署【ollama】LFM2.5-1.2B-Thinking镜像,快速搭建轻量级大语言模型服务。该方案基于Docker Compose实现一键部署,可将该模型便捷地应用于构建私有AI写作助手、代码生成工具等文本生成场景,显著提升开发效率。
本文介绍了如何在星图GPU平台上自动化部署Kotaemon镜像,快速搭建本地智能文档问答助手。该方案结合Kotaemon的RAG应用界面与Ollama本地大模型,用户可上传私有文档(如PDF、Word),通过自然对话从文档中精准获取答案,实现安全、低成本的私有知识库管理。
本文介绍了如何在星图GPU平台自动化部署【ollama】granite-4.0-h-350m镜像,实现高效的长文档文本摘要功能。该轻量级大语言模型能快速将技术文档、会议记录等长文本压缩提炼为核心要点,适用于企业知识管理、研究文献综述等需要隐私保护和本地化处理的场景。