文章 2025-04-29 来自:开发者社区

使用 Ollama + FastAPI 打造轻量级 AI 应用部署方案

在 AI 模型从实验室走向生产环境的进程中,开发者面临两难选择:云端部署成本高且存在隐私风险,本地部署又面临环境配置复杂、性能调优困难等问题。本文将介绍一套基于 Ollama(本地模型运行容器)和 FastAPI(高性能 Web 框架)的轻量级部署方案,通过 200 行核心代码实现从模...

使用 Ollama + FastAPI 打造轻量级 AI 应用部署方案
文章 2025-04-01 来自:开发者社区

使用 Ollama 本地模型与 Spring AI Alibaba 的强强结合,打造下一代 RAG 应用

Spring AI Alibaba RAG Example 示例项目源码地址: https://github.com/springaialibaba/spring-ai-alibaba-examples/tree/main/spring-ai-alibaba-rag-example 01 RAG 应用架构概述 1.1 核心组件 ...

使用 Ollama 本地模型与 Spring AI Alibaba 的强强结合,打造下一代 RAG 应用
文章 2025-02-20 来自:开发者社区

Deepseek 本地部署“网页版”与“软件版”超级详细教学(deepseek+Ollama+OpenWebUI+Chatbox AI+Cherry Studio)

前言 近期,人工智能领域迎来了一股新的热潮,DeepSeek作为一款备受瞩目的开源语言模型,凭借其卓越的性能和广泛的应用场景,迅速在全球范围内引起了广泛关注。从技术社区到商业领域,DeepSeek的热度不断攀升,甚至有“挤爆”的趋势。这不仅反映了其强大的技术实力,也体现了市场和用户对其的高度期待。 在这样的背景下,本地部署DeepSeek模型的需求也日益增加。本地部署不仅可以避免...

Deepseek 本地部署“网页版”与“软件版”超级详细教学(deepseek+Ollama+OpenWebUI+Chatbox AI+Cherry Studio)
文章 2025-02-04 来自:开发者社区

手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日分享大模型与 AI 领域的最新开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术,欢迎关注我哦! 微信公众号|搜一搜:蚝油菜花 快速介绍 DeepSeek R1 是由深度求索(DeepSeek)公司推出并开源的第一代推理模型,在数学、代码和推理任务上的性能与OpenAI-o1相当。 Ollama ...

手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型,创建个性化 AI 助手
文章 2024-11-21 来自:开发者社区

ollama + qwen2.5-coder + VS Code + Continue 实现本地AI 辅助写代码

本文在 Apple M4 MacOS 的环境下 搭建, 请根据个人电脑配置情况选择相应的量化模型跑 1. 下载 Ollama 和 qwen2.5-coder 模型 1.1 安装ollama 方式 方式一: 官网下载安装文件https://ollama.com/ ollama 的官网网站,选择相应的电脑版本下载和安装。 方式二:使用 b...

ollama + qwen2.5-coder + VS Code + Continue 实现本地AI 辅助写代码
文章 2024-10-23 来自:开发者社区

[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理

1. Ollama简介 Ollama 是一个用于在本地环境中运行和定制大型语言模型的工具。它提供了一个简单而高效的接口,用于创建、运行和管理这些模型,同时还提供了一个丰富的预构建模型库,可以轻松集成到各种应用程序中。Ollama 支持多种操作系统,包括 macOS、Windows、Linux ...

[大语言模型-工程实践] 手把手教你-基于Ollama搭建本地个人智能AI助理
文章 2024-10-12 来自:开发者社区

Ollama部署在线ai聊天

概述:虽然ollama在Windows方面还有很多bug,但不妨碍它在ai领域上面的成就 第一步:安装Ollama 官网:Download Ollama on Windows 下载安装即可。说明一下ollama的安装位置只能是c盘,好像改不了,但是数据模型可以更改 端口号也可以更改。 OLLAMA_HOST OLLAMA_MODELS 改完之后,打开cmd窗口,然后去看ol...

Ollama部署在线ai聊天

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"activityCardStyle","productCardInfo":{"productTitle":"","productDescription":"","productContentLink":"","isDisplayProductIcon":true,"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"AI 编码","activityDescription":"百万 Qwen-coder 大模型 tokens 免费体验,灵码79元起,加速 AI 应用落地 ","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityButton1":{"activityButtonText":"查看详情","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding"},"activityButton2":{"activityButtonText":"立即体验","activityButtonLink":"https://bailian.console.aliyun.com/?spm=5176.30202035.J_VanPN1KXIVRyCVhZMwQ6t.6.1b791e71pokqL0&tab=model#/efm/model_experience_center/text?currentTab=textChat&modelId=qwen3-coder-plus"},"activityButton3":{"activityButtonText":"立即购买","activityButtonLink":"https://www.aliyun.com/benefit/scene/coding#J_1"}}}
AI 编码
百万 Qwen-coder 大模型 tokens 免费体验,灵码79元起,加速 AI 应用落地

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注