没显卡也能玩！Ollama 本地大模型保姆级入门指南

如果你想在自己电脑上跑 AI，又不希望数据被大厂拿走，Ollama 绝对是目前最香的选择。不用配复杂的 Python 环境，不用求爷爷告奶奶找 API Key，只要一键安装，就能实现“大模型自由”。不过我的电脑很早就有了python环境了，忘记啥时候安装的，虽然在python方面还是个菜鸟。

1. 怎么安装

直接去 Ollama 官网下载。有1个多G，先有个心理准备。

第一步： 安装完后，它会躲在右下角任务栏。
第二步： 打开终端（CMD 或 PowerShell），输入下面的命令。这是最关键的一步，它会自动下载并启动对话。
Bash

1ollama run qwen2.5:1.5b

当你看到进度条跑完，出现 >>> Send a message 时，说明 AI 已经在你硬盘里安家了。如果不想直接启动，就用这个命令：

1    ollama pull qwen2.5:1.5b
2

2. 避坑指南（这些坑我都帮你踩过了）

不要在 Python 里面运行 Python： 很多人会习惯先输入 python 进去，然后再敲命令。千万别！运行脚本是在普通的 CMD 路径下直接输入 python test.py。
模型名字要写全： 代码里的 model='qwen2.5:1.5b' 必须带上后缀。如果不写，它默认去找 7b 版本，没下载的话就会报 502 错误。

3. 高级玩法：手摸手教你写一个 Agent

普通的聊天只是“你问我答”，但 Agent（智能体） 厉害的地方在于：它能根据你的需求，自己去调用工具。

把下面的代码存成 agent_test.py：

Python

1import ollama
2
3# 1. 准备一个“假装能查天气”的工具
4def get_weather(city):
5    return f"{city}的天气是：大晴天，25度！"
6
7# 2. 告诉 AI 这个工具怎么用
8tools = [{
9    'type': 'function',
10    'function': {
11        'name': 'get_weather',
12        'description': '查询某个城市的天气',
13        'parameters': {
14            'type': 'object',
15            'properties': {'city': {'type': 'string'}},
16            'required': ['city'],
17        },
18    }
19}]
20
21# 3. 核心逻辑
22def ask_ai(prompt):
23    res = ollama.chat(model='qwen2.5:1.5b', messages=[{'role': 'user', 'content': prompt}], tools=tools)
24    
25    if res['message'].get('tool_calls'):
26        # AI 自动识别出需要调用 get_weather 函数
27        city = res['message']['tool_calls'][0]['function']['arguments']['city']
28        print(f"--- 内部观察：Agent 决定调用工具查【{city}】的天气 ---")
29        result = get_weather(city) 
30        
31        final = ollama.chat(model='qwen2.5:1.5b', messages=[
32            {'role': 'user', 'content': prompt},
33            res['message'],
34            {'role': 'tool', 'content': result}
35        ])
36        return final['message']['content']
37    return res['message']['content']
38
39print(ask_ai("北京天气怎么样？"))
40

4. 真实运行效果

当你退出所有多余的窗口，在文件夹里输入 python agent_test.py，你会看到极其解压的一幕：

1C:\Users\Admin> python agent_test.py
2--- 内部观察：Agent 决定调用工具查【北京】的天气 ---
3北京今天的天气非常好，是大晴天，气温约 25 度，非常适合出门走走！
4

注意看： 第一行输出是我在代码里写的“内部观察”，这证明了 AI 真的理解了你的话，并精准抓取了“北京”这个参数发给了 Python 函数。

实际上，我们的函数中并没有写这些回答，多出的部分内容就是大模型自己的发挥。

你可以参考这个流程，看清楚数据是怎么流动的：

用户： “北京天气如何？”
模型： （思考）我需要调用 get_weather，城市是“北京”。
Python 函数： （执行）返回 "大晴天，25度"。
模型： （加工）拿到数据，结合它的语言模型能力，扩充成：“北京今天天气非常好，是大晴天，气温约 25 度，非常适合出门走走！”

还是挺有意思的，强烈建议你试一试！

总结

Ollama 让 AI 不再是遥不可及的网页链接，而是你电脑里的一个“数字员工”。你可以先从 1.5b 这种小模型玩起，等玩明白了，直接换成更强的模型，你的 Agent 能力瞬间就能进化，上限取决于你的想象力。

《没显卡也能玩！Ollama 本地大模型保姆级入门指南》是转载文章，点击查看原文。