返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

Ollama最新版本神功能:AI思维链随你控制

[复制链接]
链载Ai 显示全部楼层 发表于 4 小时前 |阅读模式 打印 上一主题 下一主题



ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;display: table;padding: 0.3em 1em;color: rgb(255, 255, 255);background: rgb(15, 76, 129);border-radius: 8px;box-shadow: rgba(0, 0, 0, 0.1) 0px 4px 6px;">什么是思考功能?

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">思考功能允许AI模型在给出最终答案之前,先展示其内部的推理过程。这就像是让AI"开口思考",用户可以看到模型是如何一步步分析问题并得出结论的。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;padding-left: 12px;color: rgb(63, 63, 63);">支持思考功能的模型

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">ollama 目前支持思考功能的模型包括:

    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;color: rgb(63, 63, 63);" class="list-paddingleft-1">
  • ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;text-indent: -1em;display: block;margin: 0.5em 8px;color: rgb(63, 63, 63);">
    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(15, 76, 129);">DeepSeek R1- 推理能力强大的开源模型
  • ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;text-indent: -1em;display: block;margin: 0.5em 8px;color: rgb(63, 63, 63);">
    ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(15, 76, 129);">Qwen 3- 阿里巴巴推出的多语言大模型
  • ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 14px;text-indent: -1em;display: block;margin: 0.5em 8px;color: rgb(63, 63, 63);">
    • 更多模型正在陆续支持中

CLI命令行使用方法

基础控制命令

启用思考功能:

# 使用参数启用
ollama run deepseek-r1 --think"9.9和9.11哪个更大?"

# 交互模式中启用
/set think

禁用思考功能:

# 使用参数禁用
ollama run deepseek-r1 --think=false"快速计算10+23"

# 交互模式中禁用
/set nothink

脚本化使用

如果您想在脚本中使用思考模型但只看结果,可以使用--hidethinking参数:

ollamarundeepseek-r1:8b--hidethinking"草莓这个词里有几个r?"

API调用示例

REST API调用

Ollama的API完全支持思考功能,通过think参数控制:

curl http://localhost:11434/api/chat -d'{
"model": "deepseek-r1",
"messages": [
{
"role": "user",
"content": "解释一下量子纠缠的原理"
}
],
"think": true,
"stream": false
}'

响应格式:

{
"model":"deepseek-r1",
"message":{
"role":"assistant",
"content":"量子纠缠是指两个或多个粒子...",
"thinking":"用户询问量子纠缠原理,我需要从基础概念开始解释...",
"done_reason":"stop"
}
}

Java集成库支持情况

需要特别注意的是,目前主流的Java AI集成库对Ollama 0.9的思考功能支持还不完善:

  • Spring AI- 暂未支持think属性
  • LangChain4j- 暂未支持think属性

如果您在Java项目中需要使用思考功能,建议直接使用HTTP客户端调用Ollama的REST API:

Modelfile高级配置

Qwen3模型的无缝思维链控制

笔者在之前的分享中发现,Qwen3模型有一个独特的能力:可以通过在提示词中携带/nothink关键字来控制是否进行深度推理。我们可以巧妙地利用Modelfile的TEMPLATE功能,在不修改后端代码的情况下,自动为用户提交的prompt添加控制指令。

创建默认禁用思考的Qwen3模型

FROM qwen3:latest
TEMPLATE"""

...

{{- if eq .Role "user" }}
<|im_start|>user
/nothink {{ .Content }}<|im_end|> # change this line
{{ else if eq .Role "assistant" }}<|im_start|>assistant

...

"""

创建并使用模型:

ollama create qwen3-fast -f ./Modelfile
ollama run qwen3-fast"解释一下机器学习的基本概念"

这样创建的模型会自动在每个用户输入前添加/nothink,实现默认快速响应模式。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ