1. 大模型赛道的现状与这份清单的由来
2026年9月下旬,我花了一周时间把国内外主流大模型和应用重新梳理了一遍。起因很简单:团队里新来的几个同学问我“现在到底该用哪个模型做Agent开发”,我随口说了几个名字,结果发现自己的认知还停留在半年前——这半年里,模型迭代、价格调整、工具链更新,变化大到让人有点跟不上。于是我干脆做了一次系统性的盘点,按模型维度和应用维度两条线整理,形成了这份清单。
这份清单解决的核心问题是:面对几十个名字相似、能力重叠、更新频繁的大模型,如何快速判断哪个适合你的场景。它适合三类人参考——刚入门想建立全局认知的开发者、正在做技术选型的产品或架构同学、以及想了解当前Agent生态全貌的爱好者。我不会只列名字,而是把每个模型或应用的定位、典型用法、踩坑点讲清楚,让你看完能直接上手试。
需要说明的是,这份清单的时间节点是2026年9月23日,大模型领域变化极快,具体版本号和价格请以官方最新信息为准。我尽量把判断逻辑和选型思路写出来,这样即使具体信息过时,你依然能复用这套方法。
2. 模型维度:国内外主流大模型的全景拆解
2.1 海外第一梯队:GPT、Claude、Gemini 三足鼎立
先说海外这三家,它们基本代表了当前大模型能力的上限,也是绝大多数Agent框架默认支持的模型。
GPT系列依然是生态最完整的。从早期的对话模型到现在的推理增强版本,OpenAI把API、插件、函数调用、结构化输出这套东西打磨得最成熟。做Agent开发时,GPT的函数调用(Function Calling)稳定性和文档质量是它最大的优势——你几乎不用为“模型不按格式返回”这种事反复调试。免费使用方面,官方网页端会保留一个基础模型额度,适合轻量体验;但要做正经开发,还是得走API。注册流程对国内用户来说有一定门槛,需要准备合适的支付方式,这点后面在问题排查里细说。
Claude系列的强项在长上下文和代码理解。它的上下文窗口给得大方,处理几十万字的文档、整个代码仓库的分析任务时,表现明显更稳。Claude Code是它推出的命令行编程工具,可以直接在终端里读代码、改代码、跑测试,对习惯命令行的开发者非常友好。安装上,Windows用户要注意它依赖虚拟机平台(Virtual Machine Platform),如果没开启会报“requires the virtual machine platform”这类错误;Ubuntu下安装相对顺畅,但要注意Node环境版本。另外有同学遇到过“无法将claude项识别为cmdlet”的报错,本质是环境变量没配好,不是工具本身的问题。
Gemini系列背靠谷歌,多模态能力是它的招牌——图片、视频、音频的理解和生成整合得比较自然。Gemini Code Assist是它在编程场景的落地产品,可以集成到VS Code里做代码补全和对话。不过它的账号资格审核比较严格,不少人会碰到“your account is not eligible for gemini code assist for individuals”的提示,这通常和账号地区、年龄设置有关。登录和使用上,部分地区需要留意网络环境的合规配置。谷歌也曾公开承认Gemini在某些边界情况下会被“越狱”绕过限制,这提醒我们:任何模型的安全护栏都不是绝对的,生产环境必须自己做一层输出校验。
这三家的选型逻辑,我总结成一张表:
| 维度 | GPT | Claude | Gemini |
|---|---|---|---|
| 最强项 | 生态完整、函数调用 | 长上下文、代码 | 多模态、谷歌生态 |
| Agent开发友好度 | 高 | 高 | 中 |
| 免费额度 | 网页端基础额度 | 网页端基础额度 | 网页端基础额度 |
| 主要门槛 | 注册支付 | 环境配置 | 账号资格 |
| 典型工具 | 各类Agent框架 | Claude Code | Gemini Code Assist |
2.2 国内主流大模型:场景化落地更接地气
国内的大模型这两年进步非常快,优势在于中文理解、本地化场景和合规部署。做国内业务、需要数据不出境、或者要对接国内办公生态的项目,优先考虑这一梯队。
从能力上看,国内头部模型在中文语义、公文写作、电商文案、客服对话这些场景已经相当能打,部分在数学推理和代码上也追得很紧。部署方式上,既有云端API,也有支持私有化部署的版本,这对金融、政务、医疗这类对数据敏感的行业很关键。价格方面,国内API普遍比海外便宜不少,做大规模调用时成本优势明显。
选国内模型时我建议重点看三件事:一是是否支持你需要的部署形态(公有云还是私有化),二是函数调用和结构化输出是否稳定(这直接决定Agent能不能跑顺),三是文档和社区活跃度(出问题能不能快速找到答案)。很多团队踩的坑是只看跑分,结果接入后发现工具调用老是格式错乱,返工成本很高。
2.3 开源与可本地部署模型:GGUF与量化实践
不是所有场景都能用云端API。数据敏感、离线环境、成本敏感的长尾任务,都需要能本地跑的模型。这里就绕不开GGUF格式和量化。
GGUF是现在本地推理的主流格式,配合llama.cpp这类推理引擎,可以在普通电脑甚至手机上跑起来。Android App集成AI大模型时,GGUF是常见选择——把量化后的模型文件打包进应用,离线也能推理。量化的核心逻辑是:用更低的数值精度(比如从16位降到4位)存储权重,换取更小的体积和更快的速度,代价是轻微的能力损失。实测下来,4位量化(Q4)在大多数对话任务上和原始版本差别不大,但体积能缩小到四分之一左右,这是本地部署能落地的关键。
选量化等级有个经验法则:Q4_K_M是性价比甜点,Q5和Q8更接近原始效果但更吃资源,Q2、Q3压缩狠但能力掉得明显,一般不建议用于需要推理的任务。本地部署还要注意内存和显存——一个7B参数的模型,Q4量化后大约4GB,加上推理时的KV Cache,8GB内存的机器能跑但会比较紧,16GB会舒服很多。
3. 应用维度:Agent生态与开发工具链
3.1 Agent到底是什么:从概念到落地
Agent(智能体)是这两年被讨论最多的方向。用大白话讲,普通大模型是“你问一句它答一句”,Agent是“你给个目标,它自己规划步骤、调用工具、执行、检查、再调整”。它把大模型从“聊天机器人”变成了“能干活的东西”。
一个典型的Agent由几部分组成:大脑(大模型负责推理决策)、工具(搜索、代码执行、数据库查询等)、记忆(短期对话历史和长期知识)、规划(把大任务拆成小步骤)。Agent开发的核心难点不在模型本身,而在如何让模型稳定地选择正确的工具、按正确的格式调用、在出错时能自我纠正。这也是为什么函数调用的稳定性如此重要。
Agent框架方面,现在有偏代码编排的(开发者写代码定义流程),也有偏自主决策的(给模型更多自由度)。选框架时我的建议是:先用最简单的方案跑通一个具体任务,再考虑上复杂框架。很多团队一上来就搭重型框架,结果调试成本高得离谱,最后发现一个几十行的循环加函数调用就够用了。
3.2 编程助手类应用:Claude Code、Gemini Code Assist与Codex
编程是Agent落地最成熟的场景,因为代码有明确的正确性标准,模型也最容易验证自己的输出。
Claude Code是命令行形态的编程助手,装好后在项目目录里直接对话,它能读文件、改代码、执行命令。安装要点前面提过,Windows要开虚拟机平台,Ubuntu注意Node版本。用它的心得是:给它清晰的任务边界,比如“修复这个函数里的空指针问题”比“帮我优化代码”效果好得多。它执行命令前会征求确认,这个设计很稳妥,别嫌麻烦,认真看它要跑什么。
Gemini Code Assist集成在VS Code里,装插件、登录账号就能用。它的代码补全和对话体验不错,但账号资格是拦路虎。如果碰到资格问题,检查账号地区设置和年龄信息,通常能解决。
Codex接入Gemini这类组合玩法,本质是用一个工具做编排、另一个模型做推理。这种混搭在特定场景下能取长补短,但要注意接口兼容性和成本核算,别为了炫技增加维护负担。
3.3 其他值得关注的应用方向
除了编程,Agent还在几个方向快速落地。办公自动化——让Agent读邮件、整理表格、生成报告;数据分析——用自然语言查询数据库、生成图表;客服与销售——多轮对话加工具调用完成下单、查询。这些场景的共同点是任务边界相对清晰、有明确的成功标准,适合Agent发挥。
还有一类是垂直领域的Agent项目,比如法律文书、医疗问诊、教育辅导。这类项目对准确性和合规性要求极高,通常需要结合领域知识库(RAG)和严格的人工审核,不能完全放手让模型自主决策。
4. 实操:从零跑通一个Agent的最小闭环
4.1 环境准备与模型接入
我以最常见的“本地Python + 云端模型API”方案为例,走一遍完整流程。这套方案的好处是门槛低、见效快,适合第一次接触Agent的同学。
第一步,准备Python环境。建议用3.10或以上版本,用虚拟环境隔离依赖:
python -m venv agent-env source agent-env/bin/activate # Windows用 agent-env\Scripts\activate pip install openai requests第二步,配置模型接入。以OpenAI兼容接口为例,把API Key放到环境变量里,别硬编码在代码里:
export MODEL_API_KEY="你的key" export MODEL_BASE_URL="你的接口地址"第三步,写一个最小的对话测试,确认模型能通:
import os from openai import OpenAI client = OpenAI( api_key=os.environ["MODEL_API_KEY"], base_url=os.environ["MODEL_BASE_URL"], ) resp = client.chat.completions.create( model="你的模型名", messages=[{"role": "user", "content": "你好,请回复OK"}], ) print(resp.choices[0].message.content)这一步能跑通,说明网络、鉴权、模型名都没问题,后面再往上加工具调用。
4.2 给Agent加上工具调用能力
Agent的核心是工具调用。下面定义一个查天气的工具,让模型自己决定什么时候调用:
import json tools = [{ "type": "function", "function": { "name": "get_weather", "description": "查询指定城市的天气", "parameters": { "type": "object", "properties": { "city": {"type": "string", "description": "城市名"} }, "required": ["city"], }, }, }] def get_weather(city): # 实际项目里这里调真实天气API return f"{city}今天晴,25度" messages = [{"role": "user", "content": "北京天气怎么样?"}] resp = client.chat.completions.create( model="你的模型名", messages=messages, tools=tools, ) msg = resp.choices[0].message if msg.tool_calls: call = msg.tool_calls[0] args = json.loads(call.function.arguments) result = get_weather(args["city"]) messages.append(msg) messages.append({ "role": "tool", "tool_call_id": call.id, "content": result, }) final = client.chat.completions.create( model="你的模型名", messages=messages, tools=tools ) print(final.choices[0].message.content)这段代码就是Agent的雏形:模型判断需要查天气,返回工具调用请求,我们执行工具,把结果喂回去,模型生成最终回答。关键点在于工具描述要写清楚——description越明确,模型选错工具的概率越低。
4.3 参数选择与成本控制
跑通之后就要考虑成本和稳定性。几个实操参数:
- temperature:做工具调用和结构化输出时调低(0到0.3),让输出更确定;做创意文案时可以调高。
- max_tokens:设个上限防止模型话痨,Agent场景一般1024到2048够用。
- 超时与重试:网络请求一定要设超时,并做有限次重试,否则一个卡住的请求会拖垮整个流程。
成本上,我的经验是先用便宜模型跑通逻辑,再用强模型优化效果。很多任务用中等模型就能完成,没必要全程上最贵的。另外,把系统提示词(System Prompt)写精炼,能显著减少token消耗——提示词里每多一句废话,每次调用都要多付一次钱。
5. 常见问题与排查技巧实录
5.1 账号与登录类问题
这类问题最磨人,但排查思路其实很固定。
GPT注册:核心是支付方式和地区信息要匹配。如果反复失败,先检查浏览器环境是否干净,再确认支付方式是否支持。别在同一个环境里反复试,容易触发风控。
Gemini登录与资格:碰到“not eligible”提示,先看账号地区设置和年龄信息。Gemini Code Assist对个人用户的资格有明确限制,不符合就是不符合,换账号或走其他方案更省时间。Gemini打不开的情况,多数和网络环境有关,按合规方式配置即可。
Claude环境报错:Windows下“requires the virtual machine platform”是没开虚拟机平台,去系统功能里勾选开启;Ubuntu下“无法将claude项识别为cmdlet”是环境变量没配,检查PATH。这些报错看着吓人,其实都是配置问题,不是工具坏了。
5.2 开发与运行类问题
Agent执行中断:遇到“agent execution terminated due to error”,先看日志里最后一步是什么。常见原因是工具调用返回了模型无法解析的格式,或者超时。解决办法是给工具返回加一层格式校验,确保永远是合法JSON。
模型“正在重新连接”:这通常是网络抖动或服务端限流。加指数退避重试,别用固定间隔猛冲,否则会被限得更狠。
Android集成GGUF:注意模型文件别打包进APK,体积太大,应该首次启动时下载。另外手机内存有限,选Q4量化、7B以下的模型更现实。
5.3 常见问题速查表
| 问题现象 | 可能原因 | 解决方向 |
|---|---|---|
| 模型不调用工具 | 工具描述不清 | 完善description,加示例 |
| 工具调用格式错 | 模型能力不足 | 换强模型或加格式约束 |
| 请求超时 | 网络或服务端慢 | 设超时+重试 |
| 输出不稳定 | temperature过高 | 调低到0.3以下 |
| 本地模型跑不动 | 量化等级过高 | 换Q4或更小参数模型 |
| 账号资格被拒 | 地区/年龄不符 | 核对账号信息 |
5.4 几条踩坑心得
第一,别迷信跑分。榜单上的分数和你的实际任务表现经常对不上,一定要用自己的数据测。我见过跑分很高的模型在特定领域的工具调用上频频出错。
第二,提示词要版本管理。Agent的系统提示词是核心资产,改一次效果可能天差地别,用Git管起来,每次改动都记录效果。
第三,给Agent设边界。它能调用的工具、能访问的数据、能执行的操作,都要有明确白名单。尤其是能执行代码或操作文件的Agent,一个失控的循环可能造成真实损失。
第四,成本要实时监控。Agent会自主多轮调用,token消耗可能远超预期。上线前设好预算告警,别等账单来了才发现。
6. 大模型学习路线与选型建议
6.1 不同基础的人该怎么学
如果你是零基础,别一上来就啃论文。先从用一个模型解决一个具体小问题开始,比如用API写个自动整理会议纪要的小脚本,跑通了再往Agent方向走。理解“提示词—模型—输出”这个基本循环,比背概念重要得多。
如果你有编程基础,直接上手Agent开发。从函数调用开始,做一个能查资料、能算数的小助手,然后逐步加记忆、加多工具、加规划。这个过程中你会自然理解RAG、工具编排、错误处理这些概念。
如果你是做技术选型的,重点看三件事:模型的能力边界(用你的真实任务测)、部署形态(能不能满足合规要求)、生态成熟度(文档、社区、周边工具)。别被参数和跑分带偏。
6.2 选型的几个判断维度
我把选型维度整理成一张表,方便对照:
| 维度 | 关键问题 | 权重建议 |
|---|---|---|
| 能力匹配 | 在你的任务上实测效果如何 | 最高 |
| 部署形态 | 能否满足数据合规要求 | 高 |
| 成本 | 大规模调用是否可承受 | 高 |
| 稳定性 | 工具调用、格式输出是否可靠 | 高 |
| 生态 | 文档、社区、工具链是否完善 | 中 |
| 迭代速度 | 厂商更新是否活跃 | 中 |
6.3 关于“免费使用”的理性看待
热搜里“gpt免费使用”“免费大模型api”这类词很热,但要有清醒认识。免费额度适合学习和验证,不适合生产。生产环境要考虑的是稳定性、限流、数据安全和长期成本,免费方案在这些方面通常有硬伤。我的建议是:用免费额度做原型,用付费API做产品,这个过渡要提前规划。
7. 我对当前大模型与Agent生态的几点个人判断
做了这一轮梳理,有几个感受比较深。
第一,模型之间的差距在缩小,工程能力的重要性在上升。以前换个模型效果天差地别,现在头部模型在多数任务上都能用,真正拉开差距的是你怎么编排工具、怎么设计提示词、怎么做错误处理。Agent开发正在从“选对模型”变成“做好工程”。
第二,本地部署和云端API会长期并存。数据敏感的场景必须本地,追求效果和便利的场景用云端。GGUF这类格式让本地部署门槛降了很多,但资源限制依然存在,选型时要实事求是。
第三,Agent的可靠性是最大瓶颈。模型再强,一个工具调用格式错误就能让整个流程崩掉。所以生产级Agent必须做大量的防御性编程——格式校验、超时重试、失败降级、人工兜底,这些“不性感”的工作才是能不能上线的关键。
最后分享一个我自己的小习惯:我会维护一个“模型试用记录表”,每试一个新模型或新工具,就记下日期、任务、效果、坑点。半年下来这张表比任何榜单都管用,因为它记录的是我自己的真实场景。你也可以试试,用不了多久,你就有了一套属于自己的选型依据。