企业官网建设流程全解析

generative-ai-for-beginners 第 12 课实战：为生成式 AI 应用设计可信、协作与包容的用户体验

【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners

在生成式 AI 应用开发中，用户体验（UX）往往比模型能力更容易被低估：用户能高效完成任务固然重要，但更重要的是应用应当对所有人可用、可信、可反馈、可掌控。本文基于generative-ai-for-beginners课程仓库第 12 课 12-designing-ux-for-ai-applications 的完整内容，结合仓库内真实的对话、文本生成与检索示例源码，系统讲解如何为一个虚构的 AI 教育产品（面向教师与学生）设计出“人们能用、更愿意用”的 AI 应用。读完后你将掌握：以可用性、可靠性、可访问性与愉悦性四支柱评估体验，通过可解释性与控制权构建信任，并用反馈闭环与明确的错误处理实现人机协作。

认识你的用户：AI 应用体验设计的两类关键角色

用户体验（UX）描述的是用户如何与某一产品、服务或系统交互并完成目标。在设计 AI 应用时，开发者不仅要保证交互“有效率”，还要保证体验符合伦理。以一个虚构的教育科技创业公司为例，系统中有两类核心用户：

• 教师：需要自动化批改、复习资料管理等提效工具；
• 学生：需要个性化学习、自我练习与即时反馈。

以用户为中心的设计（user-centered design）把用户放在首位，确保产品对目标人群真正相关且有价值。需要特别强调的是：并非每个问题都该用 AI 解决。AI 的角色是增强（augment）而非取代用户体验——例如自动化重复性的人工任务，或对个体体验做个性化。判断某个功能是否需要引入生成式模型，本身就是体验设计的起点。

好体验的四个支柱：可用、可靠、可访问、愉悦

原课程将“好的用户体验”拆解为四个可评估、可设计的维度。围绕 AI 教育应用，它们的具体含义如下：

四者之中，可靠性在生成式应用里最需要主动设计。以课程仓库 第 06 课的文本生成代码 为例：它用一段系统提示约束扮演历史人物的模型——“只依据时间线与事件的事实作答，不要自行创作内容；如果不知道，就明确说自己不记得”。这正是在提示词层面把“不可靠”的幻觉风险转化为“明确拒绝”的可控行为，是 AI 应用可靠性设计的最小可行范例。类似的角色化 system 提示同样出现在 第 07 课聊天应用示例 中。

信任与透明：在“不信任”与“过度信任”之间设计

信任是 AI 应用设计的命门：它让用户确信应用能完成任务、稳定产出结果且结果符合预期。但信任存在两个方向的失效风险：

• 不信任（Mistrust）：用户对 AI 系统几乎或完全没有信心，直接导致拒绝使用你的应用；
• 过度信任（Overtrust）：用户高估了 AI 系统的能力，从而过度依赖。课程给出了一个非常具体的反例——自动化批改系统一旦被教师过度信任，教师可能不再抽查部分试卷，最终造成不公或错误的评分，同时错失给学生反馈与改进的机会。

为了让信任成为设计中心而非事后补救，课程给出两个抓手：可解释性（Explainability）与控制（Control）。

可解释性：让用户看懂 AI 如何做决定

当 AI 参与影响重大决策（例如向下一代传授知识）时，教师与家长必须理解 AI 的决策如何产生。可解释性设计包含三层可落地动作：

1. 明确标注 AI 身份：受众必须知道输出来自 AI 而非真人。课程提供了文案对照范例——与其写“现在开始和你的导师聊天吧”，不如写“使用会根据你的需求调整、帮助你按自己的节奏学习的 AI 导师”，后者让用户对“对象是 AI”有清晰预期。下图即展示了这种文案优化前后的一对应用落地页：

2. 说清个人数据的使用边界：不同 persona（如“学生”）会有对应的权限限制。AI 不直接揭晓答案，而是引导用户自己思考如何解题——把“能力边界”作为人设约束写进产品与提示词，同样是本仓库代码中反复出现的模式（例如上面提到的扮演类历史对话约束）。

3. 简化解释：学生和教师不是 AI 专家，关于“应用能做什么、不能做什么”的说明必须简洁易懂。可解释性的目标不是展示技术细节，而是降低认知负担。

控制：给用户改写与选择数据的权利

生成式 AI 天然是用户与模型的协作：用户可以通过修改提示词（prompt）获取不同结果；输出生成后，用户也应能编辑结果，从而获得掌控感。课程以微软 Copilot（Bing Chat）为例给出两类控制入口：

• 提示与输出层面的控制：用户可按格式（format）、语气（tone）、长度（length）调整提示，也可在生成后继续追加修改；
• 数据层面的控制（opt-in / opt-out）：用户能自主选择加入或退出 AI 所使用的数据。对教育应用而言，学生可能既希望使用自己的课堂笔记、又希望引用教师提供的资源作为复习素材——此时必须让用户显式决定哪些数据被纳入。

“控制”还能落到代码实现层。本仓库的聊天示例在调用模型时显式关闭了会话存储：TypeScript 示例 chat-completions-app/src/main.ts 通过store: false声明不保留对话内容，Python 示例 oai-history-bot.py 同样传入store=False。这是“把数据控制权交还用户”的最小、可审计实现，可直接作为合规设计的技术参考。

设计 AI 应用时，意图性（intentionality）是关键——要在提示与结果之间制造适当的“摩擦”，时刻提醒用户“这是 AI，不是另一个人类”，从而防止过度信任与不切实际的预期。

协作与反馈：把错误处理与学习闭环内置到产品中

生成式 AI 的大部分交互路径是“用户输入提示 → AI 生成输出”。那么，当输出错误时怎么办？应用是责怪用户，还是花时间解释错误？AI 应用应当被设计为既能接收反馈、也能给出反馈——这不仅帮助系统持续改进，更在构建与用户的信任。两个关键设计点如下。

反馈闭环（Feedback Loop）

反馈机制应内置进界面，最朴素的形式就是对每条输出提供👍/👎。反馈闭环让用户感到“我的判断被采纳”，同时为后续质量评估与微调提供真实数据。本课程系列第 18 课 微调（fine-tuning） 所依赖的高质量数据集，很大程度上正来源于此类在产品内持续收集的用户反馈信号。

明确沟通能力边界与优雅的错误处理

系统错误在两类情况下尤其常见：用户询问超出 AI 知识范围的信息；或应用对“可生成摘要的题目/科目数量”设有上限。例如，一个只使用历史与数学数据训练的教育应用，无法回答地理问题。此时系统应明确回复，例如：

“抱歉，我们的产品仅基于以下科目的数据训练：历史、数学，无法回答你提出的问题。”

同时，应用应通过产品文案预先说明自身局限。下图对比了两类典型会话：左侧是模型基于训练边界礼貌拒答的流程，右侧则是模型引导用户运用数学公式自行求解、并在界面顶部提供点赞/点踩反馈的成功交互：

面向检索增强的可靠作答：控制范围的又一技术路径

当“训练数据范围有限”是可靠性硬约束时，除了限制与拒答，更优雅的解法是把用户自己的资料引入上下文。课程仓库 第 08 课搜索应用示例 演示了用 embedding 模型把文本向量化、再通过余弦相似度计算语义距离的过程；同一课的检索增强（RAG）与向量数据库内容详见 第 15 课。将这类检索能力接入教育产品后，“AI 只能基于你自己的笔记作答”就不再是提示词约束，而是真实的技术实现——应用仍能回答范围外问题，但答案会明确锚定在用户授权、可解释、可溯源的资料上，从根源上缓解幻觉与范围外错误。

设计清单：把四项原则落进你的 AI 应用

课程在第 12 课结尾布置了一个可直接执行的复盘任务：挑选你此前（第 06～09 课）构建的任意 AI 应用，按以下四步做一次体验改造体检：

• 愉悦（Pleasant）：是否在每个环节都提供了必要的解释？是否鼓励用户探索？错误提示的措辞是否友好而非指责？
• 可用（Usability）：若构建的是 Web 应用，确认它既可用鼠标也可用键盘完整导航（键盘可达性是可访问性的基础工程）；
• 信任与透明（Trust & Transparency）：不要完全信任 AI 及其输出——设计“人在环上”的输出核验流程（例如自动化批改结果由教师抽检），并补充其他可落地信任手段；
• 控制（Control）：把数据决定权交给用户，在 AI 应用中实现数据采集的 opt-in / opt-out 入口，并在实现上确认会话数据未在服务端被无条件留存（对照仓库示例的store: false写法）。

小结与下一步

一句话概括本课方法：AI 应用体验设计 = 以用户为中心的四支柱（可用、可靠、可访问、愉悦）做底座，以可解释性与控制权建立信任，以反馈闭环与优雅的错误处理支撑长期协作。这些原则与提示词、模型无关，适用于从文本生成、聊天到图像应用的所有生成式场景，也因此被编排在课程的通用设计环节。

完成本次体验改造后，可以继续进入 第 13 课：AI 应用安全加固——信任设计的另一半，来自对滥用、越权与数据泄露的防御；两部分共同构成值得用户信赖的 AI 产品。

【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners