Label Studio 成员绩效仪表盘(Member Performance Dashboard)实战指南:Annotation 与 Review 指标全解析
【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio
导读
本文围绕 Label Studio 企业版内置的成员绩效仪表盘(Member Performance Dashboard)展开,系统讲解如何按时间段统计标注者(Annotator)与审核者(Reviewer)的产出、耗时与质量指标,包括多种入口方式、角色访问限制、导出功能、日期/项目/工作区筛选、自定义视图保存,以及 Annotations 与 Reviews 两个页签下的全部指标、图表和明细表的计算口径。读完本文,你将掌握该仪表盘每个数字的底层定义(如lead_times、submitted_or_reviewed、last_action),能够据此开展资源排期优化、外包计费核算,并替代自建的用户绩效统计工具。
适用前提:本文描述的仪表盘属于Label Studio 企业版(Enterprise)功能,需要组织级的 Analytics 导航入口。文中部分时间类指标(如 Review 耗时)存在数据收集起始时间限制,详见 Reviews 章节说明。
功能概述:它能解决什么问题
绩效仪表盘提供了某位用户在一段时间内的标注与审核活动指标,包括「完成了多少任务」以及「完成速度有多快」。该功能在企业数据标注流程中的典型价值体现在三个方面:
- 资源管理优化:当项目有严格时间线(rigid timeline)时,可通过各成员的周转速度(turnaround)识别出效率最高的用户,将关键任务优先分配给他们。
- 标注者计费管理:当使用外包承包商或按产出计酬时,该仪表盘可直接用于计算或核验承包商付款金额,避免人工对账。
- 降低内部统计报表成本:无需再为追踪用户绩效而开发复杂工具或工作流,开箱即用。
从源码结构看,这些能力建立在任务完成记录(Annotation模型,数据表task_completion)之上,仪表盘实际上是围绕该模型聚合出的分析视图,相关聚合逻辑在 label_studio/tasks/models.py 与 label_studio/projects/models.py 中均有体现。
访问入口:五种进入方式
根据用户角色不同,可通过以下方式打开绩效仪表盘:
| 入口 | 操作路径 | 预选对象 |
|---|---|---|
| Organization 页面 | 进入Organization→Members页面选择某位用户 → 右侧点击Member Performance | 该成员 |
| Home 页面 | 点击Member Performance链接 | 当前登录用户自己 |
| 项目内 Members 仪表盘 | 在项目Members仪表盘的Annotation Summary表格中,点击用户名所在行的溢出菜单(overflow menu) | 该项目中该用户的标注绩效 |
| 导航菜单 | 应用内任意位置打开导航菜单 →Analytics | 当前登录用户自己的标注绩效仪表盘 |
按用户角色的访问限制
| 用户角色 | 访问限制 |
|---|---|
| Owner和Admin | 可从导航菜单、Organization 页面、Home 页面、Members 仪表盘进入;可筛选所有用户;可筛选所有工作区。 |
| Manager | 可从导航菜单、Home 页面、Members 仪表盘进入;仅能筛选自己所在工作区或项目内的成员用户;仅能筛选自己所属的工作区或项目。 |
| Reviewer和Annotator | 可从导航菜单和 Home 页面进入;仅能查看自己的标注与审核历史;仅能筛选自己所属的工作区或项目。 |
需要说明的是,当非管理员角色打开Analytics时,会被重定向到自己的成员绩效仪表盘(参见 dashboard_overview.md 中的角色说明),这保证了普通成员永远只能看到自己的数据。
数据导出:Report、Timeline 与 Comments Added
页面右上角的Export下拉菜单提供三种导出格式:
- Report:将仪表盘中的信息导出为CSV 或 JSON,便于后续在本地做二次聚合或接入报表系统。
- Timeline:导出所选时间范围内该用户所有标注动作的详细时间线,包含每条标注的开始时间与提交时间,适合审计与逐条核对。
- Comments Added:导出 CSV 文件,内容为该用户留下的全部评论。
筛选与视图:工作区、项目、日期与保存视图
按工作区与项目筛选
可选择一个或多个工作区(workspace)或单个项目;如需查看全部项目,可在工作区筛选器顶部选择All Workspaces。
注意事项:筛选范围不包含 Personal Sandbox 个人沙盒项目(在 Overview 仪表盘中该项目总数还会被限制在 50 个以内,详见 dashboard_overview.md)。
按日期范围筛选
可以指定日期范围,甚至精确到时分秒。两个关键口径务必牢记:
- 标注与审核指标均按完成时间(completed)计算,而非开始时间(began)。
- 示例说明:若选择周一、周二两天作为范围,标注者在周二打开标注、开始工作、周三才提交,那么这条标注及其花费时间不会被计入报告;同理,审核者在周二打开标注但周三才接受,该标注也不会被计入其总审核数与已接受指标。
保存自定义视图(Saved Views)
可以将成员、日期范围与项目筛选组合保存为自定义视图,便于随时访问常用的「成员 × 项目」组合。注意:
- 支持保存、更新、删除视图。
- 视图仅自己可见,不会在组织内共享。
另外,若在保存日期与项目/工作区筛选后点击Apply,这些选择会传播到其他 Analytics 页面;你可以随时重新应用已有视图,或将当前筛选并入新的/更新后的视图。
Annotations 页签:标注绩效深度解析
Annotations页签展示用户标注绩效与历史信息。其指标由以下三类底层数据计算而来:
last_action—— 标注的最后一个动作,取值为submitted(提交)、updated(更新)、fixed_and_accepted(修复并接受)、accepted(接受)、rejected(拒绝)等。该字段定义在 label_studio/tasks/models.py,取值枚举见 label_studio/tasks/choices.py 中的ActionType;同时该字段建立了数据库索引(见 label_studio/tasks/models.py),保证按动作类型聚合查询的高效性。submitted_or_reviewed——last_action匹配上述动作之一的标注集合。lead_times—— 上述标注花费的时间。Lead time(前置时间)包含空闲时间(idle time),并在多个会话(session)间累计。
通用显示约定:无数据时显示短横线(
--),有数据但值为 0 时显示 0,两者语义不同,阅读时注意区分。
标注绩效汇总指标(Annotation performance summaries)
| 指标 | 计算方式 | 详细说明 |
|---|---|---|
| Total Submitted Annotations(总提交标注数) | submitted_or_reviewed之和 | 所选时间范围内用户提交的标注总数。包含已提交或已更新的标注(无论是否被审核),不包含被跳过(skipped)的标注。每条标注在提交计数中只计一次——即使之后被更新,Label Studio 也不会重复计数。 |
| Time Annotating(标注耗时) | lead_times之和 | 所选时间范围内的标注总耗时,基于符合submitted_or_reviewed条件的标注计算。所有标注都有 lead time,它反映用户从打开任务到点击 Submit 或 Update的标注时间,包含空闲时间与更新已提交标注的时间。不包含未提交/未更新标注的耗时(例如草稿、被跳过的标注)。Lead time 跨会话累计:用户离开或登出后再回到某个标注草稿或此前跳过的标注,其先前花费的时间仍会计入。 |
| Performance Score(绩效评分) | 由审核动作计算 | 反映标注者在**审核动作(Accept / Reject / Fix+Accept)**上的整体表现。算法为:所有审核动作得分之和 ÷ 审核动作总数。示例:
|
标注图表(Annotation charts)
| 图表 | 说明 |
|---|---|
| Annotation States Over Time(标注状态随时间变化) | 所选时间段内用户完成的所有标注的汇总,按日期分段展示。 |
| Time Spent Annotating(标注耗时分布) | 按日期分段的标注耗时(lead time),包含两个指标:总标注耗时(小时)与平均单条标注耗时(分钟)。 |
注意:图表中的日期与时间按标注完成时间(即
last_action)计算,而非开始时间,与 日期范围筛选 的规则一致。
标注绩效明细表(Annotator performance table)
表格内所有指标(包括任务分配量)均受所选时间范围筛选。各列定义如下:
| 列 | 说明 |
|---|---|
| Assigned | 被手动分配给该用户、或已收到该用户提交标注的任务数。 |
| Pending | 被手动分配给该用户、但尚未提交标注且未跳过的任务数。 |
| Submitted | 已提交的标注数,包含已审核与未审核的标注。 |
| Skipped | 被跳过的标注数。 |
| Performance Score | 基于对已提交标注的审核动作计算,完整定义见上表。若没有任何标注被审核,此列置灰显示。 |
| Accepted | 已被审核者接受的已提交标注数。 |
| Fix + Accepted | 被审核者调整(修复)后接受的标注数。 |
| Rejected | 被审核者拒绝的已提交标注数。 |
| Total Time | 该用户标注总耗时(lead_times之和)。 |
| Average Time | 每条已提交标注的平均耗时(lead_times的平均值)。 |
| Median Time | 每条已提交标注的耗时中位数(lead_times的中位数)。 |
关于lead_time的底层存储:Annotation模型中的lead_time为 FloatField(含义为“标注该任务花费的时间”,见 label_studio/tasks/models.py),项目级平均耗时聚合(annotations_lead_time)可在 label_studio/projects/models.py 中查看,任务列表中的平均耗时字段avg_lead_time则通过Avg('annotations__lead_time')聚合实现(见 label_studio/data_manager/managers.py)。
Reviews 页签:审核绩效深度解析
Reviews页签展示用户在审核他人标注方面的活动情况。显示约定与标注页签相同(--表示无数据,0表示有数据但值为零)。
审核绩效汇总指标(Review performance summaries)
| 指标 | 说明 |
|---|---|
| Total Reviews(总审核数) | 用户审核过的标注总数,包括所有接受、拒绝、更新后接受的标注。 |
| Time Reviewing(审核耗时) | 审核总耗时,从打开标注开始计算,到执行动作(如批准)或通过离开任务关闭它为止;当窗口处于焦点时也包含空闲时间。 |
重要限制:审核耗时的数据收集起始于2025 年 9 月 25 日(云端环境)或2.30 版本(本地部署 on-prem)。若筛选日期早于该时间点,审核耗时将无法计算。
审核图表(Review charts)
| 图表 | 说明 |
|---|---|
| Review States Over Time(审核状态随时间变化) | 所选时间段内用户完成的所有审核的汇总,按日期分段展示。 |
| Time Spent Reviewing(审核耗时分布) | 按日期分段的审核耗时,包含两个指标:总审核耗时(小时)与平均单条审核耗时(分钟)。 |
注意:图表日期按审核完成时间(如接受动作)或退出标注的时间计算,与 日期范围筛选 规则一致。
审核绩效明细表(Reviewer performance table)
表格内所有指标均受所选时间范围筛选。各列定义如下:
| 列 | 说明 |
|---|---|
| Annotations Reviewed | 用户已审核的标注数,包含所有审核动作(accept、reject、fix + accept)。 |
| Pending | 被手动分配给该用户作为审核者、但尚未给出审核意见的标注数。 |
| Accepted | 用户已接受的标注数。 |
| Fix + Accepted | 用户更新后接受的标注数。 |
| Rejected | 用户已拒绝的标注数。 |
| Total Time | 该用户审核总耗时,完整定义见上表。 |
| Average Time | 每条标注的平均审核耗时。 |
| Median Time | 每条标注审核耗时的中位数。 |
指标口径速查与使用建议
- 完成时间优先:无论标注还是审核,所有指标都以动作完成的时刻落入所选日期范围,安排排期统计时务必按提交/接受时间落账,而不是打开任务的时间。
- Lead time 的特殊性:包含空闲时间且跨会话累计,适合衡量“任务从打开到交付的总占用人手时间”,但不适合衡量纯专注工时。
- 绩效分的解读:Performance Score 本质是「平均审核接受率」,未审核的标注不参与计算;当表格中该列置灰(无审核数据)时,说明样本量不足,不宜直接用于人员横向比较。
- 审核耗时数据的边界:云端与本地部署的审核耗时数据收集起始时间不同,涉及历史数据对比时需确认时间起点,避免早期区间出现
--(无数据)被误读为「0 耗时」。 - 导出与审计:需要逐条审计时优先使用Timeline导出(含开始与提交时间);需要整体统计时使用Report的 CSV/JSON;评论内容单独通过Comments Added导出。
关联文档与源码参考
- 成员绩效仪表盘原始指南:docs/source/guide/dashboard_annotator.md
- 项目总览仪表盘(Overview)及角色重定向说明:docs/source/guide/dashboard_overview.md
ActionType动作类型枚举(submitted/updated/accepted/rejected/fixed_and_accepted等):label_studio/tasks/choices.pyAnnotation.last_action字段定义与索引:label_studio/tasks/models.pyAnnotation.lead_time字段定义:label_studio/tasks/models.py- 项目级平均耗时聚合
annotations_lead_time:label_studio/projects/models.py - 任务列表
avg_lead_time聚合实现:label_studio/data_manager/managers.py
【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考