Label Studio 成员绩效仪表盘(Member Performance Dashboard)实战指南:Annotation 与 Review 指标全解析
2026/9/10 23:51:30 网站建设 项目流程

Label Studio 成员绩效仪表盘(Member Performance Dashboard)实战指南:Annotation 与 Review 指标全解析

【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio

导读

本文围绕 Label Studio 企业版内置的成员绩效仪表盘(Member Performance Dashboard)展开,系统讲解如何按时间段统计标注者(Annotator)与审核者(Reviewer)的产出、耗时与质量指标,包括多种入口方式、角色访问限制、导出功能、日期/项目/工作区筛选、自定义视图保存,以及 Annotations 与 Reviews 两个页签下的全部指标、图表和明细表的计算口径。读完本文,你将掌握该仪表盘每个数字的底层定义(如lead_timessubmitted_or_reviewedlast_action),能够据此开展资源排期优化、外包计费核算,并替代自建的用户绩效统计工具。

适用前提:本文描述的仪表盘属于Label Studio 企业版(Enterprise)功能,需要组织级的 Analytics 导航入口。文中部分时间类指标(如 Review 耗时)存在数据收集起始时间限制,详见 Reviews 章节说明。

功能概述:它能解决什么问题

绩效仪表盘提供了某位用户在一段时间内的标注与审核活动指标,包括「完成了多少任务」以及「完成速度有多快」。该功能在企业数据标注流程中的典型价值体现在三个方面:

  • 资源管理优化:当项目有严格时间线(rigid timeline)时,可通过各成员的周转速度(turnaround)识别出效率最高的用户,将关键任务优先分配给他们。
  • 标注者计费管理:当使用外包承包商或按产出计酬时,该仪表盘可直接用于计算或核验承包商付款金额,避免人工对账。
  • 降低内部统计报表成本:无需再为追踪用户绩效而开发复杂工具或工作流,开箱即用。

从源码结构看,这些能力建立在任务完成记录(Annotation模型,数据表task_completion)之上,仪表盘实际上是围绕该模型聚合出的分析视图,相关聚合逻辑在 label_studio/tasks/models.py 与 label_studio/projects/models.py 中均有体现。

访问入口:五种进入方式

根据用户角色不同,可通过以下方式打开绩效仪表盘:

入口操作路径预选对象
Organization 页面进入OrganizationMembers页面选择某位用户 → 右侧点击Member Performance该成员
Home 页面点击Member Performance链接当前登录用户自己
项目内 Members 仪表盘在项目Members仪表盘的Annotation Summary表格中,点击用户名所在行的溢出菜单(overflow menu)该项目中该用户的标注绩效
导航菜单应用内任意位置打开导航菜单 →Analytics当前登录用户自己的标注绩效仪表盘

按用户角色的访问限制

用户角色访问限制
OwnerAdmin可从导航菜单、Organization 页面、Home 页面、Members 仪表盘进入;可筛选所有用户;可筛选所有工作区
Manager可从导航菜单、Home 页面、Members 仪表盘进入;仅能筛选自己所在工作区或项目内的成员用户;仅能筛选自己所属的工作区或项目。
ReviewerAnnotator可从导航菜单和 Home 页面进入;仅能查看自己的标注与审核历史;仅能筛选自己所属的工作区或项目。

需要说明的是,当非管理员角色打开Analytics时,会被重定向到自己的成员绩效仪表盘(参见 dashboard_overview.md 中的角色说明),这保证了普通成员永远只能看到自己的数据。

数据导出:Report、Timeline 与 Comments Added

页面右上角的Export下拉菜单提供三种导出格式:

  • Report:将仪表盘中的信息导出为CSV 或 JSON,便于后续在本地做二次聚合或接入报表系统。
  • Timeline:导出所选时间范围内该用户所有标注动作的详细时间线,包含每条标注的开始时间与提交时间,适合审计与逐条核对。
  • Comments Added:导出 CSV 文件,内容为该用户留下的全部评论

筛选与视图:工作区、项目、日期与保存视图

按工作区与项目筛选

可选择一个或多个工作区(workspace)或单个项目;如需查看全部项目,可在工作区筛选器顶部选择All Workspaces

注意事项:筛选范围不包含 Personal Sandbox 个人沙盒项目(在 Overview 仪表盘中该项目总数还会被限制在 50 个以内,详见 dashboard_overview.md)。

按日期范围筛选

可以指定日期范围,甚至精确到时分秒。两个关键口径务必牢记:

  1. 标注与审核指标均按完成时间(completed)计算,而非开始时间(began)
  2. 示例说明:若选择周一、周二两天作为范围,标注者在周二打开标注、开始工作、周三才提交,那么这条标注及其花费时间不会被计入报告;同理,审核者在周二打开标注但周三才接受,该标注也不会被计入其总审核数与已接受指标。

保存自定义视图(Saved Views)

可以将成员、日期范围与项目筛选组合保存为自定义视图,便于随时访问常用的「成员 × 项目」组合。注意:

  • 支持保存、更新、删除视图。
  • 视图仅自己可见,不会在组织内共享。

另外,若在保存日期与项目/工作区筛选后点击Apply,这些选择会传播到其他 Analytics 页面;你可以随时重新应用已有视图,或将当前筛选并入新的/更新后的视图。

Annotations 页签:标注绩效深度解析

Annotations页签展示用户标注绩效与历史信息。其指标由以下三类底层数据计算而来:

  • last_action—— 标注的最后一个动作,取值为submitted(提交)、updated(更新)、fixed_and_accepted(修复并接受)、accepted(接受)、rejected(拒绝)等。该字段定义在 label_studio/tasks/models.py,取值枚举见 label_studio/tasks/choices.py 中的ActionType;同时该字段建立了数据库索引(见 label_studio/tasks/models.py),保证按动作类型聚合查询的高效性。
  • submitted_or_reviewed——last_action匹配上述动作之一的标注集合。
  • lead_times—— 上述标注花费的时间。Lead time(前置时间)包含空闲时间(idle time),并在多个会话(session)间累计

通用显示约定:无数据时显示短横线(--有数据但值为 0 时显示 0,两者语义不同,阅读时注意区分。

标注绩效汇总指标(Annotation performance summaries)

指标计算方式详细说明
Total Submitted Annotations(总提交标注数)submitted_or_reviewed之和所选时间范围内用户提交的标注总数。包含已提交或已更新的标注(无论是否被审核),不包含被跳过(skipped)的标注。每条标注在提交计数中只计一次——即使之后被更新,Label Studio 也不会重复计数。
Time Annotating(标注耗时)lead_times之和所选时间范围内的标注总耗时,基于符合submitted_or_reviewed条件的标注计算。所有标注都有 lead time,它反映用户从打开任务到点击 Submit 或 Update的标注时间,包含空闲时间与更新已提交标注的时间。不包含未提交/未更新标注的耗时(例如草稿、被跳过的标注)。Lead time 跨会话累计:用户离开或登出后再回到某个标注草稿或此前跳过的标注,其先前花费的时间仍会计入。
Performance Score(绩效评分)由审核动作计算反映标注者在**审核动作(Accept / Reject / Fix+Accept)**上的整体表现。算法为:所有审核动作得分之和 ÷ 审核动作总数。示例:
  • 某标注被拒绝 2 次后接受 1 次,绩效分 = (0 + 0 + 1) / 3 =33%
  • 某标注被拒绝 1 次后被「修复并接受」,且一致度(agreement)得分为 42%,绩效分 = (0 + 0.42) / 2 =21%。此处的 agreement 衡量的是标注者提交内容与审核者修复后提交内容之间的一致性。

标注图表(Annotation charts)

图表说明
Annotation States Over Time(标注状态随时间变化)所选时间段内用户完成的所有标注的汇总,按日期分段展示。
Time Spent Annotating(标注耗时分布)按日期分段的标注耗时(lead time),包含两个指标:总标注耗时(小时)平均单条标注耗时(分钟)

注意:图表中的日期与时间按标注完成时间(即last_action)计算,而非开始时间,与 日期范围筛选 的规则一致。

标注绩效明细表(Annotator performance table)

表格内所有指标(包括任务分配量)均受所选时间范围筛选。各列定义如下:

说明
Assigned被手动分配给该用户、或已收到该用户提交标注的任务数。
Pending被手动分配给该用户、但尚未提交标注且未跳过的任务数。
Submitted已提交的标注数,包含已审核与未审核的标注。
Skipped被跳过的标注数。
Performance Score基于对已提交标注的审核动作计算,完整定义见上表。若没有任何标注被审核,此列置灰显示。
Accepted已被审核者接受的已提交标注数。
Fix + Accepted被审核者调整(修复)后接受的标注数。
Rejected被审核者拒绝的已提交标注数。
Total Time该用户标注总耗时(lead_times之和)。
Average Time每条已提交标注的平均耗时(lead_times的平均值)。
Median Time每条已提交标注的耗时中位数(lead_times的中位数)。

关于lead_time的底层存储:Annotation模型中的lead_time为 FloatField(含义为“标注该任务花费的时间”,见 label_studio/tasks/models.py),项目级平均耗时聚合(annotations_lead_time)可在 label_studio/projects/models.py 中查看,任务列表中的平均耗时字段avg_lead_time则通过Avg('annotations__lead_time')聚合实现(见 label_studio/data_manager/managers.py)。

Reviews 页签:审核绩效深度解析

Reviews页签展示用户在审核他人标注方面的活动情况。显示约定与标注页签相同(--表示无数据,0表示有数据但值为零)。

审核绩效汇总指标(Review performance summaries)

指标说明
Total Reviews(总审核数)用户审核过的标注总数,包括所有接受、拒绝、更新后接受的标注。
Time Reviewing(审核耗时)审核总耗时,从打开标注开始计算,到执行动作(如批准)通过离开任务关闭它为止;当窗口处于焦点时也包含空闲时间。

重要限制:审核耗时的数据收集起始于2025 年 9 月 25 日(云端环境)2.30 版本(本地部署 on-prem)。若筛选日期早于该时间点,审核耗时将无法计算。

审核图表(Review charts)

图表说明
Review States Over Time(审核状态随时间变化)所选时间段内用户完成的所有审核的汇总,按日期分段展示。
Time Spent Reviewing(审核耗时分布)按日期分段的审核耗时,包含两个指标:总审核耗时(小时)平均单条审核耗时(分钟)

注意:图表日期按审核完成时间(如接受动作)或退出标注的时间计算,与 日期范围筛选 规则一致。

审核绩效明细表(Reviewer performance table)

表格内所有指标均受所选时间范围筛选。各列定义如下:

说明
Annotations Reviewed用户已审核的标注数,包含所有审核动作(accept、reject、fix + accept)。
Pending被手动分配给该用户作为审核者、但尚未给出审核意见的标注数。
Accepted用户已接受的标注数。
Fix + Accepted用户更新后接受的标注数。
Rejected用户已拒绝的标注数。
Total Time该用户审核总耗时,完整定义见上表。
Average Time每条标注的平均审核耗时。
Median Time每条标注审核耗时的中位数。

指标口径速查与使用建议

  1. 完成时间优先:无论标注还是审核,所有指标都以动作完成的时刻落入所选日期范围,安排排期统计时务必按提交/接受时间落账,而不是打开任务的时间。
  2. Lead time 的特殊性:包含空闲时间且跨会话累计,适合衡量“任务从打开到交付的总占用人手时间”,但不适合衡量纯专注工时。
  3. 绩效分的解读:Performance Score 本质是「平均审核接受率」,未审核的标注不参与计算;当表格中该列置灰(无审核数据)时,说明样本量不足,不宜直接用于人员横向比较。
  4. 审核耗时数据的边界:云端与本地部署的审核耗时数据收集起始时间不同,涉及历史数据对比时需确认时间起点,避免早期区间出现--(无数据)被误读为「0 耗时」。
  5. 导出与审计:需要逐条审计时优先使用Timeline导出(含开始与提交时间);需要整体统计时使用Report的 CSV/JSON;评论内容单独通过Comments Added导出。

关联文档与源码参考

  • 成员绩效仪表盘原始指南:docs/source/guide/dashboard_annotator.md
  • 项目总览仪表盘(Overview)及角色重定向说明:docs/source/guide/dashboard_overview.md
  • ActionType动作类型枚举(submitted/updated/accepted/rejected/fixed_and_accepted等):label_studio/tasks/choices.py
  • Annotation.last_action字段定义与索引:label_studio/tasks/models.py
  • Annotation.lead_time字段定义:label_studio/tasks/models.py
  • 项目级平均耗时聚合annotations_lead_time:label_studio/projects/models.py
  • 任务列表avg_lead_time聚合实现:label_studio/data_manager/managers.py

【免费下载链接】label-studioLabel Studio is a multi-type data labeling and annotation tool with standardized output format项目地址: https://gitcode.com/GitHub_Trending/la/label-studio

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询