1. 基本信息
| 项目 | 内容 |
|---|---|
| 名称 | arize-dataset(合集仓库 Arize-ai/arize-skills 子技能) |
| 作者/维护者 | Arize AI(官方,LLM 可观测性平台厂商) |
| 来源链接 | https://github.com/Arize-ai/arize-skills/tree/main/skills/arize-dataset |
| 许可证 | MIT(GitHub API 核实) |
| GitHub Stars | 47(整仓库,GitHub API;合集仓库星数不代表本子技能个体热度) |
| Forks | 8(整仓库,GitHub API) |
| 最新版本 | v1.2.0(2026-07-30 发布,整仓库统一版本号);该子技能自身最近一次专属提交为 2026-08-17(GitHub commits API 按路径核实,5 位具名贡献者) |
| 安装方式 | npx skills add / git clone + install.sh / ax CLI(ax skills install)/ Claude Code 插件市场 |
2. 功能介绍与亮点
指导 agent 创建、管理与查询 Arize 数据集——一种用于评测与实验的版本化示例集合。技能覆盖完整的数据集生命周期:创建(支持 CSV/JSON/JSONL/Parquet 四种格式文件导入,也支持通过 stdin 或 heredoc 直接传入 JSON,无需临时文件);追加示例(inline JSON 或文件两种模式,单次最多 10 万条);导出(可导出全部或指定版本,支持管道给 jq 做字段提取或格式转换);更新/重命名/删除(删除为不可逆操作,默认需交互确认,--force 可跳过);批量标注示例(upsert 语义,单次最多 1000 条)。亮点:正文专门列出各文件格式的“坑”(CSV 丢失类型信息、JSONL 每行必须是独立对象而非数组、Parquet 需要 pandas/pyarrow 本地读取),并给出追加前先核对字段名的排错建议,避免因字段拼写错误静默生成脏列;故障排查表覆盖 9 类常见报错;系统管理字段(id/created_at/updated_at)的读写边界写得很清楚,避免误传导致创建失败。技能正文明确标出与同仓库 arize-trace(导出生产追踪作为数据集素材来源)、arize-experiment(消费本数据集跑实验)、arize-prompt-optimization(据实验结果改写提示词)的分工衔接,四者构成一条从“抓生产数据→建评测集→跑实验→优化提示词”的闭环。
3. 适用场景
固定分类:工程效率与代码质量。典型场景:需要为 LLM 应用搭建评测/回归测试集的开发团队;需要把生产环境里发现的边界案例固化为可复用测试样本(golden dataset)的场景;需要批量导入/导出评测数据、与本地文件系统或其他工具链(如 jq、pandas)打通的工作流。
4. 跨 Agent 兼容性
- Claude Code:✅ 原生支持——README 明确列出,另提供专门的
/plugin marketplace add Arize-ai/arize-skills安装路径 - Codex:✅ 原生支持——README 明确列为受支持 agent 之一
- OpenClaw:⚠️ 需通过通用安装器——Arize 官方文档未点名 OpenClaw,但推荐的
npx skills add安装器(vercel-labs/skills)官方支持列表明确列出 OpenClaw,会自动放入其skills/目录;技能内容为标准 SKILL.md 格式,不含 Claude 专有依赖 - Hermes Agent:⚠️ 需通过通用安装器——同上,安装器官方列表列出 Hermes Agent(放入
.hermes/skills/),Arize 未单独测试确认
5. 推荐理由
多数“数据/测试集管理”技能要么是通用文件操作的简单封装,要么绑死某个训练框架的数据格式。本技能背后是 Arize 平台真实的版本化数据集存储,天然与同仓库的实验、评测技能打通——建好的数据集可以直接喂给 arize-experiment 跑评测、结果又能反哺 arize-prompt-optimization 改写提示词,形成实测可用的闭环,而不是孤立的数据存取工具。对已经把 Arize 用作 LLM 应用可观测性平台的团队,这是把“评测集”从散落的本地文件升级为可版本追溯、可团队共享工程资产的现成路径。
6. 评分
| 维度 | 分数 | 说明 |
|---|---|---|
| 受欢迎程度 | 7 | 官方 Arize AI(LLM 可观测性平台厂商)出品并持续维护;仓库整体仅 47 星,经 GitHub Issues/Discussions 与 Web 检索均未发现该子技能自身的独立第三方讨论 |
| 可用性 | 8 | SKILL.md 正文约 16.5KB,另附 2 份共享参考文档(CLI 安装、profile 配置,共约 7.2KB),含完整 CRUD 工作流、格式坑清单、9 类故障排查表;npx skills add 一条命令安装;该子技能最近一次专属提交为 2026-08-17(近日活跃,5 位具名贡献者) |
| 安全性 | 9 | 见下方检查清单 |
安全检查清单:
① shell 命令执行——仅通过 ax CLI 与 Arize 自有 API 交互,无任意 shell 执行;delete 为不可逆操作,默认要求交互确认,--force 才能跳过
② 联网外发——仅联系用户自己配置的 Arize 工作区(自有账号数据),无第三方外发
③ 凭据处理——正文明令“绝不读取 .env 或搜索文件系统找密钥,只用 ax profiles,绝不要求用户把密钥粘贴进对话”
④ 无可疑指令——通读全文未见混淆代码或隐蔽外发,指令均为正常 CLI 操作说明
⑤ 作者信誉——Arize AI 为知名 LLM 可观测性厂商,通过 SOC 2 Type II、ISO 27001 等认证
⑥ License——MIT,明确
⑦ 最近维护——仓库整体最近推送 2026-08-18;该子技能最近一次专属提交 2026-08-17,来自 5 位具名贡献者的近期迭代记录
7. 跟同类 Skills 相比的优势
| 竞品 | 定位 | 差异 |
|---|---|---|
| HuggingFace Datasets(huggingface/skills) | 管理 HuggingFace Hub 上的公开/私有数据集,覆盖训练用大规模数据集的上传下载 | 面向机器学习训练数据集的通用托管,不针对 LLM 应用评测场景设计;本技能专为评测/实验工作流打造,数据集与同仓库的实验、优化技能直接联动 |
| promptfoo-evals(promptfoo/promptfoo) | 独立的开源 LLM 评测框架,测试用例以 YAML 配置文件形式管理,本地运行、无需外部平台账号 | 数据/测试用例保存在本地文件、无云端版本历史或团队协作能力;本技能的数据集托管在 Arize 平台,天然带版本快照与跨实验复用,代价是需要 Arize 账号与 ax CLI 配置 |
| Agent Platform Prompt Management(google/skills) | Google Cloud 官方出品,版本化管理 Agent Platform 上运行的提示词及关联评测资源 | 绑定 Google Cloud 单一云环境与其 Agent Platform;本技能面向任意 LLM Provider,数据集导入支持 CSV/JSON/JSONL/Parquet 四种通用格式,不限定云厂商 |
8. 用户评价
该技能目前在 GitHub Issues/Discussions、Reddit、Hacker News 等第三方平台均未见具名用户评价;所属仓库未开启 GitHub Discussions 功能。
9. 其他补充
同仓库另有 arize-trace(导出生产追踪数据作为数据集素材来源)、arize-experiment(消费本数据集跑实验评测)、arize-evaluator(LLM-as-judge 打分)、arize-prompt-optimization(依据实验与评分数据改写提示词措辞)、arize-annotation(对数据集示例做人工标注)等配套子技能,共同构成完整的评测数据工程闭环。
10. 安装使用方式
- 推荐:
npx skills add Arize-ai/arize-skills --skill arize-dataset --yes(自动识别当前 agent) - Claude Code 插件市场:
/plugin marketplace add Arize-ai/arize-skills后/plugin install arize-skills@arize-skills - 已装
axCLI(v0.27.0+):ax skills install(交互式选择) - git clone 后运行
./install.sh --project <项目目录>(Windows 对应install.ps1) - 安装后首次使用需先跑
ax profiles show确认已配置 Arize API Key(未配置时技能会引导创建),随后按需触发创建、追加、导出、标注等工作流
11. 注意事项
delete会连同数据集全部历史版本一并删除且不可恢复,务必先确认名称与空间;--force会跳过交互确认- CSV 格式会丢失字段类型信息(日期变字符串、
null变空字符串),对类型敏感的评测场景建议改用 JSON 或 Parquet - 该子技能是 Arize-ai/arize-skills 合集仓库的一部分,仓库 Star 数(47)由全部 14 个子技能共享,不代表本技能自身热度