Hugging Face's logo

Datasets:
hreyulog
/
apache-issue-function-commit

Modalities:
Text
Formats:
json
Languages:
English
Size:
10K - 100K
Tags:
software-engineering
github
event-sequences
missingness
Libraries:
Datasets
pandas
Polars
Dataset card Data Studio Files
xet
 Community
1

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Apache 251 仓库：原始关联快照与补爬合并事件层

本仓库同时保存两种不同粒度的数据，不要把原始关联行数当成唯一事件数。

版本 内容与粒度 入口
原始关联快照 131,411 行 Issue–PR–function–commit 关联记录，34,993,417,863 字节 根目录 records.jsonl
20261025-v2 补爬合并研究层 251 仓、3,614,443 个去重事件，附身份、来源、PR 关联、序列和缺失掩码 releases/20261025-v2/

兼容性：records.jsonl 没有被覆盖或改写。 默认 load_dataset 仍加载原始关联快照；新版合并事件需要下载下述版本包、解包后读取 SQLite/JSONL。 YAML 中的 train 只是原始文件的存储 split 名，不代表本研究新冻结的训练集；本次没有重新选取确认性 cohort 或训练/测试划分。 仓库原有的手动访问审核保持不变。本次未另行授予上游代码、评论或个人数据的新许可；使用者仍需遵守上游权利、隐私及访问约束。

相比原版增加了什么？

下表比较的是相同去重口径下的本地旧事件基线（由原始快照及既有审计资料生成）与新版事件层，不是把 131,411 行原始数据直接与事件行相减。

事件类型 旧事件基线 新合并层 净新增
Commit 646,626 986,976 340,350
PR 讨论评论 pr_comment 483,888 569,673 85,785
Review review 565,442 670,485 105,043
行内评论 review_comment 726,151 863,015 136,864
Issue opened / PR opened / merged / closed 524,294 524,294 0
合计 2,946,401 3,614,443 668,042

新增评论/评审类事件共 327,692 条。新增的 340,350 条 commit 是元数据覆盖，包括 SHA、父提交、作者/提交者及 Git 时间等；它们没有相应的生产函数 diff 输入，不能算新增函数状态、代码语义证据或完整代码样本。

此外，研究层整理了：

  • 逐事件的直接数字 GitHub 账号证据；作者、committer、PR opener 分离，不通过姓名/邮箱/登录名全局强行归并身份。
  • 事件—PR 关联、显式行内回复边、正文/差异及 API receipts 的可追溯引用。
  • 全体参与者画像和严格早于当前记录时钟的序列前缀；保留一次性、单通道、bot 标记和未知身份，不限旧 11 仓或每仓六人。
  • 逐 PR、逐端点的请求范围、抓取日期、当前列表完整性，以及 partial / retry_needed / unavailable。

所有原始事件 ID 和选用的原快照评论文本版本均保留。重叠评论中检测到 1 条当前正文与原版本不同，原版本未被覆盖，当前版本另存引用。

哪些实验准备已经具备？

本次重新全量扫描了 251 个事件导出文件：3,614,443 条事件的字段、类型、时区、来源、身份缺失、元数据/代码区分及 SHA-256 均通过；同时检查全部 PR 缺失掩码和 3,387,640 条已识别作者事件的序列前缀，并对四种引用存储分支做了解析检查。 此前独立审计还核对了全部原事件保留、链接、729,197 条原正文引用及 859,188 条差异引用；本次本地四包和全部 32,503 个文件成员也均逐项通过 SHA-256 复核。 详细结果见版本目录中的 experiment_field_audit.json、validation.json 和 local_archive_verification.json。

实验/分析 当前边界
仓库/参与者分层、单次与多次参与、Code/PR-NL 覆盖 可开展快照范围内的描述性分析；账号键不等于独立自然人
不规则事件序列、记录时钟间隔、跨通道支持诊断 可开展；Git 时间不是公开推送时间，顺序不等于因果或响应
身份口径、端点缺失及观测掩码敏感性准备 可开展；不能由当前列表直接推断历史缺失机制
完整同函数 before/after 轨迹、观点/立场测量、模型性能 未验证就绪；缺完整状态或已验证测量，未运行新模型/embedding
历史 response-opportunity 随访、真实行为沉默/无响应率 未验证就绪；风险集、完整随访及终止/竞争事件表仍不齐

严格的描述性双通道门槛（至少 2 条非空 PR-NL 文本、2 个实际生产函数改动文本的 commit，排除 bot 标记）下，新版有 6,207 个仓内参与者键，217 仓至少 1 键、118 仓至少 6 键；旧基线为 1,043 键、110/37 仓。 这不是最终样本、统计功效或同 PR/同函数响应配对；“非空”不等于已经人工验证的自然语言、观点或立场。单通道与单次贡献者仍完整保留。

字段字典和查询示例见 FIELD_GUIDE.md。 这里通过的是数据结构、来源与可解析性检查，不代表旧实验脚本无需适配即可 直接使用新 schema。新实验必须明确接入新版字段、正文引用和缺失掩码；本轮 没有改动旧模型输入程序、重新训练模型或重跑旧实验。

覆盖与未解决项

  • complete：166,616 个 PR 任务，只表示其请求的当前端点列表通过检查。101 项复用既有已审计缓存，保留旧抓取日期，不是本轮新鲜 API 抓取。
  • partial：17。16 个有 commit 列表上限/compare 限制；apache/flink#3621 有未解析的行内回复父节点。
  • retry_needed：1。apache/drill#574 的 timeline 端点多次 HTTP 502。
  • unavailable：3。apache/calcite#578、apache/calcite#556、apache/artemis#4489 的元数据 HTTP 404。

以上状态没有清空、抬升或冒充补齐；已按研究者要求结束进一步重试。 P0 请求五类端点；P1 通常只请求 commits/inline。未请求的 reviews/discussion/timeline 仍为 unknown。 保守掩码中 commits/inline 各有 105 项 unknown，reviews/discussion/timeline 各有 140,576 项 unknown。以逐 PR 记录为准，不把 unknown 转成 0。

当前 API 列表完整 ≠ 历史完整 ≠ 完整函数状态 ≠ 已验证沉默。 这是 Issue 关联快照加指定 PR 补爬层，不是仓库/社区活动普查；没有完整 Jira Issue 讨论线程。新评论的当前正文不保证等于创建时正文。 response_observed、behavioral_silence_label 和沉默率保持 null；最后观测时间也不是已确认退出时间。 Timeline/PR 元数据保存在响应缓存中，但没有被全部重建为完整的生命周期/随访终止表。

下载、校验与恢复新版

四包合计 7.237 GiB，解包后约 40.447 GiB，共 32,503 个文件；另外需要原始 records.jsonl（32.59 GiB）。 这是一份保留不可变引用的研究层发布，不是仅一个能独立解析全部正文的 JSONL。所有依赖在本仓原文件和下述版本包中；不要只下载 merged.tar.gz 就删除原始数据与缓存。

文件 用途
archives/merged.tar.gz 合并事件库、251 个事件 JSONL、参与者/仓库表、序列、PR 掩码、链接、校验与未解决项
archives/repair.tar.gz 补爬队列、共享压缩 API 响应库、规范化导出、receipts 和重试记录
archives/baseline.tar.gz 原事件去重库和旧画像导出；供 original_event_ref 解析和版本复核
archives/dependencies_and_tools.tar.gz 被引用的外部元数据/差异文件、源码小样本及处理脚本/测试
manifest.json 每个包及每个文件的大小、SHA-256 和包归属
restore_release.py / reference_resolver.py 安全解包验证和绝对来源路径到新工作目录的只读映射

推荐固定到一个发布完成后的 commit，而不是在实验中长期跟随 main：

from huggingface_hub import HfApi, snapshot_download

repo = "hreyulog/apache-issue-function-commit"
revision = HfApi().dataset_info(repo).sha  # 记入自己的实验 manifest；以后复用该值
snapshot_download(
    repo_id=repo, repo_type="dataset", revision=revision,
    allow_patterns=["README.md", "releases/20261025-v2/*"],
    local_dir="downloaded_all251",
)

先校验压缩包及每个成员（不解包、不额外复制 40 GiB）：

python downloaded_all251/releases/20261025-v2/restore_release.py --manifest downloaded_all251/releases/20261025-v2/manifest.json --archive-dir downloaded_all251/releases/20261025-v2/archives --verify-only

恢复时改为 --destination RESTORED_WORKSPACE，目标必须尚不存在。先完成四包解包，再下载原始 raw 到这个新工作目录中（四包本身不含 raw）：

from huggingface_hub import hf_hub_download
hf_hub_download(
    repo_id="hreyulog/apache-issue-function-commit", repo_type="dataset",
    filename="records.jsonl",
    revision="a0f8602209de81ed165ee36f303618afe8749889",
    local_dir="RESTORED_WORKSPACE/data/apache-issue-function-commit",
)

原始文件需另外核对哈希。 原文件 SHA-256 为 d7dd8205ade38d2e8dbeeb874516c7a6c56bfda0f48bbf3f23928a42047e361e。 本次核对了该文件远端 SHA-256/大小与先前完整本地校验一致，并核对源文件统计信息未变；没有声称本次重新下载了完整 35 GB 原文件。

包内旧绝对路径只作为来源证据保留；用 References(NEW_EMPTY_WORKSPACE) 解析到新路径，不要为便携性覆盖旧数据库。 正文和 diff 的读取示例、缺失值规则见字段字典。按 source_row 批量读原始 JSONL 时应一次扫描，避免为每个事件重复扫描 35 GB 文件。

复现与安全说明

原始数据、旧实验、论文均未重写；本轮没有启动 embedding、新模型或新抓取。 版本包不包含本地访问凭据、SQLite WAL/SHM、模型下载缓存或无关实验输出。 研究者本地可以在完整远端校验后另行选择移除可恢复的导出副本，但删除原始正文/代码依赖会阻断本地分析，不能仅凭“上传过”整目录删除。

English summary: This gated repository preserves the original issue-linked snapshot and adds a validated reference-based event union for 251 repositories. It supports bounded activity/availability profiling, not complete function-state, validated opinion, causal influence or historical behavioral-silence claims.
Downloads last month
25
Total file size:
42.8 GB