---
pretty_name: Apache Issue–PR–Function–Commit Snapshot and 251-Repository Repaired Event Layer
language:
- en
tags:
- software-engineering
- github
- event-sequences
- missingness
configs:
- config_name: default
  default: true
  data_files:
  - split: train
    path: records.jsonl
---

# Apache 251 仓库：原始关联快照与补爬合并事件层

本仓库同时保存两种不同粒度的数据，**不要把原始关联行数当成唯一事件数**。

| 版本 | 内容与粒度 | 入口 |
|---|---|---|
| 原始关联快照 | 131,411 行 Issue–PR–function–commit 关联记录，34,993,417,863 字节 | 根目录 `records.jsonl` |
| `20261025-v2` 补爬合并研究层 | 251 仓、3,614,443 个去重事件，附身份、来源、PR 关联、序列和缺失掩码 | `releases/20261025-v2/` |

**兼容性：`records.jsonl` 没有被覆盖或改写。** 默认 `load_dataset` 仍加载原始关联快照；新版合并事件需要下载下述版本包、解包后读取 SQLite/JSONL。
YAML 中的 `train` 只是原始文件的存储 split 名，不代表本研究新冻结的训练集；本次没有重新选取确认性 cohort 或训练/测试划分。
仓库原有的手动访问审核保持不变。本次未另行授予上游代码、评论或个人数据的新许可；使用者仍需遵守上游权利、隐私及访问约束。

## 相比原版增加了什么？

下表比较的是**相同去重口径下的本地旧事件基线**（由原始快照及既有审计资料生成）与新版事件层，不是把 131,411 行原始数据直接与事件行相减。

| 事件类型 | 旧事件基线 | 新合并层 | 净新增 |
|---|---:|---:|---:|
| Commit | 646,626 | 986,976 | 340,350 |
| PR 讨论评论 `pr_comment` | 483,888 | 569,673 | 85,785 |
| Review `review` | 565,442 | 670,485 | 105,043 |
| 行内评论 `review_comment` | 726,151 | 863,015 | 136,864 |
| Issue opened / PR opened / merged / closed | 524,294 | 524,294 | 0 |
| **合计** | **2,946,401** | **3,614,443** | **668,042** |

新增评论/评审类事件共 **327,692** 条。新增的 **340,350 条 commit 是元数据覆盖**，包括 SHA、父提交、作者/提交者及 Git 时间等；它们没有相应的生产函数 diff 输入，不能算新增函数状态、代码语义证据或完整代码样本。

此外，研究层整理了：

- 逐事件的直接数字 GitHub 账号证据；作者、committer、PR opener 分离，不通过姓名/邮箱/登录名全局强行归并身份。
- 事件—PR 关联、显式行内回复边、正文/差异及 API receipts 的可追溯引用。
- 全体参与者画像和严格早于当前记录时钟的序列前缀；保留一次性、单通道、bot 标记和未知身份，不限旧 11 仓或每仓六人。
- 逐 PR、逐端点的请求范围、抓取日期、当前列表完整性，以及 `partial` / `retry_needed` / `unavailable`。

所有原始事件 ID 和选用的原快照评论文本版本均保留。重叠评论中检测到 1 条当前正文与原版本不同，原版本未被覆盖，当前版本另存引用。

## 哪些实验准备已经具备？

本次重新全量扫描了 251 个事件导出文件：3,614,443 条事件的字段、类型、时区、来源、身份缺失、元数据/代码区分及 SHA-256 均通过；同时检查全部 PR 缺失掩码和 3,387,640 条已识别作者事件的序列前缀，并对四种引用存储分支做了解析检查。
此前独立审计还核对了全部原事件保留、链接、729,197 条原正文引用及 859,188 条差异引用；本次本地四包和全部 32,503 个文件成员也均逐项通过 SHA-256 复核。
详细结果见版本目录中的 `experiment_field_audit.json`、`validation.json` 和 `local_archive_verification.json`。

| 实验/分析 | 当前边界 |
|---|---|
| 仓库/参与者分层、单次与多次参与、Code/PR-NL 覆盖 | 可开展快照范围内的描述性分析；账号键不等于独立自然人 |
| 不规则事件序列、记录时钟间隔、跨通道支持诊断 | 可开展；Git 时间不是公开推送时间，顺序不等于因果或响应 |
| 身份口径、端点缺失及观测掩码敏感性准备 | 可开展；不能由当前列表直接推断历史缺失机制 |
| 完整同函数 before/after 轨迹、观点/立场测量、模型性能 | **未验证就绪**；缺完整状态或已验证测量，未运行新模型/embedding |
| 历史 response-opportunity 随访、真实行为沉默/无响应率 | **未验证就绪**；风险集、完整随访及终止/竞争事件表仍不齐 |

严格的描述性双通道门槛（至少 2 条非空 PR-NL 文本、2 个实际生产函数改动文本的 commit，排除 bot 标记）下，新版有 **6,207 个仓内参与者键**，217 仓至少 1 键、118 仓至少 6 键；旧基线为 1,043 键、110/37 仓。
这不是最终样本、统计功效或同 PR/同函数响应配对；“非空”不等于已经人工验证的自然语言、观点或立场。单通道与单次贡献者仍完整保留。

字段字典和查询示例见 [FIELD_GUIDE.md](releases/20261025-v2/FIELD_GUIDE.md)。
这里通过的是数据结构、来源与可解析性检查，不代表旧实验脚本无需适配即可
直接使用新 schema。新实验必须明确接入新版字段、正文引用和缺失掩码；本轮
没有改动旧模型输入程序、重新训练模型或重跑旧实验。

## 覆盖与未解决项

- **complete：166,616** 个 PR 任务，只表示其请求的当前端点列表通过检查。101 项复用既有已审计缓存，保留旧抓取日期，不是本轮新鲜 API 抓取。
- **partial：17**。16 个有 commit 列表上限/compare 限制；`apache/flink#3621` 有未解析的行内回复父节点。
- **retry_needed：1**。`apache/drill#574` 的 timeline 端点多次 HTTP 502。
- **unavailable：3**。`apache/calcite#578`、`apache/calcite#556`、`apache/artemis#4489` 的元数据 HTTP 404。

以上状态没有清空、抬升或冒充补齐；已按研究者要求结束进一步重试。
P0 请求五类端点；P1 通常只请求 commits/inline。未请求的 reviews/discussion/timeline 仍为 unknown。
保守掩码中 commits/inline 各有 105 项 unknown，reviews/discussion/timeline 各有 140,576 项 unknown。以逐 PR 记录为准，不把 unknown 转成 0。

**当前 API 列表完整 ≠ 历史完整 ≠ 完整函数状态 ≠ 已验证沉默。**
这是 Issue 关联快照加指定 PR 补爬层，不是仓库/社区活动普查；没有完整 Jira Issue 讨论线程。新评论的当前正文不保证等于创建时正文。
`response_observed`、`behavioral_silence_label` 和沉默率保持 `null`；最后观测时间也不是已确认退出时间。
Timeline/PR 元数据保存在响应缓存中，但没有被全部重建为完整的生命周期/随访终止表。

## 下载、校验与恢复新版

四包合计 **7.237 GiB**，解包后约 **40.447 GiB**，共 32,503 个文件；另外需要原始 `records.jsonl`（32.59 GiB）。
这是一份保留不可变引用的研究层发布，不是仅一个能独立解析全部正文的 JSONL。所有依赖在本仓原文件和下述版本包中；不要只下载 `merged.tar.gz` 就删除原始数据与缓存。

| 文件 | 用途 |
|---|---|
| `archives/merged.tar.gz` | 合并事件库、251 个事件 JSONL、参与者/仓库表、序列、PR 掩码、链接、校验与未解决项 |
| `archives/repair.tar.gz` | 补爬队列、共享压缩 API 响应库、规范化导出、receipts 和重试记录 |
| `archives/baseline.tar.gz` | 原事件去重库和旧画像导出；供 `original_event_ref` 解析和版本复核 |
| `archives/dependencies_and_tools.tar.gz` | 被引用的外部元数据/差异文件、源码小样本及处理脚本/测试 |
| `manifest.json` | 每个包及每个文件的大小、SHA-256 和包归属 |
| `restore_release.py` / `reference_resolver.py` | 安全解包验证和绝对来源路径到新工作目录的只读映射 |

推荐固定到一个发布完成后的 commit，而不是在实验中长期跟随 `main`：

```python
from huggingface_hub import HfApi, snapshot_download

repo = "hreyulog/apache-issue-function-commit"
revision = HfApi().dataset_info(repo).sha  # 记入自己的实验 manifest；以后复用该值
snapshot_download(
    repo_id=repo, repo_type="dataset", revision=revision,
    allow_patterns=["README.md", "releases/20261025-v2/*"],
    local_dir="downloaded_all251",
)
```

先校验压缩包及每个成员（不解包、不额外复制 40 GiB）：

```text
python downloaded_all251/releases/20261025-v2/restore_release.py --manifest downloaded_all251/releases/20261025-v2/manifest.json --archive-dir downloaded_all251/releases/20261025-v2/archives --verify-only
```

恢复时改为 `--destination RESTORED_WORKSPACE`，目标必须尚不存在。**先完成四包解包，再下载原始 raw 到这个新工作目录中**（四包本身不含 raw）：

```python
from huggingface_hub import hf_hub_download
hf_hub_download(
    repo_id="hreyulog/apache-issue-function-commit", repo_type="dataset",
    filename="records.jsonl",
    revision="a0f8602209de81ed165ee36f303618afe8749889",
    local_dir="RESTORED_WORKSPACE/data/apache-issue-function-commit",
)
```

原始文件需另外核对哈希。
原文件 SHA-256 为 `d7dd8205ade38d2e8dbeeb874516c7a6c56bfda0f48bbf3f23928a42047e361e`。
本次核对了该文件远端 SHA-256/大小与先前完整本地校验一致，并核对源文件统计信息未变；没有声称本次重新下载了完整 35 GB 原文件。

包内旧绝对路径只作为来源证据保留；用 `References(NEW_EMPTY_WORKSPACE)` 解析到新路径，不要为便携性覆盖旧数据库。
正文和 diff 的读取示例、缺失值规则见字段字典。按 `source_row` 批量读原始 JSONL 时应一次扫描，避免为每个事件重复扫描 35 GB 文件。

## 复现与安全说明

原始数据、旧实验、论文均未重写；本轮没有启动 embedding、新模型或新抓取。
版本包不包含本地访问凭据、SQLite WAL/SHM、模型下载缓存或无关实验输出。
研究者本地可以在完整远端校验后另行选择移除可恢复的导出副本，但删除原始正文/代码依赖会阻断本地分析，不能仅凭“上传过”整目录删除。

English summary: This gated repository preserves the original issue-linked
snapshot and adds a validated reference-based event union for 251 repositories.
It supports bounded activity/availability profiling, not complete function-state,
validated opinion, causal influence or historical behavioral-silence claims.