Publish validated Korean embedding pilot 50K

README.md

@@ -30,8 +30,10 @@ KorQuAD source를 `CC-BY-ND-4.0`으로 표시하고, upstream dataset card 본
 
 이 데이터로 학습한 모델은 `SQuADKorV1 train-family exposed`로 공개해야 하며 그
 task에서 zero-shot이라고 주장하면 안 된다. MTEB 변환 평가 repository
-`yjoonjang/squad_kor_v1`의 test row와 원본 KorQuAD validation split은 읽거나
-사용하지 않았다. Sionic 9의 MIRACL 등 다른 task 평가 데이터도 포함하지 않는다.
+`yjoonjang/squad_kor_v1`의 test나 원본 KorQuAD validation을 loader 입력으로 읽지
+않았고 평가 query/qrel exact match는 0이다. 다만 독립적인 KorQuAD train과
+MIRACL/MrTidy가 모두 Wikipedia를 원천으로 사용하므로 평가 blocklist와 exact corpus
+text가 겹친다. 이 overlap은 아래에 그대로 공개하며 clean zero-shot 데이터가 아니다.
 
 ## 고정 source와 변환
 
@@ -85,8 +87,14 @@ print(ds[0]["messages"][0]["content"])
 - positive length p50/p95: 462/862 characters
 - positive 중복 50,394는 같은 문맥에 평균 약 6.3개의 서로 다른 질문이 달린 원본
   KorQuAD 구조이며 오류가 아니다.
+- 15-task exact blocklist의 query/evaluation-text match: **0**
+- retrieval corpus match: 고유 6,426 contexts. MIRACL 6,376,
+  MrTidy 5,863, SQuADKorV1 3이며 task 간 같은 hash가 중복될 수 있다.
+- corpus-match training occurrences: positive 40,079, bootstrap negative 282,029
 
 `metadata/training_data_quality_audit.json`에 전체 통계와 입력 SHA를 저장한다.
+`metadata/benchmark_overlap_audit.json`에는 원문 없이 matched SHA, role/source count,
+benchmark task 위치를 저장한다.
 
 ## 무결성과 재현