게이트 G1 · 캘리브레이션 결과 · 실측

G1 캘리브레이션 — 미판정 2,000건 opus5 × sonnet5 교차 판독

미판정 295,288건에서 무작위 2,000건을 뽑아 두 모델이 독립 판독했습니다. 목적은 "일반 핀의 실제 패널 확인률"과 "모델 간 불일치율"을 실측해 전수 판독의 규모·방식을 정하는 것입니다.

29.8%
패널 확인 (합성)
595건
58.4%
패널 없음 (합성)
1,167건
81.3%
두 모델 완전 일치
1,627건
11.8%
정면 충돌 (panel↔no_panel)
236건 → 재판독 큐

1. 핵심 결과 — 주소 정확도가 패널 확인률을 결정한다합성 규칙: 일치=채택 · 한쪽 uncertain=다른쪽 채택 · 정면 충돌=uncertain

주소 자격표본패널 확인패널 없음애매모델 충돌
① 정확 (필지)90057.2%27.7%15.1%15.0%
② 거의 정확 (블록)9821.4%62.2%16.3%16.3%
③ 겹침 주의4919.2%81.1%9.8%9.8%
④ 동네 수준5112.7%89.8%7.4%7.2%
판정표의 행 설계가 실측으로 검증됐습니다. 필지 주소(①)는 57%가 십자선 바로 위에 패널이 있는 반면, 동네 수준(④)은 2.7%뿐 — 경로 신뢰도 순서 그대로입니다. ③④행을 "패널이 보여도 유력 상한"으로 둔 것도 타당: 애초에 보이는 경우 자체가 드뭅니다.

2. 모델 비교 — opus는 보수적, sonnet은 단정적

모델panelno_paneluncertain
claude-opus-532.0%62.3%5.7%
claude-sonnet-535.3%63.4%1.4%
합성29.8%58.4%11.9%

둘 다 확정 판정(uncertain 아님)을 낸 건 중 일치율 87.3%. 정면 충돌 11.8%는 단일 모델로 돌렸다면 그대로 오판으로 들어갔을 몫 — 교차검증이 잡아낸 값입니다. 충돌은 ①②행(15~16%)에 집중되고 ③④행(7~10%)은 낮습니다.

운영 발견: sonnet 태스크 14개 중 4개가 배치 일부를 빠뜨리고 완료 보고(12장 중 4장만). 배치별 완결성 검사로 잡아 7개 태스크 재판독 — 전수 판독 러너에 배치 단위 검증·자동 재시도가 필수입니다.

3. 용량대별·시점별

용량대표본패널 확인패널 없음
20~50kW87224.0%61.5%
50~250kW100435.7%54.1%
250kW~1MW9226.1%66.3%
1MW+3212.5%84.4%

1MW+ 확인률이 낮은(12.5%, n=32) 이유는 오판이 아니라 판독 규칙 때문입니다 — "십자선 바로 위"만 panel로 세므로, 대형 부지의 핀이 부지 내 도로·공터에 찍힌 경우 no_panel이 됩니다. 이 케이스가 바로 자동 보정(확정3) 대상입니다. 최근 24개월 준공 25건은 no_panel 92% — 촬영 시점 문제이며 보류(P) 규칙이 맞습니다.

4. 전수 판독 투사 (미판정 293,288건에 G1 확인률 적용)

자격미판정패널 확인 예상패널 없음 예상
Q1131,04874,98936,257
Q216,3133,49610,154
Q372,7226,66558,948
Q473,2052,00665,756
정직한 도달률 재추정: 전수 판독만으로 확정 계열 약 9.0만 건(23.5%). 여기에 확인필요(①②행 no_panel 4.6만)를 자동 보정으로 63% 회수하면 약 31%. 이전 추정치 35~42%보다 낮습니다 — 그 추정은 폴리곤으로 선별된 집합(94%)을 외삽한 낙관치였고, 이번이 실측입니다. MW 가중으로는 대형 우선·보정 회수 덕에 이보다 높을 것으로 예상.

5. 전수 판독 방식 결정을 위한 근거

항목G1 실측전수 투사
판독 호출167장 × 2모델 (+7 재시도)24,440장 × 2 = 약 4.9만 호출
판독 소요 (32 병렬)약 12분약 2.5~3시간
이미지 생성 (타일 수집)462초 / 2,000건약 19시간 (12스레드) → 48스레드·캐시로 6~8시간
모델 충돌 → 재판독11.8%약 3.5만 건 고배율 재판독
병목은 판독이 아니라 타일 수집입니다. 전수 실행 전에 타일 수집을 병렬·캐시 강화하는 게 판독 최적화보다 우선입니다.

교차검증 유지 권장: 충돌 11.8%는 "3% 미만이면 단일 모델"이라는 사전 기준을 크게 넘습니다. ①②행(확정 후보, 14.7만)은 반드시 교차, ③④행(14.6만, 확인돼도 유력 상한)은 sonnet 단독으로 줄여 비용을 약 35% 절감하는 절충이 가능합니다.

6. 판독 규칙 개선 제안 (전수 전 반영)

현재 답은 panel / no_panel / uncertain 셋인데, no_panel 안에 성격이 다른 둘이 섞여 있습니다: "틀린 자리"(주변에 패널 자체가 없음)와 "맞는 부지, 핀만 도로 위"(프레임 안에 패널이 보임). 후자는 자동 보정으로 확정3이 되는 몫이라 구분 가치가 큽니다. → 전수 판독에서는 panel_nearby(십자선엔 없지만 프레임 안에 패널 있음)를 네 번째 답으로 추가할 것을 제안합니다. 비용 증가 없이 보정 큐가 정확해집니다.