읽기 — 오차 막대와 그 다음 판

지표 면의 숫자를 한 번에 읽는 글이다. 해석이 들어가는 대목에는 근거의 한계를 같이 적었다.

무엇을 셌나

CODATA는 대략 4년마다 그동안의 측정과 이론 계산을 한데 모아 최소제곱 조정을 하고 기본 물리 상수의 권고값과 표준불확도를 낸다. 이 사이트는 1969년 조정(CODATA 이전)과 CODATA 아홉 판에서 서로 환산 관계가 없는 핵심 상수 17개를 골라, 판이 바뀔 때 값이 움직인 폭을 그 불확도와 견주었다.

보이는 것

불확도는 꾸준히 줄었다. 불확도가 줄어든 핵심 상수 16개의 상대 불확도는 중앙값으로 5.4년마다 절반이 되었다. 그런데 이동의 크기는 불확도가 말하는 범위를 자주 넘었다. 연속한 두 판 사이에서 두 불확도를 합친 것의 2배를 넘은 이동이 12.9%, 3배를 넘은 이동이 9.1%였다. 판이 독립이고 정규분포를 따른다면 각각 4.6%, 0.27% 여야 한다. 2022 판 값을 기준으로 보면 옛 판의 ±2σ 막대 중 29%가 그 값을 담지 못했다.

반대로 작은 이동은 기대보다 드물었다. |z| > 1인 판 쌍은 26.5%로 기대치 31.7%보다 낮다. 판과 판이 같은 실험 자료를 상당 부분 공유하기 때문이다. 새 측정이 없으면 값은 거의 그대로 남고(10개 쌍은 한 자리도 바뀌지 않았다), 새 측정이나 이론 수정이 들어오면 한꺼번에 크게 움직인다. 2006→2010 판의 미세 구조 상수 이동(옛 σ 기준 6.4배)은 CODATA 2010 보고서가 주로 전자 자기 모멘트 이론의 8차 항 계산 오류를 바로잡은 결과로 설명한다. 2014→2018 판의 양성자 전하 반지름 이동(옛 σ 기준 5.5배)에는 뮤온 수소·중수소의 램 이동 측정이 처음 들어온 것과 수소·중수소 분광의 개선이 함께 작용했다.

어디까지 말할 수 있나

• 이 숫자는 「보고된 불확도가 판간 이동을 설명하지 못한 비율」이다. 그 원인이 연구자의 과신인지, 알려지지 않은 계통 오차인지, 조정 절차(어떤 측정을 넣고 뺄지, 불확도를 얼마나 키울지)인지는 이 자료로 가릴 수 없다.
• 2022 판도 참값이 아니다. 기준을 바꾸면 놓침률도 바뀐다.
• 판은 서로 독립이 아니고 상수도 서로 상관되어 있다(공동 조정, α 와 aₑ 의 이론 관계, R∞ 와 핵 반지름의 분광 입력). 비율의 구간은 상수 단위 군집 부트스트랩으로 냈지만, 이것은 같은 상수 안의 의존만 다루고 상수 사이의 상관은 남는다. 표본은 상수 17개뿐이다.
• Henrion & Fischhoff(1986)는 같은 경향을 1929~1973년 자료에서, Bailey(2017)는 개별 측정 4만여 건에서 보고했다. 이 사이트의 자료는 그보다 좁고(권고값, 핵심 상수) 길다(2022 판까지). 결과의 방향은 같다.

실무에서 쓸 만한 교훈은 하나다. 공표된 불확도는 「이 범위 밖일 확률이 5%」라는 약속으로 읽기보다, 이 분야의 과거 기록이 보여 주는 꼬리를 함께 보고 읽어야 한다는 것이다. 그 꼬리의 크기가 이 사이트의 숫자다.