해석가능성

희소 오토인코더를 이용한 개념 발견

중성미자 파운데이션 모델의 사건 단위 표현에 희소 오토인코더를 적용한 연구는 모델 내부에서 물리적 개념의 지도를 식별했다. 연구진은 보류 데이터 테스트, 교란 요인을 맞춘 대조군, 독립적인 딕셔너리 학습 간 재현을 포함한 절차로 이 개념들을 검증했다.

인과적 활용 여부

인과 개입 결과, 방향 복원 헤드는 검증된 개념 지도를 거의 활용하지 않았다. 반면 같은 표현에서 각도 복원 오차를 예측하도록 학습한 불확실성 헤드는 지도에 포함된 품질 및 밝기 특징에 인과적으로 의존했다.

다운스트림 과제 설계

해석 가능한 불확실성 추정기는 20% 선택 효율에서 중앙값 각도 분해능을 20.2도에서 3.2도로 개선했다. 이는 기계론적 해석가능성이 모델에 학습됐지만 기존 출력 헤드가 충분히 사용하지 않는 정보를 드러내고, 그 정보를 활용하는 새로운 다운스트림 과제를 설계하는 데 쓰일 수 있음을 보여준다.