가설이 저렴해지는 시대: 검증의 경제학
AI는 연구 가설을 검증할 수 있는 속도보다 빠르게 생성할 수 있습니다. 병목이 검증으로 이동한다면 무엇을 최적화하고 무엇을 과학적 진보로 세어야 할까요?
AI와 과학의 미래, 네 편 중 세 번째 글입니다. 그럴듯한 가설을 만드는 일이 매우 저렴해진다면 더 희소한 자원은 아이디어가 아니라 어떤 아이디어를 믿어도 되는지 판단하는 데 필요한 증거일 수 있습니다.
연구 에이전트가 한나절 동안 백 개의 설명 후보를 생성했다고 상상해 보겠습니다. 각 방법의 코드를 작성하고 초기 점수를 보고하며, 가장 성공적인 결과를 변호하는 문단까지 만들어 냅니다. 연구자에게는 더 많은 후보와 어쩌면 더 완성도 있어 보이는 논문이 남습니다.
하지만 그중 몇 개의 가설이 그 가설을 선택하는 데 사용하지 않은 증거로 실제 시험을 받았을까요?
이 차이에서 과학적 검증의 경제학이라는 질문이 나옵니다. 지식을 상품처럼 가격으로 환산하자는 뜻은 아닙니다. 연구에는 시간, 실험 장비, 독립 데이터, 계산 자원, 연구자의 주의력 같은 제약이 있습니다. AI는 그 제약 아래에서 수행하는 활동들의 상대적인 비용을 바꿉니다.
발견과 검증이 같은 속도로 확대되지는 않습니다
서로 다른 두 가지 활동을 구분해 보겠습니다.
후보 생성은 검토할 가치가 있는 방법, 기제, 데이터셋, 설명을 제안하는 일입니다. 대형 언어모델은 이 과정을 크게 가속하지만, 후보가 많다고 반드시 다양하거나 독창적인 것은 아닙니다.
주장 검증은 주장이 실제로 틀릴 수 있는 상황에 노출시키는 일입니다. 선택에 사용하지 않은 데이터, 새로운 물리적 관측, 사전 등록된 시험, 경쟁 설명을 구별하는 구성 요소 제거 실험, 독립적인 재현 등이 포함됩니다. 이러한 검증에는 언어모델이 즉시 만들어 낼 수 없는 자원이 요구될 때가 많습니다.
미국 국립학술원의 2019년 보고서는 계산적 재현가능성(reproducibility), 즉 동일한 데이터와 계산 절차에서 일관된 결과를 얻는 것과, 별도 연구에서 동일한 질문에 대해 일관된 결과를 얻는 **반복 검증가능성(replicability)**을 구분합니다. [1] 둘 다 중요하지만 코드를 다시 실행한다고 해서 설명이 원래 실험 환경 밖에서도 타당하다는 사실이 자동으로 확인되는 것은 아닙니다.
따라서 AI 시스템은 완벽하게 재실행되는 코드를 제공하면서도 취약한 과학적 주장을 뒷받침할 수 있습니다. 잘못된 질문을 구현했을 수도 있고, 방법 선택에 시험 데이터가 영향을 주었을 수도 있으며, 관찰된 효과가 새로운 환경에서 사라질 수도 있습니다.
하나의 제안: 검증 부채
소프트웨어 공학에서 기술 부채는 당장의 지름길이 미래에 부담을 남긴다는 비유입니다. AI 기반 연구에도 비슷한 분석 개념을 적용해 볼 수 있습니다.
저는 공개적으로 제시된 지식 주장이 독립적으로 시험받는 속도보다 빠르게 누적되면서 발생하는 부담을 잠정적으로 **검증 부채(validation debt)**라고 부르고자 합니다.
여기서 중요한 것은 초안이 아니라 주장이라는 점입니다. 검증되지 않은 아이디어를 명확히 가설이라고 표현한다면 이미 입증된 결과처럼 다른 논문에서 인용되는 주장과 동일한 부담을 낳는다고 볼 수는 없습니다.
많은 비공개 시행착오 끝에 결과를 골랐거나, 독립 시험 데이터를 반복적으로 재사용했거나, 결과를 본 뒤에야 그럴듯한 설명을 작성했다면 검증 부채가 커질 가능성이 있습니다. 반면 주장 범위를 좁히고 실패한 시도를 공개하거나 더 강한 새로운 시험을 수행하면 그 부담이 줄어들 수 있습니다.
이는 확립된 측정 지표가 아닌 분석적 제안입니다. 실제로 유용하려면 관찰 가능한 결과를 예측해야 합니다. 예컨대 새로운 데이터에서 발표된 성능 향상이 더 자주 사라지는지, 재현에 필요한 비용이 늘어나는지, 후속 연구에 근거가 약한 주장이 얼마나 오래 남는지 등을 확인해야 합니다.
이 생각을 어떻게 실험할 수 있을까요?
‘AI에 더 많은 계산을 투입한다’는 하나의 변수 대신 두 예산을 독립적으로 조절할 수 있습니다.
같은 종류의 연구 문제를 에이전트들에게 주고 탐색 가능한 후보 가설의 수를 바꿉니다. 별도로 검증 예산도 조절합니다. 새로운 데이터, 독립적 무작위 시드, 사전 계획된 시험, 외부 실험 호출 등에 사용되는 예산입니다.
최종 원고만 기록하지 말고 모든 시도를 기록해야 합니다. 탐색에 사용한 선택과 확인을 위해 보존한 시험도 분리합니다.
최소한 다음을 비교할 수 있습니다.
- 실질적으로 서로 다른 가설을 몇 개 제안했는가?
- 선택 과정에 사용하지 않은 검증에서 몇 개가 살아남았는가?
- 논문처럼 작성된 주장 중 독립 검증에 실패한 비율은 얼마인가?
- 실패한 실험과 인간의 검토 비용을 포함한 검증된 발견당 총비용은 얼마인가?
핵심 비교는 ‘AI를 사용했는가’가 아닙니다. 추가로 투입할 자원을 새로운 가설 생성과 더 나은 검증 중 어디에 배분할 때 외부 검토를 견디는 발견의 수와 질이 높아지는지를 보는 것입니다.
어려움도 있습니다. 계산과학에서는 검증이 저렴할 수 있지만 생물학의 일부 실험에는 몇 주가 필요합니다. 독창성을 측정하기도 쉽지 않으며, 하나의 시험은 가설의 일부 표현만 기각할 수 있습니다. 따라서 의미 있는 지표를 만들려면 분야별 차이와 검증 범위를 드러내야 합니다.
논문 생산량만으로는 부족합니다
두 시스템이 동일한 자원을 사용해 비슷한 수준의 논문을 같은 수만큼 작성했다고 가정해 보겠습니다. 한 시스템은 논문당 다섯 번, 다른 시스템은 오백 번 실험하고 가장 좋은 결과를 골랐습니다. 둘 다 선택된 실험만 보고한다면 발표된 성공률을 같은 방식으로 해석할 수 없습니다.
AI가 더 많은 인용문이나 설명을 생성한다는 사실도 더 신뢰할 수 있는 지식을 만든다는 뜻은 아닙니다. Messeri와 Crockett은 AI가 과학자의 이해에 관한 착각을 강화하고 연구 방향을 획일화할 수 있다고 경고했습니다. [2] AI Scientist 연구는 자동화의 진전을 보이는 동시에 구현, 방법론, 인용에서 나타난 실패도 보고했습니다. [3]
따라서 AI가 만든 결과라는 이유로 낮게 평가하자는 것이 아닙니다. 분모를 알아야 한다는 것입니다. 실제로 시도한 탐색, 중단한 이유, 선택에 사용하지 않은 증거, 실패한 실행의 수를 알아야 결과를 해석할 수 있습니다.
과학계는 생성형 AI 이전에도 이런 문제를 겪었습니다. 2015년 Open Science Collaboration의 재현성 프로젝트는 오늘날의 에이전트가 등장하기 전부터 재현성 문제가 중요했음을 보여줍니다. [4] AI는 오래된 방법론적 취약성을 증폭할 수도, 이를 해결하는 데 도움을 줄 수도 있습니다.
검증도 자동화할 수 있지만, 독립성을 가정할 수는 없습니다
낙관적인 답은 더 나은 실험을 설계하고 자신의 오류를 탐지하는 AI 에이전트를 만드는 것입니다. 자동 증명기, 시뮬레이션, 로봇 실험실은 실제로 검증 역량을 넓힐 수 있습니다.
그러나 검증자가 평가 대상 시스템과 같은 가정, 학습 데이터, 편향을 공유할 수 있습니다. 여러 에이전트가 같은 주장에 동의했다고 해서 독립적인 증거가 생기는 것은 아닙니다.
따라서 어떤 오류 원천이 서로 독립적인지, 어떤 새 관찰이 주장을 기각할 수 있는지 명확히 해야 합니다. 두 번째 언어모델에게 첫 번째 모델의 설명이 설득력 있는지 물어보는 일만으로는 충분하지 않습니다.
무엇을 과학적 진보로 셀까요?
저의 잠정적인 답은 생성한 가설 수나 완성한 논문 수가 아닙니다. 적어도 일부 발견 중심 시스템에서는 전체 연구 비용당 독립적으로 지지되는 비중복 발견의 수가 더 타당한 지표일 수 있습니다.
물론 이 지표도 불완전합니다. 기초과학은 수십 년 뒤에 가치가 드러나는 개념, 기구, 데이터셋, 부정적 결과도 만들어 냅니다. 과학을 하나의 효율 비율로만 평가해서는 이런 기여를 놓칩니다.
그럼에도 이 지표는 중요하지만 쉽게 가려지는 선택을 보여줍니다. 가설이 저렴해질수록 어떤 증거를 얻기 위해 자원을 쓸지 판단하는 일 자체가 중요한 지적 활동이 됩니다.
마지막 글에서는 증거의 비용에서 더 불편한 경계로 넘어갑니다. 검증을 살아남은 지식을 인간이 반드시 이해할 수 있어야 할까요?
참고문헌
- National Academies of Sciences, Engineering, and Medicine (2019). Reproducibility and Replicability in Science.
- Messeri, L., & Crockett, M. J. (2024). Artificial intelligence and illusions of understanding in scientific research. Nature, 627, 49–58.
- Lu, C., et al. (2026). Towards end-to-end automation of AI research. Nature, 651, 914–919.
- Open Science Collaboration (2015). Estimating the reproducibility of psychological science. Science, 349, aac4716.
검증 부채와 평가 틀은 앞으로 검토해야 할 가설이지 확립된 발견이 아닙니다. 도식은 실측 자료를 포함하지 않습니다. 이 작업 중인 에세이의 집필과 편집에는 생성형 AI의 도움을 활용했습니다.