아이디어 토너먼트, Co-Scientist가 바꾼 연구 병목

Google DeepMind가 과학 연구용 다중 에이전트 시스템 Co-Scientist를 다시 전면에 올렸습니다. 이번에는 단순 데모가 아니라 2026년 5월 19일 Nature 논문, Google DeepMind 공식 발표, 그리고 Google Labs의 Hypothesis Generation 실험 도구가 함께 묶였습니다. 발표 문구만 보면 "연구자를 돕는 AI 파트너"입니다. 하지만 개발자 관점에서 더 중요한 부분은 따로 있습니다. Co-Scientist는 과학 지식을 많이 아는 챗봇이 아니라, 가설을 생성한 뒤 여러 에이전트가 그 가설을 비판하고 순위를 매기고 재조합하는 검증 중심 런타임에 가깝습니다.

이 차이는 큽니다. AI 과학 도구를 "논문을 빨리 읽어주는 모델"로 보면 제품의 핵심은 검색, 요약, 긴 컨텍스트입니다. Co-Scientist를 "검증 예산을 어디에 쓸지 결정하는 에이전트 시스템"으로 보면 핵심은 오케스트레이션, 평가, 도구 연결, 안전 분류기, 그리고 사람이 언제 개입해야 하는지를 정하는 인터페이스가 됩니다. 이번 뉴스가 흥미로운 이유는 바로 여기에 있습니다. Google은 과학 자동화의 병목이 아이디어 부족만이 아니라, 좋은 아이디어와 위험한 아이디어와 이미 알려진 아이디어를 가르는 검증 루프에 있다고 보고 있습니다.

Nature 논문이 붙은 이유

Nature 논문 초록은 Co-Scientist를 "structured scientific thinking and hypothesis generation"을 위한 Gemini 기반 다중 에이전트 시스템으로 설명합니다. 연구 목표와 선행 증거를 조건으로 받아, 실험 검증이 가능한 새 가설을 만들도록 설계했다는 것입니다. 논문은 이 구조가 test-time compute scaling의 혜택을 받는다고 주장합니다. 추론 시점에 더 많은 계산을 투입할수록 가설 품질이 계속 개선되는지를 본다는 뜻입니다.

그동안 많은 AI 연구 보조 도구는 문헌 검색과 초안 작성에서 강점을 보였습니다. 하지만 과학 연구에서 문헌을 많이 읽는 것과 좋은 가설을 내는 것은 같은 문제가 아닙니다. 더구나 좋은 가설은 "그럴듯함"만으로 끝나지 않습니다. 참신해야 하고, 기존 문헌과 모순되지 않아야 하며, 실험으로 검증할 수 있어야 하고, 안전과 윤리의 경계도 넘어서는 안 됩니다. Co-Scientist는 이 조건들을 단일 프롬프트가 아니라 여러 역할의 에이전트와 반복 루프로 나눴습니다.

DeepMind 발표에 따르면 시스템은 크게 생성, 토론, 진화 세 단계로 묶입니다. Generation agent는 문헌과 데이터에 기반한 초기 가설과 초점 영역을 제안합니다. Proximity agent는 생성된 가설을 매핑하고 클러스터링해 탐색 공간이 한쪽으로 몰리지 않도록 돕습니다. Reflection agent는 가상의 동료 평가자처럼 가설의 정확성, 품질, 참신성을 비판합니다. Ranking agent는 pairwise 비교와 시뮬레이션된 과학 토론으로 idea tournament를 운영합니다. Evolution agent는 상위 가설을 조합하고 개선합니다. Meta-review agent는 토론과 토너먼트의 통찰을 종합해 시스템 자체의 다음 계획에 되돌려줍니다. 이 전체 과정을 supervisor agent가 조율합니다.

뉴스의 본체는 가설 생성이 아니라 가설 검증입니다

DeepMind 발표에서 가장 눈에 띄는 문장은 Co-Scientist가 "수천 개의 연구 방향"을 탐색할 수 있다는 설명이 아닙니다. 더 중요한 문장은 시스템 계산의 다수가 가설 검증에 쓰인다는 대목입니다. 과학용 에이전트의 실패 모드는 대체로 많이 떠올리지 못하는 데서 오지 않습니다. 오히려 너무 많은 가설을 너무 그럴듯하게 만들어내는 데서 시작합니다. 연구자가 감당할 수 없는 후보가 쌓이면 자동화는 생산성이 아니라 선별 비용이 됩니다.

그래서 idea tournament는 단순한 랭킹 UI가 아닙니다. AlphaGo와 AlphaStar에서 익숙한 경쟁과 평가의 사고방식을 과학 가설에 옮긴 장치입니다. 게임에서는 수를 두고 승패를 통해 품질을 가늠할 수 있습니다. 과학에서는 승패가 바로 나오지 않습니다. 대신 기존 문헌과 데이터, 실험 가능성, 특화 데이터베이스, 외부 도구를 끌어와 여러 가설을 서로 맞붙입니다. DeepMind는 Co-Scientist가 웹 검색, ChEMBL, UniProt 같은 전문 데이터베이스를 통합하고, 일부 협업에서는 AlphaFold 같은 특화 모델도 도구로 테스트한다고 설명합니다.

이 구조는 AI 개발자에게도 익숙한 문제를 떠올리게 합니다. 코딩 에이전트가 패치를 많이 만드는 것보다 중요한 것은, 그 패치가 테스트를 통과하는지, 회귀를 만들지 않는지, 요구사항을 실제로 만족하는지를 검증하는 일입니다. 과학 에이전트도 비슷합니다. "좋은 아이디어를 많이 냈다"는 지표는 약합니다. "검증 가능한 후보를 좁혔다"는 지표가 더 강합니다. Co-Scientist가 보여준 방향은 생성 모델을 연구실에 붙이는 것이 아니라, 생성 모델 주변에 평가와 토론과 도구 호출을 둘러 세우는 방식입니다.

생명과학 검증 사례가 의미하는 것

Nature 논문은 Co-Scientist의 검증을 주로 세 가지 생의학 응용에서 설명합니다. 약물 재창출, 새로운 타깃 발견, 항생제 내성 메커니즘 설명입니다. 초록은 급성 골수성 백혈병에 대해 새로운 약물 재창출 후보와 병용 요법을 식별했고, 이를 in vitro 실험으로 검증했다고 밝힙니다. Nature Portfolio 보도자료는 Co-Scientist가 간 섬유화의 새로운 약물 타깃과 항생제 내성의 유전적 메커니즘을 찾아내는 데도 활용됐다고 정리했습니다.

Google DeepMind 블로그의 사례 설명은 더 제품적입니다. Stanford의 Gary Peltz 연구에서는 Co-Scientist가 간 섬유화 치료 후보를 좁히는 과정에서 overlooked drug-repurposing candidates를 제안했고, 그중 하나가 실험에서 흉터 형성과 관련된 반응을 91% 차단했다고 설명합니다. MIT와 Calico, University of Edinburgh, University of Cambridge 사례도 이어집니다. 한 연구자는 Co-Scientist를 "하루 안에 50명 규모 팀이 하는 일을 맡기는 느낌"으로 표현했습니다. 이 인용은 홍보 문구처럼 들릴 수 있지만, 자동화가 대체하려는 단위가 "한 질문에 대한 답변"이 아니라 "문헌과 가설 후보를 훑는 팀 단위의 탐색"이라는 점을 잘 보여줍니다.

다만 이 사례들을 곧장 치료제 발견의 자동화로 읽으면 위험합니다. Nature Portfolio 보도자료는 Co-Scientist와 FutureHouse의 Robin 모두 연구자를 대체하는 시스템이 아니라, 과학 연구 과정의 여러 단계를 돕는 시스템이라고 강조합니다. 특히 후보 치료법은 엄격한 전임상 및 임상 평가가 필요합니다. Co-Scientist가 좋은 가설을 빨리 만들 수 있다는 주장과, 그 가설이 실제 환자 치료로 이어진다는 주장은 완전히 다른 층위입니다.

Gemini for Science는 제품화의 첫 문입니다

이번 발표는 논문으로 끝나지 않습니다. DeepMind는 Co-Scientist를 Google Labs의 Hypothesis Generation 실험 도구로 개별 연구자에게 제공하겠다고 밝혔습니다. Google DeepMind, Google Research, Google Cloud, Google Labs가 함께 개발한 도구이며, 몇 주 안에 순차 출시하고 관심 등록을 받는 방식입니다. 또 기업용 버전은 Daiichi Sankyo, Bayer Crop Science, 미국 National Laboratories와 관련된 Genesis Mission 등과 preview 중이라고 설명했습니다.

이 지점에서 과학용 에이전트는 연구 논문에서 플랫폼 전략으로 넘어갑니다. 연구자는 모델을 직접 고르는 대신, 연구 목표를 넣고 가설 생성, 토론, 검증, 요약 제안을 하나의 워크플로로 받게 됩니다. 기업과 연구기관은 내부 데이터, 논문 접근권, 안전 정책, 실험실 프로토콜을 연결하고 싶어질 것입니다. 그러면 경쟁력은 모델 품질뿐 아니라 데이터 연결, 권한 관리, 감사 로그, 안전 분류, 협업 기록, 실험 결과 피드백의 품질로 이동합니다.

개발자에게는 이 부분이 특히 중요합니다. Co-Scientist가 과학 도메인에 특화돼 있더라도, 그 설계 패턴은 다른 고위험 에이전트 시스템에도 그대로 번집니다. 금융 분석, 보안 조사, 법률 검토, 대규모 코드 변경처럼 후보 생성은 쉬워지고 검증 비용이 커지는 영역이 많습니다. 그곳에서도 단일 "똑똑한 에이전트"보다, 생성 담당과 비판 담당과 랭킹 담당과 메타 리뷰 담당을 분리한 구조가 더 설명 가능하고 통제하기 쉽습니다.

안전 장치가 기능 목록 안으로 들어왔습니다

Co-Scientist 발표에서 안전 파트는 부록처럼 보이지만 실제로는 제품 구조의 핵심입니다. DeepMind는 Co-Scientist가 생명과학과 물리과학에서 능력을 보였기 때문에, CBRN 영역의 오용 가능성에 대해 독립 평가를 수행했다고 밝혔습니다. 또 비윤리적 연구 목표를 표시하고 위험한 정보 노출을 줄이기 위해 맞춤형 안전 분류기를 개발했다고 설명합니다.

이 대목은 과학용 에이전트가 일반 생산성 도구와 다른 이유를 보여줍니다. 연구 가설 생성기는 유익한 발견을 앞당길 수 있지만, 동시에 위험한 실험 설계나 생물학적 오용 정보로 이어질 수 있습니다. 그러므로 "모델이 답을 잘한다"는 품질 기준만으로는 배포할 수 없습니다. 어떤 목표는 처음부터 거절해야 하고, 어떤 답변은 추상화해야 하며, 어떤 작업은 승인이나 전문가 검토를 요구해야 합니다. 더 나아가 실험실이나 기업 환경에서는 어떤 데이터베이스와 도구를 연결할 수 있는지도 정책으로 제한해야 합니다.

이는 최근 AI 에이전트 보안 논의와 맞닿아 있습니다. Claude Code나 Codex 같은 코딩 에이전트에서는 파일 시스템 권한, 네트워크 접근, 승인 흐름, 샌드박스가 핵심이 됩니다. Co-Scientist 같은 과학 에이전트에서는 도구 권한에 더해 연구 목표 자체의 위험 평가가 들어옵니다. 에이전트가 무엇을 할 수 있는지뿐 아니라, 무엇을 연구하려는지까지 분류해야 하는 것입니다.

커뮤니티가 본 진짜 포인트

커뮤니티 반응은 아직 넓게 확산됐다고 보기는 어렵습니다. 다만 r/aiagents의 토론은 흥미로운 지점을 짚었습니다. 한 게시글은 meta-review agent가 debates와 tournament의 결과를 supervisor에게 다시 먹이는 루프가 일반 다중 에이전트 스택에서 빠지기 쉬운 부분이라고 봤습니다. 또 DeepMind가 계산의 대부분을 생성이 아니라 검증에 쓴다고 설명한 점을 주목했습니다. 댓글도 pairwise ranking과 planner 피드백 루프가 생산 환경 에이전트 설계에서 중요한 업그레이드라는 방향이었습니다.

이 반응은 과학 도메인을 넘어서는 실무적 해석입니다. 지금 많은 다중 에이전트 시스템은 역할 이름은 많지만, 실제로는 여러 프롬프트가 순서대로 실행되는 파이프라인에 가깝습니다. Co-Scientist의 흥미로운 부분은 역할이 많다는 사실 자체가 아닙니다. 각 역할의 산출물이 다음 계획에 영향을 주고, 랭킹과 메타 리뷰가 탐색 전략을 바꾸는 닫힌 루프를 만들려 한다는 점입니다. 이 구조가 실무에서 잘 작동하려면 에이전트 간 메시지 포맷, 평가 기준, 중간 결과 저장, 재현 가능한 실행 로그가 필요합니다. 과학 논문으로 발표됐지만, 실제 구현 난제는 꽤 엔지니어링적입니다.

FutureHouse Robin과 함께 읽어야 하는 이유

Nature Portfolio 보도자료는 Co-Scientist만 다루지 않았습니다. 같은 주에 FutureHouse의 Robin도 함께 소개했습니다. Robin은 OpenAI o4-mini와 Anthropic Claude 3.7을 사용해 실험 생물학의 발견 과정을 돕는 시스템으로 설명됩니다. 보도자료는 Robin이 건성 연령 관련 황반변성 치료 후보를 찾는 데 기여했고, 후속 연구에서 새로운 잠재 타깃을 제안했다고 정리했습니다.

이 비교는 중요합니다. AI 과학 자동화가 한 회사의 단일 모델 경쟁이 아니라, 연구 워크플로와 검증 구조의 경쟁으로 옮겨가고 있다는 신호이기 때문입니다. Google은 Gemini와 DeepMind의 과학 브랜드를 앞세워 범용 가설 생성 시스템을 밀고 있습니다. FutureHouse는 실험 생물학을 목표로 더 좁은 자동화 루프를 강조합니다. 둘 다 "AI가 과학자를 대체한다"는 구호를 피하고, 연구자 in the loop를 전제로 둡니다. 이는 기술적 한계 때문이기도 하고, 신뢰와 책임을 확보하기 위한 배포 전략이기도 합니다.

개발팀이 배울 수 있는 에이전트 설계

Co-Scientist를 그대로 일반 소프트웨어 제품에 가져올 수는 없습니다. 하지만 설계 교훈은 분명합니다. 첫째, 생성 에이전트와 검증 에이전트를 분리해야 합니다. 같은 모델이 만든 답을 같은 조건에서 다시 확인하게 하면, 그럴듯한 오류가 강화될 수 있습니다. 둘째, ranking을 단순 점수화로 끝내지 말고 후보 간 비교와 반론을 포함해야 합니다. 셋째, meta-review를 별도 단계로 두어 시스템이 어떤 후보를 왜 선호했는지 기록해야 합니다. 넷째, 도구 호출은 성능 기능이자 안전 표면입니다. 어떤 데이터베이스를 읽고 어떤 외부 모델을 부를 수 있는지가 결과 품질과 위험을 동시에 결정합니다.

이 패턴은 코딩 에이전트에도 직접적입니다. 예를 들어 대규모 리팩터링 에이전트가 있다면, 패치 생성 에이전트와 테스트 실패 분석 에이전트와 회귀 위험 랭킹 에이전트와 변경 계획 메타 리뷰 에이전트를 분리할 수 있습니다. 고객 지원 에이전트라면 답변 생성, 정책 검증, 유사 사례 검색, 위험 플래그, 상담원 handoff를 나눌 수 있습니다. 핵심은 "여러 에이전트"라는 이름이 아니라, 검증 루프가 실제 의사결정 권한을 갖는지입니다.

그래서 과학자는 대체되는가

이번 발표를 두고 가장 쉬운 해석은 "AI 과학자가 나왔다"입니다. 하지만 DeepMind와 Nature 쪽의 표현은 더 조심스럽습니다. Co-Scientist는 연구자를 위한 협업 파트너이고, 실험 검증과 최종 판단은 사람이 맡습니다. Nature Portfolio 보도자료도 두 시스템이 연구자를 대체하기보다 과학 발견을 가속하는 보조 역할을 한다고 정리했습니다. 이 표현은 방어적 홍보만은 아닙니다. 현재 구조상 Co-Scientist는 실험 장비를 직접 운영하지 않고, 임상 검증을 수행하지 않으며, 연구 목표의 사회적 타당성을 스스로 결정하지 않습니다.

하지만 "대체하지 않는다"가 "영향이 작다"는 뜻은 아닙니다. 좋은 연구자에게 가장 부족한 자원은 시간과 주의력입니다. 문헌이 폭발하고 데이터베이스가 늘어나고 후보 조합이 기하급수적으로 커질수록, 가설 후보를 만들고 줄이는 작업은 병목이 됩니다. Co-Scientist가 실제로 이 병목을 줄인다면, 연구실의 일하는 방식은 달라질 수 있습니다. 박사과정 학생이나 포닥이 며칠 동안 문헌을 훑어 만든 가설 목록을, 에이전트가 하루 안에 초안으로 제공하고 연구자가 더 높은 수준의 판단에 집중하는 흐름이 가능해집니다.

그만큼 검증과 책임도 더 중요해집니다. 에이전트가 놓친 문헌, 잘못 연결한 생물학적 메커니즘, 부적절한 실험 후보가 실제 연구비와 실험 자원을 움직일 수 있기 때문입니다. 과학 자동화는 답변 품질만의 문제가 아니라, 조직이 어떤 가설에 시간을 쓰게 만드는 추천 시스템의 문제입니다. Co-Scientist의 idea tournament는 바로 이 추천 시스템을 더 엄격하게 만들려는 시도입니다.

앞으로 볼 지점

첫째, Hypothesis Generation이 실제 연구자에게 얼마나 넓게 열리는지 봐야 합니다. 관심 등록을 받는 실험 도구와, 대규모 연구기관의 표준 워크플로에 들어간 도구는 영향력이 다릅니다. 둘째, Co-Scientist가 생명과학 밖에서도 같은 성능을 보이는지 확인해야 합니다. 발표는 자연과학과 공학으로 확장 가능성을 말하지만, 공개 검증의 무게중심은 아직 생의학에 있습니다. 셋째, 안전 분류기가 어떤 기준으로 연구 목표를 제한하는지 투명성이 필요합니다. 과학 연구에서는 과도한 차단도 문제이고, 느슨한 차단도 문제입니다.

넷째, 경쟁 시스템과의 비교가 중요합니다. FutureHouse Robin처럼 다른 모델 조합과 다른 도메인 초점을 가진 시스템이 함께 Nature에 실렸다는 점은, 앞으로 "과학 에이전트 벤치마크"가 모델 벤치마크와 별도로 필요해질 수 있음을 시사합니다. 단순히 어떤 LLM이 더 높은 점수를 받았는지가 아니라, 어떤 시스템이 더 유효한 실험 후보를 더 적은 비용과 더 낮은 위험으로 제안했는지를 봐야 합니다.

Co-Scientist의 가장 현실적인 의미는 과학자가 사라진다는 이야기가 아닙니다. 연구자가 검토해야 할 후보의 형태가 바뀐다는 이야기입니다. 단일 답변이 아니라, 서로 경쟁하고 비판받고 진화한 가설 묶음이 연구자의 책상 위에 올라옵니다. 개발자에게도 같은 변화가 오고 있습니다. 에이전트의 다음 단계는 더 많은 산출물을 만드는 것이 아니라, 산출물을 검증하는 구조를 제품의 중심에 놓는 것입니다. Google이 Nature 논문과 함께 보여준 것은 바로 그 방향입니다.