최신 논문에서 본 변칙 현상: 편도체 뉴런의 일탈

지난 6월 저널 클럽을 준비하기 위해 논문을 읽으며 학부생 때 배운 변칙 현상을 보았다. 변칙 현상(anomaly)이란, 쿤이 <과학혁명의 구조>에서 쓴 용어로, 패러다임에 따라 실험하고 결과를 예측하였으나, 정작 자연은 다른 결과를 보이는 상황을 말한다.

저널 클럽이란 학생이 한 논문을 선정하여 소개하는 자리이다. 내가 찾은 논문은 요약하자면 쥐가 행동하는 양상에 따라 쥐의 편도체 뉴런이 다르게 활동한다는 내용이었다. 올해 4월에 발표되었다. 얼핏 보면 변칙 현상이랄 것까지 있겠나 싶겠으나, 연구자가 예상하던 바와 실제 결과가 다르게 나온 논문이다. 쥐가 어떻게 행동하는지에 따라서 달리 활동할 뉴런이 뇌 어딘가에는 있을 터이다. 하지만 편도체 뉴런은 다른 일을 하리라 예측되어왔다.

편도체는 공포와 불안에 관여한다고 알려져 있다. 쥐를 사용한 실험에서 불안을 측정하는 방법으로는 개방 공간 시험 (open field test, OFT)와 높은 십자 미로(elevated plus maze, EPM)가 대표적이다. 연구진은 쥐에게 이 두 행동 실험을 수행했다. 동시에 편도체 뉴런의 활동을 직접 보며 쥐가 불안할 때와 그렇지 않을 때 뉴런의 활동이 어떻게 다른지를 분석했다. 편도체는 불안할 때 활동하는 영역이니, 불안한 정도에 따라 뉴런의 활동 양상이 달라야 한다. 연구진은 각 행동 실험에서 쥐의 불안감이 높을 때 같은 뉴런이 활동하리라 예상했다.

Open field test 쥐가 구석에 있을수록 불안한 상태로, 가운데로 올수록 쥐가 불안하지 않는다고 본다. (DBCLS 統合TV [CC BY 4.0 (https://creativecommons.org/licenses/by/4.0)])

Elevated plus maze 쥐는 고도를 무서워하므로, 새로운 곳을 가려는 호기심이 공포보다 클 때 벽이 없는 길로 나온다. Samueljohn.de [CC BY-SA 3.0 (https://creativecommons.org/licenses/by-sa/3.0)]

 

결과는 예측과 달랐다. 연구진은 쥐가 OFT에서 중앙에 있을 때와 EPM에서 벽이 없는 길에 있을 때 동일한 뉴런이 활동하리라 예측했다. 그러나 OFT에서 쥐가 중앙에 있을 때 활동한 뉴런은 EPM에서 쥐가 벽이 있는 길에 있을 때도 활동했다. 반대로 OFT에서 쥐가 모서리 주변에 있을 때 활동한 뉴런은 EPM에서 쥐가 많이 머무르지 않은 구역인 벽이 없는 양측 길, 사거리의 중앙, 심지어 벽이 있는 길의 반대쪽 벽 길에 있을 때 활동한 뉴런과 같았다.

연구진은 반대로 나온 결과에 당황하였으나, 곧 '쥐의 탐험 행동'이라는 새로운 기준을 세워 새로이 행동을 분석하였다. 이 기준에 의하면 쥐가 OFT 모서리로 간 이유는 벽을 보고 싶었기 때문이다. 이는 EPM에서 가보지 않았던 벽이 없는 길에 가볼 때와 비슷하다. 즉, 연구진은 불안이라는 기존 패러다임 대신, 탐험이라는 새로운 패러다임으로 연구 결과를 해석하였다. (설명을 간단히 하고자 '뉴런의 활동 양상'을 뭉뚱그렸다. 자세한 내용은 아래 논문 링크를 참고하라)

뉴런 활동 기준/실험	Open field test (OFT)	Elevated plus maze (EPM)
불안한 정도	구석<->중앙	벽이 있는 길<->벽이 없는 길
탐험 양상	구석<->중앙	벽이 없는, 새로운 길<->벽이 있는, 머물렀던 공간

 

연구진은 '행동 실험 패러다임'을 충실히 따랐다. <과학혁명의 구조>의 후기에 따르면, 패러다임은 기호적 일반화, 모델, 추구하는 가치, 범례로 이루어진다. 연구진은 여러 과학자가 공유하는 모델(불안)을 이용하였다. 범례는 이들이 실험을 하는데 참고한 수많은 문헌들이다. 이들 범례에 나온 표준적인 실험(OFT, EPM)과 분석 방법(쥐가 실험 장치의 어디에 있는지에 따라 불안을 판별)을 그대로 따랐다. 이를 과학자 집단이 공유하는 기호(정사각형이나 십자가 그림에 쥐의 행동 궤적을 그린 그림, 히트맵, 그래프 등)로 표현하였다. 이 모든 연구는, 쥐를 이용해 인간의 신경 활동을 이해하겠다는 목표 위에서 이루어진다.

그러나 연구 결과는 정상 과학에서 벗어났다. 뉴런은 모델이 설명하지 못하는 결과를 보였다. 측정에서 오류가 있었거나 실험 자체를 잘못했을 수도 있었다. 그러나 연구진은 데이터를 결과를 폐기하는 대신 다른 기준을 만들어 분석하여 일관적인 결과를 얻었다. 결과를 해석할 수 있는 새로운 모델도 만들어냈다. 동료 평가를 거쳐 새로운 모델과 실험 결과를 논문으로 발표하였다. 변칙을 과학적 현상으로 설명하는 데 성공한 것이다.

물론 변칙 현상은 과학자 집단의 저항을 부른다. 저널 클럽 발표를 들은 사람들의 반응도 변칙 현상을 보는 과학자들과 같았다. '계획은 좋았지만 결과가 망한 탓에 억지를 부렸다'는 평부터, 쉬는 시간에는 '나는 이 논문을 인정하지 않아요!'라는 말도 들었다(근거는 OFT와 EPM에서 측정하는 '불안'이 서로 다를 수 있다는 연구가 있기 때문이라고 했다). 연구실 한 곳에서도 이런 반응이니, 이 논문을 읽은 과학자들은 각자 시점에서 논문의 허점을 찾아 비판했으리라.

변칙 현상이 저항을 뚫고, 모두가 인정하는 과학적 발견이 되기 위해서는 후속 연구가 필요하다. 같은 현상이 다른 연구에서도 안정적으로 보여야 한다. 논문 내용을 인정하는 과학자들은 변칙 현상을 확장하는 후속 연구를 계획할 것이고, 논문 결과에 동의하지 않는 다른 과학자 집단은 이 논문을 반증하는 연구를 수행할 터이다. 누가 하든 후속 연구에서는 쥐의 탐험이나 불안을 분간할 다른 행동 실험에서도 결과가 똑같이 나올지 확인할 것이다. 같은 행동 실험을 하되 뇌의 다른 영역에서 뉴런 활동을 보는 연구도 가능하다.

동시대 논문이다보니, 이 연구가 어떻게 패러다임을 바꿀지는 아무도 모른다. 뉴런의 활동 양상이 이 논문처럼 나타난다면 불안에 관련한 행동 실험 패러다임은 변화할 것이다. 불안에 대한 행동 실험 패러다임이 그 외에도 쥐의 다양한 신경 상태를 연구하는데 쓰이게 될지도 모른다. 행동 실험 패러다임이 확장한다. 혹은 기존의 행동 실험 패러다임이 불안을 보기에 충분하지 않다고, 아예 편도체가 불안을 담당하지 않는다고(!) 뒤집힐 수도 있다. 실험 결과가 반대로 나올 수도 있다. 즉 이 논문이 참고했던 이전 연구들과 같은 결과를 낳는 것이다. 그렇다면 이 논문은 실험에 큰 잘못이 있었거나 통계 상의 우연이 만든 결과로 묻힐 터이다. 

<과학혁명의 구조>가 여러 과학자들이 반발을 산 이유에는 '변칙 현상', '패러다임 전환'을 말할 때 동료 과학자들의 저항이며 서로 다른 패러다임을 지지하는 과학자 집단 간의 대립 이야기가 따라왔기 때문이다. 하지만 실제 과학은 변칙 현상에 관대하다. 변칙 현상이 낳은 저항과 집단 간 대립은 생산적이기까지 하다. 합리적인 논리 전개와 납득할만한 측정 과정이 낳은 데이터는 기존 결과와 다르더라도 쉽사리 부정하기 어렵다. 심지어 이런 연구는 읽지 않아도 결과를 알 법한 연구보다 더 유명한 학술지에 실리고, 더 많은 사람들이 읽는다. 이 연구를 토대로 더 많은 연구가 이루어지면 이 분야 과학은 어떤 방향으로든 발전할 것이다. 최신 연구에서 본 변칙 현상이 재미있고 또한 반가운 이유이다.

 

논문 원본: Gründemann et al., Amygdala ensembles encode behavioral states, Science 364, 6437
https://science.sciencemag.org/content/364/6437/eaav8736/tab-article-info