머리말

우리가 알고 있는 우주에서 가장 복잡한 구조를 가진 것은 아마도 뇌(brain)일 것이다. 뇌의 무게는 약 1.5 kg 정도 밖에 나가지 않지만 100억개 이상의 신경소자와 각 소자당 1000~ 10000개의 시냅스들로 신경회로망을 이루고 있다. 이러한 뇌로 인하여 인간이 엄청난 과학 기술적 진보를 이룩하여, 현재 지구를 지배하고 있으며, 궁극적으로 어디까지 인류를 이끌고 갈 것인가는 아무도 예측할 수 없다.

1. 생활 속의 뇌

뇌는 우리도 모르는 사이에 일상생활에서 우리 몸의 모든 기능과 정신 활동을 지배하고 있다. 우리가 보고, 듣고, 말하고, 냄새맡고, 느끼는 모든 감각 정보는 감각 신경계의 신호전달 경로를 통하여 대뇌로 전달, 처리되어 영상을 인식하거나 언어를 구사하는 반응을 만들어 낸다. 감기에 걸리면 뇌의 시상하부(hypothalamus) 등에서 인체 여러 부분의 온도 변화를 감지하고 균형을 맞추어 주위 환경의 변화에 종합적으로 대응한다. 뇌 속의 시상하부와 관자엽(temporal lobe) 등에서는 분자간의 상호작용을 통하여 학습된 정보를 기억한다. 또한 술을 마시면 그 주성분인 에탄올이 수용체(receptor) 등 세포막 단백질과 상호작용하여 신경기능에 영향을 준다.

2. 뇌과학

넓은 의미의 뇌과학 - 외국에서는 신경과학으로 더 잘 알려져 있다 - 은 뇌의 구조와 기능에 관련된 모든 측면에 대한 연구를 일컫는다. 신경생물학 및 신경생리학에 기초한 좁은 의미의 뇌과학 뿐 아니라 신경생리학 및 심리학 등에 바탕을 둔 인지과학, 뇌 질환의 예방 및 치료에 관련된 뇌의학, 신경회로망의 응용을 주로 하는 뇌공학 및 감성공학 등이 모두 뇌과학의 영역에 포함된다.

뇌의 연구는 해부학과 기초 기능의 연구에서 출발하여 수세기에 걸친 오랜 역사를 가지고 있으나 통합된 연구 분야인 뇌과학으로 대두된 것은 최근의 일이다. 다가오는 21세기는 생물학의 패러디임과 학제간 연구가 중요한 화두로 등장할 것이며 뇌과학의 연구는 가장 흥미롭고도 도전적인 과학분야가 될 것이다. 뇌연구는 전통적으로 생물학과 의학이 두 축을 형성하고 있다. 즉, 신경생물학 및 신경생리학의 눈부신 발전에 따라 뇌의 구조 및 기능에 대한 실험적 규명과 의학적 응용은 상당한 진보가 이루어졌으나 이에 기반을 둔 모델링을 통한 공학적 응용은 아직 요원한 실정이다.

뇌과학 연구의 주요 과제중 하나는 뇌 구조와 기능의 모델링을 통하여 축적된 생물학적 실험자료에 대한 체계적 이해를 도모하고 생물학적 신경회로망 모델을 구현하여 공학적 응용 연구의 지평을 넓히는 것이다. 이러한 점에서 생물학과 공학을 이어주는 중요한 연결 고리로서 물리학자들의 역할이 요구되고 있다. 실제로 최근 뇌의 모델 연구에서 물리학적 방법론이 점차 많이 쓰이는 추세이다. 예를 들어 신경회로망의 학습 및 일반화, 예측 및 최적화의 문제에서 통계물리학적 방법이 성공적으로 적용되었다. 비선형 신경소자를 이용한 생물학적 신경회로망을 구현하는 문제, 뇌전도를 이용하여 뇌파 등의 생체신호를 분석하는 문제 등에 비선형 동력학 및 혼돈(chaos) 이론이 이용되고 있다.^[1,2] 뿐만 아니라 뇌연구의 많은 부분이 생물물리와 연결되어 있으며^[3] 첨단 뇌 영상 스캔 장치인 양전자 촬영장치(PEP) 및 핵자기 공명장치(MRI)의 개발에 물리학자들이 관련되어 있다.^[4]

국내 물리학계에서는 지금까지 주로 통계물리학과 비선형 동력학을 중심으로 뇌의 동력학적 모델링 및 신경회로망의 연구가 수행되어 왔다. 그러나 최근 범국가적으로 뇌과학연구개발사업(BrainTech 21)이 10개년 계획으로 추진되는 등 뇌연구가 크게 활성화되어 이에 대한 물리학자들의 관심이 증가하고 있다.

본 특집의 목적은 물리학자들에게 뇌연구의 다양한 영역들을 이해하고 새로 진입하는데 필요한 배경 지식을 제공하며, 다른 분야의 연구자들에게 물리학자들의 시각을 통하여 뇌 연구에 어떻게 공헌할 수 있는지를 알리는데 있다. 본 특집에서는 물리학 분야에서 뇌연구가 가장 활발하게 진행되고 있는 통계물리학 및 비선형 동력학과 뇌연구에 관련된 논문들을 실었다. 또한 타 분야의 논문들도 함께 실어 뇌연구의 신경과학적, 의학적, 공학적 측면을 넓은 시각에서 접할 수 있는 기회를 제공하고자 하였다.

뇌의 구조와 기능

1. 뇌의 거시적 구조와 기능

인체의 신경계는 중추신경계(central nervous system, CNS)와 지엽신경계(peripheral nervous system, PNS)로 나뉜다. 뇌는 중추신경계의 가장 중요한 부분으로 두부와 같은 회백색의 유연한 작은 덩어리이다. 뇌는 구조상 바깥쪽의 대뇌(cerebrum)와 안쪽의 소뇌(cerebellum), 그리고 뇌간을 이루는 사이뇌(diencephalon), 다리뇌(pons), 숨뇌(medulla oblongata), 중간뇌(midbrain) 등으로 나뉜다.^[5,6] (그림 1 참조)

인간은 다른 동물과 달리 대뇌가 전체 뇌의 75 퍼센트를 차지할 정도로 크게 발달하여 인간만이 갖는 정신 활동이 가능하다는 주장이 제기되고 있다. 이렇게 발달한 대뇌 표면의 대부분은 대뇌피질(cortex)이라고 불리우는 두께 2 mm 정도의 주름진 껍질로 이루어진다. 대뇌피질은 대뇌 중 가장 활동적인 부분으로서 PET 등 뇌 스캔 장치와 패치클램프 등 미시적 실험장치의 주된 측정 대상이다. 대뇌피질은 주름의 큰 골에 따라 앞부분의 전두엽, 뒷부분의 후두엽, 좌우 양쪽의 측두엽, 가운데 뒤쪽의 두정엽 등으로 나뉜다. 또한 대뇌피질은 기능에 따라 Brodmann 영역이라고 부르는 여러 부분으로 나뉘며 각 영역에서의 인지 활동의 모델이 신경회로망 등을 통해서 이루어지고 있다.

소뇌는 평형 유지, 신체 운동의 미세한 조절을 관장하고 있으며 술의 영향을 많이 받는 뇌이다. 숨뇌는 호흡, 혈액순환 기능, 소화계 등의 중추가 모여 있어, 인간의 생명 유지에 가장 중요한 뇌이다. 다리뇌는 소뇌와 함께 온몸의 근육운동을 제어하고 있다. 중간뇌는 걷는 것과 몸가짐의 제어, 눈의 동공 수축 등 정교한 운동을 제어하고 있으며 파킨슨병과 관련하여 연구의 대상이 되고 있다.

그림 1. 사람의 뇌. 많은 구조가 대뇌속에 묻혀있다.

사이뇌는 시상(thalamus), 시상하부 등으로 다시 나뉜다. 시상은 고구마 모양으로 뇌간의 가장 꼭대기의 대뇌, 소뇌, 뇌간의 교차점에 위치하며 인간의 감각 정보의 대부분은 이 시상과 연결되는 신경에 의해 전달된다. 이런 의미에서 시상은 신호 증폭, 필터링, 강조를 담당하는 "정보의 중계센터"에 비유되고 있다. 그중 LGN(lateral geniculate nucleus)은 망막의 시각 정보를 대뇌 시각 피질로 전달하는 중간 중계소로 시각 모델과 관련하여 많은 연구가 되고 있다. 시상하부는 시상의 아래쪽에 있으며 몸의 온도, 세포막 외액의 농도 및 양, 자율신경계의 반응 등을 조절하고 있다. 대뇌와 사이뇌의 경계에 위치한 변연계(limbic system)은 해마(hippocampus), 편도체(amyg- dala) 등으로 이루어져 있다. 이중 해마는 학습과 기억을 담당하고 있는데, 그 구조가 비교적 간단하여 이와 관련된 신경생물학적 연구 및 모델 연구의 주 대상이 되고 있다. 또한 편도체는 편도 모양으로 수많은 조그마한 신경들의 집단 즉, 신경핵으로 이루어져 있다. 편도체는 시상하부 등과 함께 감정의 표현과 관련되어 되어 있다.

2. 뇌의 미시적 구조와 기능

뇌의 거시적 기능과 해부학적 구조에 대한 부분적인 진보에도 불구하고 미시적 구조는 오랫동안 베일에 가려져 있었다. 19세기말과 20세기초에 Golgi 염색을 통해서 비로소 신경세포 구조의 시각화가 이루어졌으며 Cajal의 선구적인 연구에 의하여 뇌의 기본 단위가 신경소자이며 각각의 신경소자가 독립적인 세포라는 것이 확립되었다. 뇌의 조직은 신경세포와 신경교세포(glial cell)로 이루어져 있는데 이들 세포는 신경조직을 이루는 구조적 및 기능적 기본 단위로서 세포막에 둘러싸여 있다. 신경세포의 종류는 다양하지만 신호의 생성과 전달에는 몇 가지 공통된 모양을 가지고 있다. 우선 신경세포는 많은 가지(process)를 가지고 있으며 이 가지들이 서로 연결되어 신경회로망을 형성하고 있다. 가지는 신호를 수용하는 가지돌기(dendrite)와 신호를 다른 신경세포로 전달하는 축삭(axon)으로 나뉜다.

뇌에는 100억개 이상의 신경소자들이 있으며 이들의 직접적인 통신을 통하여 정보전달이 이루어지고 있다. 신경소자간의 통신은 축삭과 시냅스(synapse)를 통하여 이루어진다. 즉 가지돌기를 통하여 주위의 많은 신경소자로부터 신호를 받아서 세포체(soma)에서 처리한다. 세포체의 축삭둔덕(axon hillock)에서 세포막 전위 펄스 형태의 신경신호가 다시 증폭, 생성되어 축삭이란 독립적인 먼거리 통신선을 통하여 전달된다. 여러 갈래로 나뉘어진 축삭의 끝은 다른 신경소자들의 가지돌기들과 시냅스라고 부르는 작은 틈을 가진 특수한 구조를 사이에 두고 인접해 있다. 신경신호가 시냅스에 이르게 되면 터미널이라고 불리는 축삭 끝 세포막 안에서 신경신호 전달물질(neuro- transmitter)이 분비된다. 이 전달물질이 시냅스 틈을 통해 확산해 나가서 인접한 신경소자의 가지돌기 세포막에 위치한 수용체와 결합하여 세포막 전위의 변화를 일으키게 된다. 이를 화학적 시냅스라고 부르는데, 관련된 신경신호 전달물질의 종류와 수용체의 종류는 매우 다양하며 수많은 인자가 이들의 결합을 조절하고 있다. 화학적 시냅스의 경우 복잡한 신경신호 전달 기전의 조절을 통하여 시냅스 가소성(synapse plasticity)이 생겨나 뇌의 신경망이 수정되거나 새로운 신경망을 형성할 수도 있다. 시냅스 가소성은 뇌가 새로운 지식을 받아들이는 학습의 기전과 학습의 결과로 뇌에 생성되는 기억의 기전과 관련되어 연구의 대상이 되고 있다.

뇌의 모델링

뇌 연구에 있어 모델링은 생명과학의 축적된 지식을 체계적으로 이해하고 이를 효율적으로 모방, 응용하기 위해서 긴요한 과정이다. 그러나 뇌에서 일어나는 모든 현상을 설명할 수 있는 보편적 모델은 없으므로 뇌의 모델 연구는 다양한 측면에서 이루어지고 있다.

뇌는 수많은 신경소자들이 시냅스에 의해 거미줄과 같이 얽혀 있는 엄청나게 복잡한 회로망이라고 볼 수 있다. 일반적으로 신경계의 구조적 단계는 분자, 시냅스, 신경소자, 신경회로망, 지도(map), 신경시스템, 중추신경계 등으로 나뉜다.(그림 2 참조) 뇌의 모델 연구는 여러 구조적 단계들을 서로 연결하는 것을 시도하고 있다. 각 단계에서 모델링 연구의 중요한 과제는 각 요소들의 모임이 뇌 기능과 관련하여 어떤 성질을 발현하는가를 모델을 통하여 이해하는 것이다.

분자 단계에서는 신경신호 전달물질과 전달경로를 규명하기 위한 실험에서 상당한 진보가 이루어졌으나 이론적 모델링이 따라가지 못하는 실정이다.

그림 2. 신경계의 공간적 단계 구조.

시냅스와 신경소자의 전기신호 단계에서는 시냅스 및 이온채널의 전도도, 가지돌기에서의 세포막 전위의 공간적 문양, 세포막 활동전위(action potential)의 생성 기전 등 일반적 기능의 모델들이 연구되고 있다. 이러한 연구는 전통적으로 신경생리학과 생물리적 모델 연구를 통하여 이루어지고 있다.

신경회로망 단계에서는 좀 더 간단한 연체 동물, 하등 척추동물의 소규모 신경회로망에 대한 자세한 모델 연구가 주로 이루어지고 있다. 즉 신경회로망, 인식지도(cognitive map) 및 신경 시스템 모델을 통하여 시상의 LGN에서의 시각 정보처리, 변연계에서의 LTP(long-term potentiation)와 기억 및 학습의 관계, 신 대뇌피질계 등의 신경계의 모델에 대한 연구가 이루어지고 있다. 또한 인지과학, 신경심리학, 인공지능 등 분야의 방법론을 이용하여 일반적 신경회로망, 지도 및 시스템의 모델링을 통한 학습, 행동, 경험, 의식 등 인지과정 등에 대한 연구도 많이 이루어지고 있다. 이처럼 뇌연구는 이론적 사고를 통하여 많은 도움을 받아 왔다. 예를 들어 Marr에 의하여 도입된 억제, 확장, 연결, divergence, convergence 등의 신경회로망 개념들은 대뇌를 연구하는 생리학자들에게 도움이 되었다.^[7] 이러한 실험과 이론의 상호 교류를 통하여 고차원적 뇌 기능에 대한 연구가 점점 더 많이 이루어져야 할 것이다.

뇌연구와 물리학

1. 뇌연구의 학제성

뇌를 이해하기 위해서는 분자 단계부터 행동 및 인지의 단계에 이르기까지 다양한 정보의 통합이 요구된다. 그러나 각 단계마다 정보가 폭발적으로 증가하고 전문화되어 각 단계별 연구자들이 뇌에 대한 통합적 시각을 유지하는 것이 불가능하므로 뇌연구에서는 학제간 연구가 필수적이다. 이에 따라 분자 신경생물학, 행동신경과학, 계산신경과학 등 새로운 분야를 포함하는 신경과학의 영역은 계속 확장되고 있다. 특히 계산신경과학은, 뇌를 입출력 연산을 수행하는 컴퓨터로 보고 신경계의 정보처리 기능을 모델링하는 분야로, 컴퓨터과학의 발전과 함께 뇌연구의 핵심 분야로 떠오르고 있다. 최근에는 근본적인 돌파구를 마련하기 위해서 생물학 뿐만 아니라 수학, 물리, 공학 등에서의 정량적 도구, 기본적 이론, 그리고 전산과학 및 인공지능 분야에서의 정보처리 등과 관련된 개념들을 통합하는 새로운 패러디임이 형성되고 있다.^[8,9]

2. 뇌와 통계물리학

뇌의 신경회로망은 수많은 미시적 구성 소자들이 회로망으로 연결되어 상호작용을 통하여 거시적 현상을 만들어 낸다는 점에서 통계물리학의 패러디임과 연결된다. 극히 단순화된 McCulloch-Pitts형의 이진 신경소자에 기반을 둔 인공 신경회로망의 경우 상당한 이론적 진보와 함께 활발한 응용 연구가 이루어졌다. 특히 퍼셉트론(perceptron) 및 다층 신경망의 모델을 통해 신경회로망 학습의 일반화와 기억용량 문제들의 해결에 통계물리학적 방법들이 매우 성공적으로 적용되고 있다.^[10]

3. 뇌와 비선형 동력학

뇌는 외부 세계, 인체, 신경계 자체를 그 안에서 적절히 표현하며 이것이 잘 정의된 상태변수로 모델이 된다고 가정할 수 있다. 이 때 뇌의 입출력간의 사상(maping)에 의한 상태변수의 동력학적 진화는 뇌를 동력학계(dynamic system)로 보는 것을 가능하게 해준다. 실제 신경계는 기본적으로 동력학적이며 많은 신경소자와 신경회로망의 모델들이 상미분방정식 형태의 동력학계로 주어진다. 예를 들어 세포막 활동전위의 생성 및 시냅스를 통한 신호전달 기전의 모델이 상미분방정식으로 주어진다는 것이 알려져 있다. 이러한 모델들의 진동, 발화(firing), 발작(bursting) 등 다양한 동력학 현상의 분석을 위하여 상태공간 개념, 쌍갈림(bifurcation) 이론 등 비선형 동력학의 방법론들이 많이 이용되고 있으며 신경소자 단위의 연구 및 동적 소자에 기반을 둔 새로운 생물학적 신경회로망의 연구에 큰 공헌을 하고 있다.^[11] 또한 뇌전도를 이용해 뇌파 등 거시적 뇌 신호의 시계열 패턴을 측정할 수 있다. 뇌파 시계열은 비선형 계의 특징적인 혼돈과 같은 매우 복잡한 문양을 보여주며 이러한 시계열의 분석에 비선형 시계열 분석방법들이 많이 이용되고 있다.^[1,2] 한편 뇌파 생성모델의 구축은 매우 어려운 과제이지만 궁극적으로는 미시적 신경회로망 모델과의 접목이 시도되어야 할 것이다.

4. 생물학적 신경회로망의 새로운 패러디임

뇌의 실제 신경회로망인 경우에 구성 소자가 동력학적 특성과 함께 강한 비선형성을 가지고 있어서 외부 자극에 따라 진동을 포함한 다양한 동력학 현상을 보여준다. 신경 세포막에서 이온채널의 끊임없는 여닫음 동력학은 10^-6초에서 잡음의 영향을 받으며 활동전위 생성에 기여하고 있다. 신경소자는 자극에 따라 10^-3 - 10^-2초 시간 척도의 다양한 세포막 활동 전위의 문양을 생성하고 있다. 한편 학습 및 기억과 관련되어 활발한 연구의 대상이 되고 있는 LTP는 몇일 또는 몇주 동안에 신경계의 시냅스 결합 패턴이 변하기도 한다. 생물학적 신경회로망은 동적 비선형 진동소자를 기본으로 실제 시냅스와 유사한 결합을 만들어 동력학적 진화를 보여주는 모델이다. 생물학적 신경회로망은 신경소자간 협동적 동력학을 통하여 동기화, 군집화 등 매우 다양한 거시적 패턴과 함께 비평형성을 보인다. 생물학적 신경회로망은 비평형성 속에서도 자기조직(self-organiza- tion)을 통해 동력학 문양이 스스로 발현되기도 하는데, 이러한 시공간 문양 형성(spatio-temporal pattern formation)의 문제는 인지와 관련되어 모델링 연구의 주된 관심이 되고 있다. 주어진 신경계는 오랜 진화의 결과로 그 하드웨어 구조 뿐만 아니라 동력학적 상태가 매우 복잡하게 나타나기도 하며, 평형상태에서 멀리 떨어져서 끊임없이 주위환경에 적응하며 변하고 있다. 이러한 신경회로망계의 비평형성, 자기조직성, 요동성, 복잡성 등의 특성을 올바로 이해하기 위해서는 기존의 분석적 패러디임과는 다른 새로운 통합적 패러디임에 기반을 둔 이론적 틀이 요구되고 있다.

맺는 말

뇌의 복잡한 병렬구조를 토대로 대용량 병렬처리 컴퓨터와 신경컴퓨터라는 새로운 하드웨어 구축이 시도되고 있다. 또한 뇌의 인지 기능과 동일한 방식으로 인식문제를 해결하기 위한 모델링과 소프트웨어적 패러디임에서도 혁신적 변화가 일어나고 있다. 앞으로 뇌가 어떻게 인지, 사고, 기억 등을 수행하는지에 대한 지식이 증가함에 따라 현재의 인공지능보다 더 강력한 지적 능력을 가진 기계와 컴퓨터들이 생겨날 것이다. 뇌 연구가 지난 20여년간과 같은 발전 속도를 유지하면 21세기의 미래사회에서는 창의성을 지닌 인공지능 기계가 만들어지고, 인간의 마음을 읽는 기기가 개발되고, 지식의 이식 및 이전이 가능해지고, 인공지능과의 결합을 통한 지적 기능의 향상 등 공상 과학의 명제들이 현실화 될는지도 모른다.

최근 뇌연구를 통하여 계산신경과학, 뇌 모델 이론, 인지 신경과학, 병렬 계산 등 새로운 분야들이 창출되고 있다. 이러한 분야에서는 신경과학과 심리학, 수학과 물리학, 전산학과 공학 등의 학제간 협력이 자연스럽게 이루어지고 있다. 특히 물리학은 통계물리학과 비선형 동력학 등에서부터 시작하여 생물물리 등 여러 분야에서 뇌연구에 많은 공헌을 하게 될 것으로 기대된다. 세계적으로도 뇌연구는 초기 활성화 단계에 불과하며, 뇌의 복잡성과 중요성에 비추어, 앞으로 해야 할 일은 무궁무진하다고 하겠다. 특히 물리학자들이 생물학과 공학을 이어주는 가교로서 뇌 모델의 연구에서 점점 더 많은 역할을 담당하여야 할 것이다.

참고문헌

[1] B. H. Jansen and M. E. Brandt, Nonlinear Dynamical Analysis of the EEG (World Scientific, Singapore, 1993).

[2] Dennis W. Duke and W. S. Pritchard, editors, Proceedings of the Conference on Measuring Chaos in the Human Brain (World Scientific, Singapore, 1991)

[3] 물리학과 첨단기술, "생물물리 특집" 4(3) (1995).

[4] M. Raichle, Visualizing the Mind, Sci. Amer., April, p. 36 (1994).

[5] R. F. Thompson, The Brain: A Neuroscience Primer, 2nd ed. (W. H. Freeman & Co., New York, 1983).

[6] A. C. Guyton, Basic Neuroscience Anatomy and Physiology, 2nd ed. (Saunders, 1992).

[7] P. S. Churchland, C. Koch, and T. J. Sejnowski, Computa- tional Neuroscience, ed. H. Gutfreund and G. Toulouse (World Scientific, Singapore, 1994), p. 25.

[8] R. J. MacGregor, Neural and Brain Modeling (Academic Press, San Diego, 1987).

[9] H. Gutfreund and G. Toulouse, Biology and Computation: A Physicist's Choice (World Scientific, Singapore, 1994).

[10] 본 특집 권철안 박사 논문 참조.

[11] 본 특집 한승기 박사 논문 참조.

김승환 교수는 미국 펜실베이니아대학 이학박사(물리학)로 1990년부터 포항공과대학 물리학과 교수 및 수학과 겸직교수로 재직중이며 현재 포항공대 뇌연구센터 소장으로 있다.

김인묵 교수는 미국 조지아대학에서 스핀 동력학에 관한 통계물리이론으로 박사학위를 취득한 후 1982년부터 고려대학교 물리학과 교수로 재직 중이다.