[AI 이야기] 인공지능의 결정적 인물들 (2)딥러닝의 시초, 월터 피츠

2021-11-04

시리즈의 두 번째 순서로 인간의 뇌를 모델링하는 연구로 딥러닝의 기원을 열은 월터 피츠에 관해 알아봅니다. 혹시 아직 시리즈의 지난 컨텐츠를 보지 않으셨다면 먼저 확인해보시는 것을 추천드립니다.

‍

월터 피츠(Walter HarryPitts, Jr. 1923.04.23~1969.05.14)는 인간 뉴런의 작동 원리를 최초로 수학적으로 모델링하는 중요한 업적을 남겼습니다. 인공신경망, 기계학습, 나아가 딥러닝 연구의 기원을 연 개척자라고 할 수 있죠. 지금부터 초기 인공지능의 역사에서 중요한 역할을 한 그의 삶과 연구에 관해 살펴보도록 하겠습니다.

빈곤한 거리의 천재 소년

‍

월터 피츠의 삶이 연상되는 영화 <굿 윌 헌팅>, 출처

‍

월터 피츠는 미국 디트로이트시의 가난한 가정에서 태어났습니다. 게다가 아버지에게 학대당하고, 동네 아이들에게도 괴롭힘 당하는 왜소한 소년이었죠. 그의 인생은 구스 반 산트(Gus Van Sant) 감독의 영화 ‘굿 윌 헌팅(Good WillHunting)’ 속 불운한 천재 소년의 이야기를 떠올리게 합니다.

1935년 12살의 피츠는 동네 불량배들을 피해 들어간 도서관에서 그의 인생을 바꿀 운명적인 책을 만납니다. 바로 버트란드 러셀과 알프레드 화이트헤드가 쓴 '수학 원리(Principia Mathematica)'였죠. 그는 수백 페이지에 이르는 이 어려운 책을 며칠에 걸쳐 모두 읽어버립니다.

게다가 놀랍게도 책의 내용에서 몇 가지 오류까지 발견해냅니다. 그리고는 책의 저자인 러셀에게 이에 관해 편지를 보냈죠. 이에 감명받은 러셀은 이 천재 소년을 영국에 데려와 가르치려 했지만, 아직 12세에 불과한 그를 케임브리지 대학원에 입학시키지는 못했습니다.

‍

워렌 맥컬록과 월터 피츠, 출처

‍

다만 이 인연을 계기로 피츠는 논리학과 수학을 배우고, 여러 사람과 만날 귀중한 기회를 얻게 됩니다. 후일 그와 공동 연구를 한 신경과학자 워렌 맥컬록 (Warren Sturgis McCulloch)도 그 중 한 사람이었죠. 맥컬록은 청소 등 허드렛 일을 하며 떠돌던 피츠가 그와 함께 지낼 수 있도록 후견인이 되어줬습니다.

딥러닝의 시초, 맥컬록-피츠 모델

‍

논문 <신경 활동에 있어서 관념의 논리적 미적분>과 명제논리로 나타낸 맥컬록-피츠 모델, 출처

‍

이후 두 사람은 함께 연구한 성과를 발표하게 됩니다. 바로 ‘신경 활동에 있어서 관념의 논리적 미적분(A Logical calculus of ideas immanent in nervous activity)이란 논문이죠. 두 사람은 이 논문을 통해 뉴런의 작용을 0과 1로 이뤄진 2진법 논리 모델로 설명해냅니다.

다음은 이 논문의 요약 부분의 내용입니다.

“신경 활동의 '전부 아니면 전무 (All-or-Nothing)' 적인 특성 때문에 신경계의 일과 그들 사이의 관계들은 명제논리 (Propositional logic)로 취급된다. 모든 망의 행동은 이러한 관점에서 기술될 수 있다. ...중략... 어떠한 조건들을 만족시키려는 논리적 표현에 대하여, 우리는 그것이 기술하는 방법대로 행동하는 망을 찾을 수 있다.”*

이는 인간의 뇌를 기계적으로 모델링한 최초의 연구였습니다. 각 신경세포의 기능은 매우 단순하나, 이들이 상호 연결됨으로써 복잡한 계산을 수행하는 신경 시스템의 기초를 마련한 것이 이 논문이었죠. 이는 훗날 2진 출력을 하는 현대 컴퓨터를 가능하게 만든 기반이 되었습니다.**

이 논문이 후대에 미친 영향과 중요성은 매우 큽니다. 맥컬록-피츠 모델이 발표되고 15년 후 '퍼셉트론'이라는 개념으로 이어졌죠. 이 퍼셉트론이 뉴럴 네트워크로, 뉴럴 네트워크는 딥러닝으로 발전했습니다.**