기원 — 사이버네틱스와 계산 (1943–1956)

이 사이트의 첫 점은 1943년 12월 『Bulletin of Mathematical Biophysics』에 실린 McCulloch와 Pitts의 「A logical calculus of the ideas immanent in nervous activity」다. 두 사람은 뉴런이 발화하거나 하지 않거나 둘 중 하나라는 실무율에서 출발해, 신경 사건과 그 관계를 명제 논리로 다룰 수 있다고 썼다. 논문의 결론은 두 방향이다. 어떤 신경망의 행동이든 논리식으로 기술할 수 있고, 조건을 만족하는 논리식이 주어지면 그대로 행동하는 망을 만들 수 있다. 「생각하는 기계」라는 말이 나오기 전에, 생각을 계산으로 쓸 수 있다는 주장이 먼저 나온 셈이다.

Wiener의 『Cybernetics』(1948, Technology Press/Wiley)는 「기계에서든 동물에서든 제어와 통신 이론의 분야 전체를 사이버네틱스라 부르기로 했다」고 선언하고, 되먹임·시계열·계산 기계·신경계를 한 틀에 놓았다. 1948년 원판은 대출 전용이라 이 판은 MIT 출판부의 2019년 공개 재간본(1961년 2판)으로 읽었고, 1부의 주에서 McCulloch–Pitts와 Rosenblueth–Wiener–Bigelow 1943을 인용함을 확인했다.

다섯 해 뒤 Shannon의 「A Mathematical Theory of Communication」(1948년 7월, 『Bell System Technical Journal』)은 정보를 로그 척도로 재고 밑이 2인 단위를 비트라 불렀다. 논문은 통신의 이론이지 지능의 이론이 아니지만, 이 사이트의 뒤쪽 장들은 이 척도 없이 쓸 수 없다 — 언어 모델의 「혼잡도」, 압축으로서의 학습, 엔트로피 손실 함수가 모두 여기서 나온다. Shannon은 각주에서 Wiener의 「곧 나올 책 『Cybernetics』」를 가리켰다. 이것이 이 장에서 확인된 네 인용선 가운데 하나다.

Shannon은 바로 이어 다른 문제를 냈다. 「Programming a computer for playing chess」는 1949년 3월 9일 IRE 총회에서 발표되고 1950년 3월 『Philosophical Magazine』에 실렸다. 범용 컴퓨터가 비수치 문제를 다룰 수 있는지 시험할 사례로 체스를 고르고, 기물·폰 구조·기동성으로 국면을 평가하는 함수와 수 변화를 내다보는 탐색을 결합할 것을 제안했다. 2장의 Samuel, 4장의 Deep Blue, 5장의 AlphaGo로 이어지는 「게임으로 지능을 재는」 계보의 출발점이다.

1949년에는 Hebb의 『The Organization of Behavior』(1949, Wiley)가 나왔다. 신경생리학과 심리학을 잇겠다는 책의 62쪽에 한 문장이 있다. 세포 A가 세포 B를 거듭 발화시키면 둘 중 한쪽 또는 양쪽에 변화가 일어나 A의 효율이 높아진다는 문장이다. 뒤의 문헌이 「헤브 규칙」이라 부르는 것의 원문이 이것이고, 2장 Rosenblatt의 퍼셉트론과 3장 Hopfield의 망이 이 책을 인용한다. 책의 참고문헌에는 McCulloch–Pitts가 없다 — 두 전통은 처음에는 따로 흘렀다.

장의 마지막 점은 신경망도 게임도 아니다. Chomsky의 「Three models for the description of language」(1956년 9월, 『IRE Transactions on Information Theory』)는 상태에서 상태로 옮겨 가며 기호를 내는 유한 상태 마르코프 과정은 영어 문법이 될 수 없다고 썼다. 이 논문이 정보 이론 학술지에 실렸다는 사실, 그리고 Shannon–Weaver의 책을 인용한다는 사실이 이 시기의 공기를 보여 준다. 언어·논리·정보·신경이 한자리에서 논의되던 몇 해였다. 그 자리가 1956년 여름의 다트머스 모임이다. 모임의 제안서(McCarthy 외, 1955년 8월)는 이 판의 선정 기준을 넘지 못해 점으로 찍지 않았으나, 「인공지능」이라는 이름이 거기서 나왔다는 서술은 교과서들이 공통으로 적는다.

1950년 10월 『Mind』에 실린 Turing의 「Computing Machinery and Intelligence」는 「기계는 생각할 수 있는가」라는 물음을 정의하려 들지 않고 다른 물음으로 바꾼다. 질문자가 텔레프린터로 기계와 사람에게 질문하는 「흉내 게임」에서 적절히 프로그램된 디지털 컴퓨터가 만족스럽게 해낼 수 있는가다. 논문의 뒷부분은 기계 사고에 대한 아홉 가지 반론과, 아이를 가르치듯 가르치는 학습 기계의 제안이다. 2장의 Minsky 1961, McCarthy–Hayes 1969, 3장의 Newell–Simon 1976이 이 논문을 참고문헌에서 인용한다. 이 판은 Internet Archive의 『Mind』 면 스캔으로 읽었다.

이 장에서 확인한 것과 못 한 것

일곱 편 가운데 원문 게재본을 읽은 것은 Shannon 1948, Hebb 1949, Turing 1950, Chomsky 1956 네 편이다. Wiener는 2019년 재간본으로 읽었다. McCulloch–Pitts는 1990년 재수록본(『Bulletin of Mathematical Biology』 52권)으로, Shannon 1950은 재타자본으로 읽었다. 재타자본에는 쪽이 없어 인용문의 쪽을 적지 못했다.