제프리 힌턴의 마피아들, 노벨상
전 편에서 제프리 힌턴의 마피아들을 소개드리겠다고 했습니다. 그런데 제목을 제프리 힌턴의 마피아라고 쓰고 보니 마치 무슨 이익 집단같은 느낌이 듭니다. 워낙 끈끈하게 맺어온 인연들이 마치 그들을 마피아처럼 보이게 할 정도입니다. 하지만 사실 이들은 모두 훌륭한 과학자이고 투자가이고 개발자들입니다. 오늘날, 그리고 앞으로의 AI 세상에서는 이들이 계속 주인공이 될 것이 확실합니다.
1947년생인 제프리 힌턴은 캐나다 토론토 대학교 교수였습니다. 1980년대에 XOR 문제와 역전파법 문제를 해결하면서 스타 과학자가 되었죠. 그의 평생은 천재 제자들과의 만남을 통해 딥러닝의 뼈대를 만들고, 제품을 만들고 알리는 것으로 가득 차 있습니다. AI가 얼마나 위험한지도 가장 잘 알았을 것입니다. 보통 인공지능 개발 리소스 중 20~30%가 안전과 규제에 들어가는 비용이라고 합니다. 제프리 힌턴은 말년으로 갈수록 이 비율을 더욱 높이고, AI 개발 속도를 늦추거나 한계 가이드라인을 치는 일에 집중했습니다. 최고의 대가만이 할 수 있는 일이었겠죠. 결국 이 노력의 성공여부는 아직 알 수 없지만, 현재로서는 관심을 끄는데까지는 성공한 것 같습니다. 딥러닝(Deep Learning)이라는 단어를 만든 사람도 제프리 힌턴입니다. chatGPT라는 불멸의 역작 속에도 제프리 힌턴이 있습니다.
(업데이트 : 제프리 힌턴의 2024년 노벨물리학상 소식을 듣고 정말 깜짝 놀랐습니다. 이 글을 쓸 때까지만 해도 상상을 못했어요. 수상을 진심으로 축하드려요!)
AI 4대 천왕
제프리 힌턴은 그의 제자인 얀 르쿤, 요수와 벤지오, 그리고 앤드류 응과 함께 AI 4대 천왕이라고 불립니다.
1960년 프랑스에서 태어난 얀 르쿤은 2018년 힌턴교수와 함께 튜링상을 수상했습니다. 그리고 그 유명한 CNN 알고리즘을 만들었습니다. 현재는 메타에서 수석과학자로 근무하고 있는데요, 그는 대표적인 AI 긍정론자입니다. 유발 하라리, 일론 머스크 등 신중론자들과 토론을 벌인 것은 유명한 사건이었지요.
또 다른 핵심 멤버인 요수와 벤지오는 1985년 석사과정 중 제프리 힌턴 교수의 논문을 읽고 딥러닝 연구에 매진하였다고 합니다. 제프리 힌턴교수와의 인연은 벨연구소에 갔다가 얀 르쿤을 만나 절친이 되면서 본격 시작적으로 시작 되었습니다.
요수아 벤지오는 제프리 힌턴, 얀 르쿤과 함께 2018년 튜링상을 수상했고 이들이 만든 단어가 딥러닝이라는 용어입니다. 삼성그룹의 이재용부회장이 가장 신뢰하는 AI 전문가인데, 삼성전자는 벤지오 교수와 합작으로 캐나다에서 AI 연구소를 만들었습니다. 2018년에 요수아 벤지오는 KAIST에 킬로로봇 개발을 중단하라는 편지를 보내서 KAIST 총장이 해명하는 답장도 받았습니다. 뿐만 아니라, 미국방연구소, 중국인민해방군 등에도 무기에 사용되는 AI 연구를 중단하라는 항의서한을 보내면서 인공지능의 위험성을 알리는 대표적 신중론자로 알려져 있습니다.
또 유명한 제자 중에는 알렉스 크리제프스키라고 1986년 우크라이나에서 태어난 분도 있습니다. 그는 2011년 같은 연구실에 있던 일리야 슈츠케버와 함께 이미지넷의 대회에 나가 우승하기도 했습니다. AlexNet을 창시했고, OpenAI의 창업자 중 한명이기도 합니다. 그의 가장 유명한 부분은 GPU가 행렬 계산에 최적이라는 사실을 증명했다는 점일 것입니다.
그래서 엔비디아의 젠슨 황 대표는 시간날때마다 일리야 수츠케버, 크리제프스키가 AI의 빅뱅을 만들었다고 칭찬하고 다닙니다.
모든 AI 테크 기업에 그들이 있다
1980년생인 이란 출신의 주빈 가라마니도 유명한데요, 그는 2016년 우버 인공지능 연구소 설립하고, 2023년 구글의 AI 연구부문 부사장을 하다가, 2023년 영국 캠브리지대학 교수 재직 중에 있습니다.
1987년 미국에서 출생한 이안 굿펠로우는 제프리힌턴의 제자인 요슈아 벤지오의 제자로 있으면서 박사 취득했습니다. 졸업 후 구글 AI에 입사했다고 2016년에 OpenAI 합류해서 GAN 알고리즘을 만들었습니다. 그 후 2017년 다시 구글 서치에 입사했다가, 2019년에는 애플의 머신러닝 책임자로 갔습니다. 그도 보안의 취약성을 강조하며 강력하고 안전한 AI 솔루션의 중요성을 설파하는 신중론자입니다.
자비에 글로럿도 요수아 벤지오 연구실 출신인데, ReLU라는 activation function이 비선형성을 살린 딥러닝에서 훨씬 퍼포먼스가 낫다는 논문으로 유명하며, 제프리 힌턴팀이 이미지넷에서 우승하도록 만든 사람이기도 합니다.
니티시 스리바스타바라는 제프리 힌턴의 제자이자 알렉스 크레제프스키의 연구실 후배는 딥러닝의 오버피팅 문제를 해결한 사람입니다. 식물도 솎아주면 잘 자라듯이, 드랍아웃은 신경망 중 일부를 무작위로 제거하면, 오버피팅 문제가 해결되면서 오히려 예측의 정확도가 높아진다는 사실을 증명했죠. 오버피팅 문제가 해결된 것도 정말 엄청난 업적입니다.
사이먼 라코스테 줄리앙이라는 몬트리올대학교 교수, 제프리 힌턴과 직장 후배이자 동료입니다. 그는 요수와 벤지오가 삼성과 만든 AI 연구소의 랩장이기도 합니다.
끝으로 1956년 미국 출생의 마이클 어윈 조던도 빼 놓을 수 없습니다. 그는 제프리 힌턴과 직접 사제지간은 아닙니다만, 주빈 가라마니, 요수와 벤지오와 같은 제프리 힌턴의 제자들을 받아 박사 논문 지도 교수를 했습니다. 또 그 유명한 앤드류 응의 스승이기도 합니다. 마이클 어윈 조던의 지도교수는 데이비드 루멜하트인데, 루멜하트는 제프리 힌턴과 함께 back propagation 알고리즘 논문을 쓴 학자로 유명하죠. 그는 최근 수많은 인공지능 분야 스타들을 길러낸 스승으로서, 제프리 힌턴에 이어 딥러닝 연구인맥의 핵심인물이 되었습니다.