내가 정말 재미있게 보고 있는 유튜브가 있는데 그건 Lex Fridman 유튜브다. Lex Fridman은 2백만 구독자를 가진 엄청난 인플루언서 + AI 연구자로 MIT에서 AI 강의도 하며 유튜브에서 세계적 명사들을 인터뷰하는 팟캐스트도 하고 있다(이렇게 여러가지 일을 하려면 본인이 시간관리를 진짜 잘한다는 건데 이 점 진짜 멋지다고 생각한다 respect).
이 Lex Fridman 팟캐스트에 DeepMind 창업자 데미스 허사비스가 나왔다고 해서(와우!!!!!) 2시간 10분짜리 영상이지만 집중해서 들어보고 내가 인상 깊게 느낀 부분을 요약해보려고 한다. 그럼 시작! (인터뷰일: 2022년 7월 1일)
데미스 허사비스 영상 요약
-언제 프로그래밍에 빠졌나?
4살 때 체스를 하기 시작, 8살 때 체스 대회에서 이겨서 상금으로 체스 컴퓨터(zx spectrum)를 샀음. 그 이후 혼자 서점에 가서 프로그래밍 책 사서 독학, 혼자 게임 개발 시작. 프로그래밍에 흥미를 느끼다보니 자연스럽게 AI에도 관심 생김. AI가 기계가 할 수 있는 최대치를 할 수 있다고 생각.
-AI 공부를 언제 처음 하기 시작했나?
체스 컴퓨터를 사고 컴퓨터와 체스 대결을 계속 벌이다보니 ‘대체 체스 컴퓨터를 어떻게 만드나’ 궁금해지게 됨. 11-12살 쯤 데이비드 래비(David Levy)가 쓴 “체스 컴퓨터 안내서(Chess Computer Handbook)”를 읽고 체스 컴퓨터의 원리에 대해 이해하게 됨. 12살 쯤, 첫 체스 프로그램(AI)를 만들려고 시도했을 때 그 프로그램이 체스 게임을 할 수 있게 만드는데는 실패했지만 오셀로 게임은 할 수 있게 만드는데 성공함. 16,17살 쯤에는 게임 개발을 본격적으로 함. theme park라는 AI 기반 게임도 만듦.
“One of the reasons I want to build AI and I’ve always wanted to is I think by building an intelligent artifact like AI and then comparing it to the human mind, that will help us unlock the uniqueness and the true secrets of the mind that we’ve always wondered about since the dawn of history like consciousness, dreaming, creativity, emotions”
“제가 AI를 만들고 싶은 이유, 그리고 항상 만들고 싶었던 이유는 저는 AI 같은 인공적인 물질을 만들어 그것과 인간의 의식(생각)과 비교하는 것이 우리의 의식(생각)의 진짜 비밀과 특이성을 알려줄 거라고 봤기 때문입니다. 사람의 의식, 꿈, 창의성, 감정 같은 우리가 항상 궁금해했던 것들 말이에요.”
“There haven’t been the tools for us to really other than introspection to really investigate this scientifically but now suddenly we have a plethora of tools, firstly we have all the neuroscience tools, fmri machines, single cell recording all these stuffs but we also have the ability, computers and AI to build intelligent systems”
“우리는 철학적인 질문에 개인적인 사색 외에는 다른 어떤 방법으로도 그 질문에 대해 알아 볼 방법이 없었습니다. 하지만 지금은 다양한 도구들이 존재하죠. 일단 뇌과학 쪽으로는 fmri 기계, single cell recoring 같은 것들, 또 우리는 AI 같이 지능을 가진 무언가를 창조할 수도 있게 되었죠.”
“I think it is amazing without human minds we’re able to build things like computers and actually investigate about these questions”
“저는 우리가 컴퓨터를 만들 수 있고 인간의 의식 없이 저런 철학적인 주제에 대해 연구할 수 있다는 것이 놀랍다고 생각합니다.”
“Maybe we’re the mechanism by which the universe is going to understand itself”
“(인공지능을 개발하고 우리가 우리 자신의 의식에 대해 탐구할 기회를 가진다는 것이) 어쩌면 우리는 우주가 스스로를 이해하는데 쓰이는 재료일지도 몰라요.” (*속 뜻: 우리 자신도 우주의 일부이기 때문에 우리가 인공지능을 개발해서 우리 자신을 알아보는 게 우주에게는 스스로를 알아보기 위한 방법이 될 수도 있다는 말인 듯)
“2010, nobody was talking about AI, I did a postdoc at MIT back around then and it was sort of thought of as a ‘Well, look we know AI doesn’t work, we tried this hard in the 90s’, Minsky, Patrick Winston you know all these characters, used to debate a few of them and they used to think I was mad thinking about that some new advance could be done with learning systems, um I was actually pleased to hear that because at least you know, you’re on a unique track at that point right? even if all of your professors are telling you you’re mad.”
“2010년에는 아무도 AI에 대해 말하고 있지 않았어요. 제가 MIT 포스닥 과정을 수료 중일 때 사람들은 ‘AI는 잘 될 수가 없어. 1990년대에 다 시도해봤잖아’, Minsky, Patrick Winston을 지칭하며 말하곤 했죠. 저는 사람들에게 반박했고 그들은 저에게 기계가 전혀 다른 방식으로 배워서 더 좋은 성과를 낼 수 있다고 믿는 게 미쳤다고 말했죠. 저는 사실 그 말이 정말 좋았어요. 적어도 저는 유니크한 길을 가고 있다는 말이잖아요. 뭐, 교수님들은 모두 저에게 미쳤다고 말하긴 했지만요.”
-2010년에 비해 엄청나게 발전한 AI, 어떻게 발전했는지
- 알고리즘 향상, Algorithmic Advances (Deep Learning, 그 당시 Jeff Hinton과 Cohen이 막 학계에 Deep Learning 개념을 소개하고 있었음, 하지만 산업 전반에 아무도 Deep Learning에 대해 알지 못했음, 이때 데미스는 Deep Learning, Reinforcment Learning 연구에 집중)
- 인간의 뇌 이해, Understand Human Brain
- 컴퓨팅 파워의 향상, Compute, GPUs
- 수학적, 이론적 개념의 ‘지능이 무엇인가’ 규정하게 됨, Mathematical and theoretical definitions of intelligence
“I got to the point where we wouldn’t mention it to any of our professors because they would just eye roll and think we committed career suicide. There was a lot of things we had to do but we always believed it. One reason I believed in reinforcement learning is that if you look at neuroscience, that is the way primate brain learns, one of the main mechanisms is the dopamine system implement some form of td learning(temporal difference learning).”
“나중에 저희는 교수님들에게 더 이상 AI에 대해 말하지 않는 경지에 이르렀죠. 교수님들은 다들 눈알을 굴리고 저희가 스스로의 커리어를 망치려고 한다고 생각했어요. 그때 저희가 해야될 것들은 많았지만 그래도 저희는 항상 믿어왔어요. 제가 강화 학습(reinforcement learning)을 굳게 믿었던 이유는 뇌과학을 보면 강화학습이 우리의 뇌가 학습하는 방법이기 때문이라고 말하기 때문이어서 그렇습니다.”
“When you’re doing something as ambitious as trying to solve intelligence and it’s blue sky research, no one knows how to do it, you need to use any source of information you can to help guide you in the right direction or give you confidence you’re going in the right direction.”
“당신이 ‘지능’이 무엇인지 알아내고 그걸 만들려고 하는 것 같은 야망을 가지고 있는 사람이고 아직까지 그 누구도 당신이 하려는 것을 해본 적이 없다면 어떤 출처의 정보이던 그 정보를 이용해 당신이 가려고 하는 방향으로 가는데 도움이 되도록 하거나 당신이 올바른 방향으로 가도록 자신감을 심어주도록 해야합니다.”
-AI로 이루고 싶은 것
궁극적으로는 virtual cell(데미스의 최종 꿈) 만드는 것, 지금은 alpha-fold로 단백질 구조 예측에 힘을 쏟고 있지만 이것은 시작일 뿐이고 protien-protein binding, protein-ligand binding, pathway 형성 그리고 마지막엔 virtual cell까지 만들고 싶다.(엄청난 포부이다, 학사를 화학을 마친 나로써는 virtual cell이 생물학자, 컴퓨터 공학자들의 이상향이라는 것을 알고 있다!! virtual cell은 살아있는 세포를 있는 그대로 소프트웨어로 구현하는 기술로 세포의 원리, 세포가 어떻게 작동하는지 모두 완벽히 이해해야지 가능하다. 생물과 수학과 컴퓨터의 교집합에 있는 영역으로 virtual cell을 구현할 수 있다면 정말 많은 병에 대한 이해와 그 병을 치료하는데 엄청난 도움이 되고 또한 노화에 대해서 깊이 이해할 수 있게 된다). + virtual cell을 구현한다면 모든 실험을 virtual cell에서 끝내고 최종 단계에서 진짜 생물체에 적용해볼 수 있게 되니 많은 비용과 시간과 윤리적 문제들을 해소할 수 있다.
“If you think mathematics is the perfect description language for physics, I think AI might end up being the perfect description language for Biology because Biology is so messy, it’s so emergent, so dynamic and complex. I find it very hard to believe we’ll ever get to something as elegant as Newton’s laws of motions to describe a cell. It’s just too complicated. So, I think AI is the right tool for this.”
“만약 수학이 물리에 가장 적합한 언어라면 AI는 생물에 가장 적합한 언어가 될 거라고 봅니다. 생물은 너무 복잡하고 다이나믹하고 돌발 상황이 많기 때문이죠. 저는 세포를 설명하는데 뉴턴의 운동 법칙같은 간단한 수식으로 가능할 거라고 보지 않습니다. 생물은 매우 복잡합니다. 따라서 AI는 생물에 가장 적합한 도구라고 봅니다.”
“The reason why I am personally working on AI for my whole life is to build a tool to help us understand the Universe and that means Physics and the nature of reality.”
“제가 개인적으로 AI에 제 인생 전부를 건 것은 저는 우주를 이해하는데 도움이 되는 도구를 만들고 싶었기 때문입니다. 그리고 그것은 물리이고 이 현실의 본질이죠.”
-우주에 다른 생명체, 외계인이 있을 거라고 생각하는가?
우리는 이 우주에 혼자라고 생각한다. 현 인류만이 존재하고 외계인은 없을 거라고 본다. 외계인이 있다면 우리가 이미 우주 탐사나 관측에서 특이점을 발견했을 것이다.
-현재 만들고 있는 AI 중 감정을 느끼는 것 같은 AI가 있는가?
전혀 없다.
-사람의 의식을 정의하자면?
Max Tegmark가 말한 ‘정보가 처리될 때 느끼는 감정들’이 내가 좋아하는 ‘의식’에 대한 정의이다.
-미래에 기계가 의식이 있나 없나 어떻게 정의할 것인가?
기계가 지능이 있나 없나 확인하는 Turing test는 기계의 행동을 보고 기계가 지능이 있나 없나 판단한다. 기계가 사람처럼 행동을 하는지 안하는지 테스트 하는 것이다. 하지만 나는 이 Turing test만으로는 기계가 의식이 있다고 말하기 어렵다고 본다. 인간이 다른 인간을 보고 ‘저 사람은 감정을 가진 생명체군’하고 말할 수 있는 것은 우리는 같은 인간의 몸 안에 들어있기 때문이다. 마찬가지로 우리는 동물도 같은 몸(생명체, 피와 살로 이루어짐)에 들어있기 때문에 우리와 같은 행동을 하면 비슷한 감정을 느낄 거라고 생각한다. 기계는 우리와 같이 피와 살로 이루어져 있지 않기 때문에 우리들이 기계가 의식이 있나 없나 정의하기 어려울 것이다. 이 부분은 Daniel Dennet과도 토론한 적이 있다.
-어린 사람들에게 하는 조언:
어렸을 때 해야하는 것은 자신이 진정으로 열정을 가진 일을 찾는 것이다. 그러기 위해선 다양하게 경험해보는 것이 필요하다. 시간이 있고 리스크를 감당할 수 있는 어릴 때 자신이 열정을 가진 일을 찾는 것이 좋다. 자신의 열정을 찾기 위해 여러 분야들의 공통점, 연결되는 부분을 알아보는 것이 도움이 된다.
두번째로 말하고 싶은 것은 ‘너 자신을 알아라’이다. 너 자신이 어떻게 작동하는지 오랜 시간을 두고 지켜보고 이해하는 시간을 가져라. 뭐가 나에게 가장 잘 맞는 공부 방법인지, 뭐가 나에게 가장 잘 맞는 일하는 시간인지, 스트레스에 내가 어떻게 대응하는지. 자기 자신을 다양한 시나리오에서 지켜보고 자신의 약점을 개선해라. 또한 자신의 강점을 알아내서 그걸 발전시켜라. 그 강점은 너만이 가진 엄청난 무기가 될 것이다. 이 무기(자신의 강점)과 자신의 열정이 교집합하는 부분을 발견해서 그걸 계속 추구한다면 곧 세상에 엄청난 영향을 주는 사람이 될 것이다.
-몇시에 일어나서 몇시에 자나, 하루 일과가 어떻게 되냐?
나는 올빼미형 인간이다. 11시에 일을 시작해서 7시까지 사무실에서 일하며 미팅을 계속 한다. 이 시간 동안 최대한 많은 사람을 만난다. 그 다음 저녁을 먹고 가족과 친구들과 시간을 보내고 좀 쉰다. 그 이후 10시, 11시쯤부터 새벽 4,5시까지 계속 생각하는 시간을 가진다. 이 시간 동안 논문 자료를 읽기도 하고 쓰기도 한다. 나는 더 이상 코딩을 하진 않는다. 사람들이 다 잘 때 새벽 1시부터 3시까지는 나에게 영감을 주는 노래를 듣기도 하고 깊은 생각에 빠지기도 한다. 요즘은 스피노자, 칸트 철학가, 과거의 과학자들이 어떻게 실험을 했는지, 어떻게 생각을 했는지 등에 대해 읽고 있다. 새벽 1시부터 3시까지는 나만의 창의적인 생각을 하는데 이때 다른 사람들의 방해를 받지 않아서 참 좋다. 내가 만약 영감을 받아서, 무언가에 꽂혀서 새벽 시간을 보내고 새벽 6시까지 일을 하기로 결정하고 그 일을 늦게까지 했다면 다음날 조금 피곤하면 된다. 그래도 흐름이 끊기지 않아서 좋다. 아침형 인간이 된다면 이 부분이 좀 어려울 것으로 보여서 나는 늦은 밤까지 일하는 것을 선호한다.
-인생의 의미는 무엇이라고 생각하는가? 우리가 왜 여기 있다고 생각하는가?
인생의 의미는 우리를 둘러싸고 있는 세상을 이해하는 것이라고 생각한다. 그렇게 되면 연민, 사랑이 더 많아지고 스스로를 이해하게 될 거라고 생각한다. 나는 ‘이 세상은 대체 어떻게 돌아가고 있는 거지?’ 깊게 생각하고 정말 미스테리하다고 느낀다. 우리가 엄청 큰 퍼즐 안에 있는 거 같은 느낌이 들기도 한다.
-당신이 가장 인간 수준의 의식 또는 그 이상을 가진 기계를 만들기 쉬운 사람이라고 보는데 만약 그런 기계를 만든다면(AGI) 그 기계와 무슨 대화를 하고 싶은가?
“What is the true nature of reality”, 우리가 살고 있는 현실이 대체 무엇인지에 대해 물어보고 싶다. 내가 기계의 대답을 이해할 수 있을진 모르겠지만 이게 내가 AGI에게 물어보고 싶은 질문이다.
*Nuclear fusion, Quantum simulator 부분 AI 연구도 데미스 허사비스 인터뷰에서 다루긴 했는데 제가 잘 모르고 또 지금은 아직 그렇게 깊이 들어가면 오히려 저의 지적 호기심이 달아나버릴 거 같아서ㅋㅋ 더 이상 파보지 않기로 했습니다. 나중에 인공지능 공부를 더 진행하며 저의 공부에 깊이가 더해지면 더 자세히 파볼게요. 이 글을 쓰다보니 벌써 새벽 3시네요. 데미스 허사비스라는 정말 멋진 인물을 알게 되어서 영광이고 저의 추후 공부에 큰 도움과 영감이 될 거라고 봅니다. 그럼 저는 자러 가요~