알파고 이야기: AI는 어떻게 가장 어려운 보드게임을 정복했나

어떤 게임이든 결말은 비슷해 보입니다. 컴퓨터는 점점 나아지고, 결국 사람을 앞지릅니다. 1994년 체커에서는 Marion Tinsley가 병으로 재대결을 포기하면서 Chinook이 그 타이틀을 이어받았고, 1997년 체스에서는 Garry Kasparov가 Deep Blue에 무릎을 꿇었습니다.

그런데 바둑만은 그 흐름에서 비켜나 있는 듯 보였습니다. 분기 계수가 워낙 커서 완전 탐색은 그대로 무너져 버렸고, 오랫동안 바둑 프로그램은 사람 고수의 발끝에도 미치지 못했습니다.

Deep Blue로부터 20년도 채 지나지 않은 2015년, DeepMind가 알파고를 세상에 내놓았습니다. 그리고 1년 만에 그 전제는 통째로 뒤집혔고, 바둑에서 ‘직관’과 ‘창의성’이 무엇인지 처음부터 다시 생각해야 했습니다.

인류 최후의 보루로 불리던 바둑이 바로 그 문턱에서 AI의 실력을 가늠하는 무대로 바뀌었습니다.

이 글은 Go Magic 채널 영상을 바탕으로 다시 구성했습니다.

바둑이 특별한 이유

AI 이야기로 들어가기 전에 바둑이라는 게임 자체를 잠깐 정리해 두겠습니다. 규칙은 1분이면 설명할 수 있을 만큼 단순한데, 국면은 의외성과 불확실성을 품은 채 끝없이 뻗어 나갑니다. 바로 이 조합이 오랫동안 컴퓨터를 사람 고수의 한참 뒤에 붙잡아 두었습니다.

단순한 규칙, 무한한 변화

대국자는 빈 교차점에 흑돌과 백돌을 놓습니다. 흑이 먼저 두고 백이 응수하며, 그다음부터는 한 수씩 번갈아 둡니다. 목표는 바둑판을 확실한 집으로 나눠 갖는 것이고, 돌을 따내는 일은 목적이 아니라 수단입니다. 돌의 활로란 그 돌에 바로 이웃한 빈 교차점을 말합니다. 활로가 모두 메워지면 그 돌은 바둑판에서 들어냅니다. 가장 간단한 예로, 외따로 놓인 백돌 한 점에는 이웃한 교차점이 4개 있습니다. 흑이 그 4곳을 모두 차지하는 순간 백돌은 따내집니다. 이 작은 규칙에서 뻗어 나오는 변화의 갈래는 순식간에 계산만으로 감당할 수 있는 범위를 넘어섭니다. 규칙을 처음부터 차근차근 익히고 싶다면 인터랙티브 가이드를 살펴보세요.

×

초기 바둑 프로그램은 사람에게 크게 뒤처져 있었습니다. 몇 달만 진지하게 공부해도 당시 가장 강한 엔진을 앞지를 수 있을 정도였죠. 이유는 구조적이면서도 단순했습니다. 바둑은 변화가 너무 많아 완전 탐색으로는 풀리지 않습니다. 실전에서 기댈 것은 부분적인 수읽기와 감각을 섞은 판단입니다. 국면이 워낙 앞을 내다보기 어려운 탓에, 모든 것을 정확히 계산하지 못한 채 직관에 기대어 한 수를 고르는 경우가 더 많습니다. 기계가 이 격차를 좁히기 시작한 것은 새로운 알고리즘이 등장하고 나서였습니다.

접바둑에서는 실력이 약한 쪽이 첫 수를 두기 전에 미리 돌을 깔아 둡니다. 두 점, 석 점, 다섯 점, 혹은 그보다 더 많이. 그래야 기력 차이가 있어도 대국이 의미를 잃지 않으니까요. 이런 치석 배치는 초기 엔진을 시험하는 스트레스 테스트가 되기도 했습니다. 바둑판이 온통 흑돌로 뒤덮여 압도적으로 유리해 보이는 형태에서 시작해도, 사람은 프로그램을 꽤 손쉽게 이겼습니다. 

돌파구

오랫동안 그 곡선은 완만했습니다. 새로운 알고리즘, 조금 나아진 프로그램, 꾸준하지만 눈에 확 띄지는 않는 진전. 그러다 2015년이 오면서 이야기는 급격히 꺾입니다.

DeepMind의 팀이 눈여겨본 사람은 판후이였습니다. 중국 출신으로 당시에는 프랑스에 살고 있던 프로 2단, 그리고 무엇보다 유럽 선수권을 3회 제패한 실력자였죠. 첫 시험대로는 자연스러운 선택이었습니다. 2015년 10월, 양측은 5번기를 두었습니다. 판후이도 당시 대다수 프로기사와 마찬가지로 회의적이었습니다. 경험에 비추어 보면 어떤 프로그램도 강한 사람을 진짜로 이길 수는 없었으니까요. 그 예상은 거의 곧바로 무너졌습니다. 1국을 마친 시점에 저울추가 기울었다는 것이 분명해졌고, 결과는 5전 5패의 완패였습니다. 이 결과는 많은 사람을 놀라게 했지만, 바둑계 전체가 뒤집혔다는 분위기까지는 아니었습니다. 이것이 아직 ‘진짜’ 인간 대 기계의 승부는 아니라고 본 기사도 적지 않았습니다.

더 큰 시험대는 피할 수 없었습니다. 이듬해 상대는 전설적인 존재, 한국의 이세돌이었습니다. 2015년 당시 가장 널리 통하던 비유는 “바둑계의 Michael Jordan”이었죠. 국제 대회 우승 18회, 공격적이고 직관적인 기풍으로 이름난 기사였습니다. 대국 전 이세돌은 판후이가 둔 5국을 살펴봤지만, 앞서 판후이가 그랬듯 생각을 바꾸지 않았습니다. 기보에서 느껴지는 수준이 자신보다 아래로 보였고, 그래서 여유 있게 이길 것이라 여겼습니다. 그가 미처 보지 못한 것은 대결 전까지 알파고가 학습을 더 쌓았다는 사실이었습니다. 그 준비가 2016년 3월의 무대를 조용히 기울여 놓게 됩니다.

이세돌 대 알파고

2016년 초로 접어들며 기대는 계속 부풀었고, 어느새 이 질문은 승부를 넘어 문화적인 색을 띠게 됩니다. 살아 있는 전설이 대국을 치를 때마다 강해지는 기계와 마주하면 무슨 일이 벌어질까요? 판세 예측은 사람 쪽으로 기울었고, 베팅도 대부분 이세돌에게 몰렸습니다. 행사는 대국실 밖으로 흘러넘쳤습니다. 여러 언어로 진행된 생중계 해설, 서울 거리에 늘어선 대형 전광판이 거리를 그대로 관전석으로 바꿔 놓았죠. 그래서 첫 수가 바둑판에 놓이는 순간, 그것은 인간의 직관을 향한 전 세계 규모의 스트레스 테스트처럼 느껴졌습니다.

제1국: 초반 싸움과 뜻밖의 기계 기풍

상식대로라면 프로그램은 정상급 프로기사를 상대로 초반부터 난전에 들어가는 것을 피해야 합니다. 알파고는 정반대로 갔습니다. 포석 단계에서부터 곧장 날카로운 싸움을 걸었죠. 바로 사람 쪽이 유리하다고 보던 그림이었는데, 알파고는 허무할 만큼 손쉽게 이겼습니다. 이세돌은 당황했고, 진짜 승부는 이제부터라는 분위기가 감돌았습니다.

제2국: ‘불가능한’ 37수

제2국에서는 대국장의 공기가 얼어붙는 순간이 나왔습니다. 37수, 기계는 사람이라면 ‘두지 않는’ 수를 골랐습니다. 입문 시절부터 기본으로 익히는 반상의 상식을 정면으로 거스르는 수였는데도, 그 돌은 태연하게, 미안한 기색 하나 없이 바둑판 위에 놓여 있었습니다. 관전자는 말을 잃었고, 이 한 수는 “지켜보던 모두를 놀라게 했다”고 회자됩니다. 사람의 교과서대로라면 이 선택은 “애초에 둘 수 없는 수”입니다. 그런데도 알파고는 그 수를 두었고, 끝내 성립시켜 버렸습니다. 그 순간 이 대결은 기계가 기보를 흉내 내는 것뿐인지를 묻는 자리가 아니게 되었습니다. 프로그램이 원래의 데이터셋을 뛰어넘고, 배움의 바탕이 된 사람의 기보 밖으로 걸어 나가 창의적인 무언가를 찾아낼 수 있다는 증명이 된 것입니다. 그날 남은 시간이 이 충격을 그대로 확인시켜 주었습니다. 알파고는 이 판도 이겨 2–0으로 앞서 나갔고, 이세돌은 남다른 발상이 아니면 5번기를 이어 갈 수 없는 자리로 몰렸습니다.

제3국: 흐름을 뒤집으려는 시도

승부가 손에서 멀어지는 가운데 이세돌에게 남은 길은 하나였습니다. 국면을 복잡하게 만들고 초반부터 큰 싸움을 일으키는 것이었죠. 알파고는 그 유혹에 걸려들지 않았습니다. 흔들림 없이 자리를 잡고 다시 이겼고, 3–0이 되면서 5번기는 사실상 끝났습니다.

제4국: 인간의 걸작, 78수

제4국 중반에 접어들 무렵, 승부는 이미 기운 듯 보였습니다. 알파고가 10집가량 앞서 있었는데, 이 수준에서 그 정도 차이는 보통 조용히 마무리로 흘러간다는 뜻입니다. 그런데 기적이 들어설 틈이라고는 없어 보이던 국면에서, 이세돌은 대국장의 누구도 보지 못한 단 하나의 놀라운 구상을 찾아냈습니다. 그 한 수는 시스템의 맹점을 정확히 찔렀습니다. 알파고의 형세판단은 흔들렸고, 국면을 끝내 처리하지 못했으며, 흐름이 뒤집혔습니다. 이 번뜩임에는 바둑사에 남은 이름이 있습니다. 바로 78수입니다. 훗날 2016년 버전보다 훨씬 강한 AI로 다시 살펴보니 이 수법은 원칙적으로 성립하지 않는다는 결론이 나왔습니다. 그래도 그 버전을 상대로, 그날만큼은 성립했습니다. 이세돌은 우세를 승리로 연결했습니다. 점수판을 떠나 이 장면이 중요한 이유는, 5번기 전체의 정신을 증명해 보였기 때문입니다. 앞선 3국은 조용한 힘과 놀라운 착상을 함께 갖춘 기계를 보여 주었고, 제4국은 사람의 창의력이 여전히 그 갑옷에 금을 낼 수 있다는 것을 보여 주었습니다. 이 판은 그 기계를 상대로 사람이 거둔 유일한 승리로 남아 있습니다. 전설이 된 예외입니다.

제5국: 승부의 마무리

제5국은 흐름이 막 뒤바뀐 직후, 양쪽 모두 신경이 곤두선 상태로 시작됐습니다. 이세돌은 다시 압박을 걸며 국면을 복잡하게 만들고 판을 다시 열 길을 찾았습니다. 알파고는 그 압박을 침착하게 받아 내고, 중반에는 효율적으로 바꿔치기를 해내며 작은 우위를 흔들리지 않는 리드로 바꿔 놓았습니다. 집 차이가 분명해지자 이세돌은 기권했습니다. 관객은 전날 나온 인간의 걸작과, 바로 다음 판에서 곧바로 되받아쳐 이기는 시스템의 힘을 나란히 목격했습니다.

최종 전적, 그리고 남은 의미

최종 전적은 4–1이었습니다. 숫자 너머에는 지금까지 없던 유형이 있었습니다. 사람의 습관 밖으로 걸어 나가면서도, 가장 밝은 조명 아래에서 제 실력을 다 내는 AI입니다. 사람이 바둑에서 마침내 기계에 패한 한 주였고, AI의 창의적인 탐색이 가설에서 벗어나 바둑판 위에 또렷이 모습을 드러낸 한 주였습니다.

이 대국이 남긴 것, 그리고 그것이 오늘날의 기사에게 갖는 의미를 더 깊이 살펴보고 싶다면 “이세돌과 알파고: 역사적 대결이 남긴 유산” 글을 읽어 보세요. 

알파고에서 알파고 제로로

서울 이후에도 더 강한 버전은 계속 나왔지만, 길이 진짜로 꺾인 것은 1년 뒤였습니다. 전혀 다른 발상 위에 선 시스템이 새로운 이름과 새로운 전제를 들고 무대에 오른 순간이었죠.

새 시스템의 이름은 알파고 제로였습니다. 이름에 ‘제로’가 붙은 것은 바둑을 백지에서 배웠기 때문입니다. 사람의 기보 아카이브도, 물려받은 정석이나 프로의 습관도 없었습니다. 주어진 것은 기본 규칙뿐이었고, 그다음은 쉼 없는 자가 대국이었습니다.

초기의 바둑은 사람 눈으로 보면 형편없었습니다. 수천 번의 헛발질, 거의 무작위처럼 보이는 착수의 연속이었죠. 하지만 학습 루프는 아름다움에는 관심이 없었습니다. 관심사는 오직 결과였습니다. 수백만, 수천만 판의 자가 대국을 거치며 시스템의 기력은 꾸준히 올라갔습니다.

결과는 군더더기 없이 분명했습니다. 백지에서 배운 쪽이 사람의 데이터로 훈련한 이전의 모든 버전을 넘어섰습니다. 달리 말하면 사람이라는 출발점을 걷어 내고 ‘인간이라는 변수’를 빼는 편이 기계에게는 더 나았다는 뜻입니다.

이 일이 중요했던 이유는 속도나 힘만이 아니라 방향에 있었습니다. 사람의 본보기에서 풀려난 시스템은 아무도 가르쳐 주지 않은 변화를 스스로 파고들고, 오랜 숙제에 망설임 없는 답을 내놓으며, 한때 이단처럼 보이던 발상을 당연한 것으로 바꿔 놓을 수 있었습니다. 그로부터 몇 해가 지난 지금, 인간을 뛰어넘은 바둑 AI는 누구의 도구함에나 들어 있습니다. 기사가 공부하는 방식에도, 바둑이라는 게임이 나아가는 길에도 그것은 축복이자 짐입니다.

직접 쓰는 컴퓨터에 최신 바둑 분석 엔진을 올려 보고 싶다면, 단계별로 짚어 주는 안내 글 “AI로 바둑을 분석하는 프로그램 설치하기”를 따라가 보세요.

인간의 바둑을 넘어서: 끝이 아니라 시작

이 이야기는 어두운 결말로 끝나지 않습니다. 9년 전 그 승리가 뜻한 것은 기계에게 바둑을, 혹은 틱택토나 StarCraft를 가르쳤다는 데서 그치지 않습니다. 거기서 하나의 방법이 드러났습니다. 복잡한 과제를 두고 AI를 어떻게 제대로 훈련시켜야 하는지, 알파고가 그 길을 보여 준 것입니다.

2025년인 지금, 그 방법은 19×19 바둑판을 훌쩍 넘어선 곳까지 닿아 있습니다. 사람의 말을 알아듣는 시스템, 이미지와 영상을 만들어 내는 시스템, 음악을 짓는 시스템까지 어느새 일상의 풍경이 되었습니다. 그럼에도 연구의 최전선은 여전히 열려 있습니다. 아직 끝나지 않은 일이고, 그것이 인류에게 무엇을 뜻할지 그 천장도 아직 보이지 않습니다.

바둑 자체를 둘러싼 이야기도 점점 넓어지고 있습니다. 배움의 대상은 더 이상 ‘이 게임을 어떻게 두는가’에만 머물지 않습니다. 바둑판 둘레를 맴도는 기술과 창의성, 그리고 그것이 기사와 팬에게 갖는 의미까지 배움의 일부가 되었습니다. 마지막에 놓이는 것은 마침표가 아니라 말줄임표입니다. 바둑판 하나에서 더 넓은 세상으로, 다음 한 수는 아직 쓰이지 않았습니다.