조광윤은 떠돌이시절 어느 절에서 만난 노승이 “북쪽으로 가라.”는 말을 듣고 북쪽에서 싸우고 있던 아버지를 찾아가 군에 입대하기로 했다. 최소한 아버지만큼은 절대로 문전박대하지 않을 것이고, 그렇게 되면 무장이 될 수 있는 지름길이라고 생각했기 때문이다. 그리하여 22세에 집을 떠난 조광윤이 서쪽의 관서(關西)와 호북(湖北) 지방을 2년 동안 떠돌면서 숱한 문전박대와 고생을 경험한 끝에 24세가 되던 950년(후한 은제 말년)에 그의 아버지가 머물고 있는 후한의 추밀사이며 대장군인 곽위 부대의 군사모집에 응모하여 말단 병사로나마 자리를 잡게 되었다. 이로써 소년시절 병법과 유가경전을 탐독하고 무예를 연마해 문무를 겸비하고 유랑생활을 통해 세상의 쓴맛 단맛을 다 본 그는 ‘준비된 무장’으로서 ‘창대한 성공을 위한 미미한 첫걸음’을 내딛게 된다. 이리하여 조광윤은 후한(後漢) 말에 입대해 후주(後周)의 금군(禁軍)에서 무장으로서 맹위를 떨치게 되었다. 이로써 부자가 같은 부대에서 함께 전투에 참여하는 극적인 상황이 이루어졌다.

조광윤이 드디어 군에 들어가게 되니 마치 “용이 물을 만난 격”이었다. 말단 병사로 입대했기 때문에 그의 뛰어난 기량에 비해 비록 출발점이 초라했지만, 그런 데에는 아랑곳하지 않고 수많은 전쟁터를 종횡하면서 묵묵히 전공을 쌓아갔다. ‘낭중지추(囊中之錐)’란 말이 있듯이 주머니 속에 든 송곳은 언젠가는 주머니 밖으로 삐져나와 세상 사람들이 알게 하는 법이다. 성실 과묵하고 겸손했지만 용맹스러운 무장 조광윤이 바로 그러했다.

후한을 세운 유지원이 황제가 된지 10개월 만에 병사하고, 948년 1월 그의 아들 유승우가 은제(隱帝)로 즉위했다. 유승우 즉위 초에 3명의 절도사들이 연합해 반란을 일으켜서 2년 동안 지루한 전쟁을 벌여야 했는데, 그때 추밀사 겸 천웅(天雄)절도사 곽위(郭威)가 대장군이 되어 반란을 평정했다. 이때 조광윤의 아버지 조홍은은 곽위 휘하에서 반란군 토벌에 큰 공을 세우고 호성도지휘사가 되었다. 드디어 조광윤에게 도약할 기회가 다가왔다. 950년 말 곽위가 절도사들의 반란을 모두 평정하자, 그의 힘이 커지는 것을 두려워한 은제(隱帝)가 도성에 있는 곽위와 시영(柴榮)의 가족들을 모두 죽여 버리고 곽위까지 제거하려고 했다. 그 소식을 들은 곽위와 시영이 변경성을 공격하자 유승우는 일개 병사의 손에 무참하게 죽고, 변경에 입성한 곽위가 어린 유빈(劉贇)을 황위에 앉히고 이태후(李太后)가 섭정토록 하려는 찰나에 거란의 침입소식을 들은 이태후가 그에게 즉각 출동명령을 내렸다. 그런데 곽위의 부대가 변경을 떠나 북상하던 중 전주(澶州)에 이르렀을 때 장병 수천 명이 소동을 일으키고 황기(黃旗)를 찢어 곽위의 몸에 두르고 그를 황제로 옹립했다. 이때 조광윤도 입대한 직후 전주병변에 참여했다. 전주에서 회군하여 변경으로 돌아온 후 951년 1월 유빈으로부터 황위를 선양받는 형식으로 황제가 되고 국호를 ‘후주(後周)’로 정했다. 이로써 후한은 950년 건국한지 겨우 3년 만에 망하여 오대(五代)의 다섯 왕조 중 가장 짧은 왕조로 기록되었다.

조광윤은 곽위가 후한의 은제를 몰아내기 위해 변경성을 공격할 때 용맹을 떨침으로써, 곽위의 눈에 띄게 되었다. 곽위는 후주를 세우고 태조로 등극한 후 용맹한 무장 조광윤을 금군의 동서반행수(東西班行首)로 임명하고, 곧 활주부지휘사(滑州副指揮使)로 승진시켰다. 그 후 시영(柴榮)이 변경윤(汴京尹)이 되자 조광윤은 변경부(汴京府)의 마직군사(馬直軍使)로 전근되어 수년 동안 근무하면서 후일 세종이 되는 시영과 돈독한 인간관계를 형성하게 된다. 곽위가 황위에 오른 지 4년 만에 병사했는데, 은제가 그의 가족들을 몰살시켜 후사를 이을 아들이 없었다. 그래서 그의 처남 시수례(柴守禮)의 아들인 시영(柴榮)을 양자로 삼았기 때문에 그가 세종으로 즉위했다. 고모인 시황후(柴皇后) 덕분에 황위에 오른 시영은 오대시기의 가장 훌륭한 명군으로 이름을 남겼다. 조광윤이 시영을 만난 것은 그의 인생에 있어서 최대의 행운이었다. 결과적 얘기이긴 하지만, 그가 유랑시절에 찾아갔던 왕언초나 동종본에게 의탁했더라면 아마도 중국역사에서 ‘송나라’와 ‘송태조 조광윤’은 존재하지 않았을 지도 모른다. 시영이 세종으로 즉위하면서 조광윤의 승진은 비약적으로 이루어진다. 세종이 변경윤(汴京尹)으로 있을 때부터 조광윤의 재능과 인품을 익히 알고 있는 터라 그에게 승승장구하는 기회를 주고 전전도점검이라는 금군의 최고사령관까지 시켰던 것이다. 큰 뜻을 품고 높은 곳을 추구하는 조광윤은 눈앞에 놓인 하나하나의 작은 일에 최선을 다하는 성실한 무장이었다. 그는 권세에 빌붙어 아첨하고 기회를 노리는 그런 인물이 아니었다. 오로지 몸과 마음을 다해 무장으로서의 책무를 다하고 전쟁터에 나가서 잘 싸울 것만을 다짐했다. 자신의 미래가 어떠할지에 대해서는 예측하기 어려웠으나 내일을 기대하지 않고 오로지 오늘이 내일의 기초라는 것만을 믿으며 인생의 길을 좀 더 실속 있게 개척해 나가려고 열과 성을 쏟아 부었다.