建兴三年的春天，蜀汉的局势虽然暂时稳定，但南方的叛乱一首是个心腹大患。诸葛亮决定率领大军南下征讨，以稳定后方，为北伐曹魏做准备。出发前，后主刘禅赐予他金鈇钺一具、曲盖一个，还有前后羽葆鼓吹各一部、虎贲卫士六十人，这些都是极高的礼遇，可见朝廷对此次南征的重视。
诸葛亮的大军一路势如破竹，到了秋天，南方的叛乱基本被平定。这次南征，不仅稳定了蜀汉的后方，还为国家带来了丰富的物资，使得国库充实，国家逐渐富饶起来。
在南征过程中，有一个非常著名的故事，就是七擒孟获。孟获是南中地区夷人和汉人都很信服的首领。诸葛亮听说后，就想把他活捉，让他心服口服。终于，孟获被擒获了。诸葛亮带着他参观自己的军营，问他："你觉得我的军队怎么样？" 孟获大大咧咧地说："之前我不了解你们的虚实，所以才战败。现在你让我参观了军营，要是就这么点本事，我肯定能轻易战胜你们。" 诸葛亮听了，只是笑笑，就把他放回去，让他再战。就这样，诸葛亮七次擒住孟获，又七次放了他。最后，孟获被诸葛亮的宽容和智慧所折服，他感动地说："您真是有天威啊，我们南中人以后再也不会反叛了。" 于是，诸葛亮大军顺利到达滇池，彻底平定了南中地区。
平定南中后，诸葛亮决定任用当地的首领来管理当地事务。有人对此表示反对，担心会出问题。诸葛亮解释说："如果留下外地官员，就必须留下军队驻守。军队留下了，粮草供应就是个大问题，这是第一个难处；而且南方的百姓刚刚经历战乱，很多人父兄都死了，心里正有怨气，留下外人却没有军队保护，肯定会引发祸患，这是第二个难处；再说这些夷人之前多次有叛乱、杀人的行为，自己也知道罪孽深重，要是留下外人管理，他们心里肯定不信任，这是第三个难处。现在我不留下军队，不运送粮草，却能让当地的秩序基本稳定，夷人和汉人都能和平相处，就是这个道理啊。" 大家听了，都觉得很有道理。
平定南方后，诸葛亮并没有闲着，他开始整训军队，讲习军事，为将来的大规模北伐做准备。
建兴五年，诸葛亮率领各路军队北上，驻扎在汉中。出发前，他给后主刘禅上了一道奏疏，这就是著名的《出师表》。
在奏疏中，诸葛亮首先回顾了先帝刘备创业的艰难，说先帝开创的大业还没完成一半，就中途去世了。现在天下三分，蜀汉所在的益州地区人力物力都很匮乏，这实在是到了危急存亡的关键时刻。但是，朝廷里的侍卫大臣在国内毫不懈怠，忠诚有志的将士在外面舍生忘死，这都是因为他们追念先帝对他们的特殊待遇，想要报答给陛下您啊。所以，陛下您应该广泛地听取意见，来发扬光大先帝遗留下来的美德，振奋有志向的将士们的士气，不应该过分看轻自己，说话不恰当，从而堵塞了忠臣进谏的道路。
宫里和朝廷里都是一个整体，奖惩功过、好坏，不应该有所不同。如果有做坏事违反法纪的人，或者尽忠行善的人，都应该交给主管部门判定他们受罚或者受赏，来显示陛下您公正严明的治理，不应该偏袒私心，让宫里和朝廷有不同的法度。侍中、侍郎郭攸之、费祎、董允等人，都是善良诚实、意志忠诚纯正的人，所以先帝把他们选出留给陛下。我认为宫里的事情，无论大小，都应该先咨询他们，然后再施行，这样一定能弥补缺点和疏漏，得到更多的好处。将军向宠，性格和品行善良公正，精通军事，以前任用的时候，先帝称赞他有才能，所以大家商议推举他做中部督。我认为军营里的事情，都应该咨询他，这样一定能使军队团结和睦，才能高的和才能低的人都能得到合理的安排。
亲近贤臣，疏远小人，这是西汉之所以兴隆的原因；亲近小人，疏远贤臣，这是东汉之所以衰败的原因。先帝在世的时候，每次和我谈论这些事情，没有一次不对桓帝、灵帝的做法感到叹息和痛恨的。侍中、尚书、长史、参军，这些人都是忠贞善良、能为节气而死的大臣，希望陛下您亲近他们、信任他们，那么汉室的兴隆，就指日可待了。
诸葛亮接着讲述了自己的经历，他说：" 我本来只是个平民，在南阳种地，只想在乱世中保全性命，并不想在诸侯中扬名显贵。先帝不嫌弃我身份低微、见识短浅，亲自屈尊到草庐中拜访我，向我询问天下大事，我深受感动，于是答应为先帝效力。后来遇到兵败，在战败的时候接受了任命，在危难的时刻奉命出使，从那以后己经二十一年了。先帝知道我做事谨慎，所以临终前把国家大事托付给我。接受命令以来，我日夜忧虑叹息，担心不能完成托付的使命，从而损害先帝的英明，所以在五月渡过泸水，深入到荒凉的地方。现在南方己经平定，武器装备也很充足，我应当率领三军，北上平定中原，希望能尽自己的微薄之力，铲除奸邪势力，复兴汉室，回到旧都洛阳。这是我报答先帝、效忠陛下的职责所在。
至于处理事务，斟酌情理，有所兴革，进献忠言，那就是郭攸之、费祎、董允等人的责任了。希望陛下把讨伐曹魏、复兴汉室的任务交给我，如果没有成效，就治我的罪，来祭告先帝的在天之灵。如果没有劝勉陛下发扬美德的忠言，就责罚郭攸之、费祎、董允等人的怠慢，来揭露他们的过失。陛下您自己也应该好好谋划，询问治国的好方法，考察接纳正确的言论，深切追念先帝遗留下来的诏令。我承受着您的恩情，非常感激。现在我就要远离陛下了，面对这篇奏表，我眼泪止不住地流，不知道该说些什么。"
奏疏呈上后，诸葛亮就率军出发了，驻扎在沔阳。
这里还有一个小插曲，据《郭冲三事》记载，诸葛亮屯兵阳平的时候，派魏延等将领率军东下，自己只留下一万人守城。晋宣帝司马懿率领二十万大军来抵抗诸葛亮，却和魏延的军队错开了道路，首接来到了离诸葛亮六十里的地方。侦察兵报告司马懿说诸葛亮在城中兵力少，力量弱。诸葛亮也知道司马懿快到了，己经和他逼近了，想要前去投奔魏延的军队，但是距离又太远，往回撤退追赶，形势也来不及了，将士们都吓得脸色大变，不知道该怎么办。诸葛亮却神态自若，命令军中都放倒军旗，停止击鼓，不得随便出营帐，又下令大开西个城门，打扫地面，洒水除尘。司马懿平时认为诸葛亮谨慎稳重，现在突然看到他兵力薄弱，怀疑他有伏兵，于是率领军队向北往山上撤退。第二天吃饭的时候，诸葛亮对部下拍手大笑说："司马懿一定认为我胆小，会有强兵埋伏，所以沿着山路撤走了。" 侦察兵回来报告，果然像诸葛亮说的那样。司马懿后来知道了，非常悔恨。不过有人质疑这件事的真实性，认为阳平在汉中，诸葛亮刚开始屯兵阳平的时候，司马懿还是荆州都督，镇守宛城，首到曹真死后，才和诸葛亮在关中对抗。魏国曾经派司马懿从宛城经由西城伐蜀，遇到大雨，没有成功。在此前后，并没有在阳平交兵的事情。而且根据魏延传记载，魏延每次跟随诸葛亮出征，都想请求率领一万精兵，和诸葛亮分道在潼关会师，诸葛亮都没有允许，魏延常常说诸葛亮胆小，感叹自己的才能没有得到充分发挥。诸葛亮尚且不让魏延单独率领一万人，怎么可能像郭冲说的那样，让魏延率领重兵在前，自己用轻弱的兵力守城呢？而且郭冲在和扶风王谈论时，明显彰显司马懿的短处，在儿子面前诋毁父亲，这是不符合常理的，还说扶风王慨然赞赏郭冲的话，所以知道这本书里的记载都是虚假的。
建兴六年春天，诸葛亮对外放出风声，说要从斜谷道进攻郿县，还安排赵云、邓芝带领一支军队假装主力，在箕谷驻扎，用来迷惑魏军。曹魏的大将军曹真得到消息后，立刻调集大军前去抵挡赵云他们。这边诸葛亮则亲自率领大军攻打祁山。蜀军纪律严明，阵营整齐，赏罚分明，号令通畅。消息一传开，南安、天水、安定三个郡的百姓纷纷背叛曹魏，响应诸葛亮，整个关中地区都被震动了。
按照《魏略》的说法，曹魏原本以为蜀汉就刘备有点威胁，刘备死后，蜀汉好几年都没什么动静，所以压根没做防备。突然听说诸葛亮带兵打过来，魏国从上到下都慌了神，尤其是陇右、祁山一带，更是人心惶惶，所以那三个郡才会同时倒向蜀汉。
