爱华网青龙三年(235年)，司马懿升任太尉。
东汉末年军阀混战时，公孙度据有辽东。这个割据势力对曹魏政权虚与委蛇，时叛时降，保持着半独立的地位。公孙渊继为辽东太守后，对魏更加不逊。景初元年(237年)，原魏辽东太守公孙渊背叛魏国，自立为燕王，置列百官，定都襄平(今辽宁辽阳)。
景初二年(238年)正月，魏明帝召司马懿回京，命他率兵讨伐。明帝说：“此不足以劳君，事欲必克，故以相烦耳。君度其行何计?”司马懿说：“弃城预走，上计也。据辽水以距大军，次计也。坐守襄平，此成擒耳。”明帝又问：“其计将安出?”司马懿回答：“惟明者能深度彼己，豫有所弃，此非其所及也。今悬军远征，将谓不能持久，必先距辽水而后守，此中下计也。”明帝问：“往还几时?”司马懿说：“往百日，还百日，攻百日，以六十日为休息，一年足矣。”(《晋书·宣帝纪》)
当时朝廷大修宫室，加上军用物资，以至百姓饥弊。司马懿出征前，劝阻明帝说：“昔周公营洛邑，萧何造未央，今宫室未备，臣之责也。然自河以北，百姓困穷，外内有役，势不并兴，宜假绝内务，以救时急。”(《晋书·宣帝纪》)
正月，司马懿率牛金、胡遵等步骑四万，从京师出发，经孤竹，越碣石，六月，进至辽水。公孙渊果然急令大将军卑衍、杨祚等人率步骑数万，依辽水围堑20余里，坚壁高垒，阻击魏军。
司马懿采用声东击西之计，先在南线多张旗帜，佯攻围堑，吸引敌军主力，而以主力隐蔽渡过辽水，逼进敌营。接着，不攻敌营，却挥师直取公孙渊根据地襄平(辽东郡治所，今辽宁辽阳)。部将不解其意，说：“不攻贼而作围，非所以示众也。”司马懿解释说：“贼坚营高垒，欲以老吾兵也。攻之，正入其计，此王邑所以耻过昆阳也。古人曰，敌虽高垒，不得不与我战者，攻其所必救也。贼大众在此，则巢窟虚矣。我直指襄平，则人怀内惧，惧而求战，破之必矣。”(《晋书·宣帝纪》)遂迫使敌军放弃围堑回军救援襄平。司马懿督军回首山(今辽宁辽阳西南)，迎战敌援军，并对诸将说：“所以不攻其营，正欲致此，不可失也。”(《晋书·宣帝纪》)魏军迎击，三战皆捷，遂乘胜进围襄平。
当初公孙渊闻魏军来攻，求救于孙权，孙权也出兵为其声援，并给公孙渊写信：“司马懿善用兵所向无前，深为弟忧也。”(《三国志·公孙康传》裴松之注《汉晋春秋》)
适逢连降大雨，辽水暴涨，平地数尺，魏军恐惧，诸将思欲迁营。司马懿下令有敢言迁营者斩，都督令史张静违令被斩，军心始安。公孙渊军乘雨出城，打柴牧马，安然自若。魏将领请求出击，司马懿不予采纳。司马陈圭曰问司马懿：“昔攻上庸，八部并进，昼夜不息，故能一旬之半，拔坚城，斩孟达。今者远来而更安缓，愚窃惑焉。”司马懿说：“帝曰：“孟达众少而食支一年，吾将士四倍于达而粮不淹月，以一月图一年，安可不速?以四击一，正令半解，犹当为之。是以不计死伤，与粮竞也。今贼众我寡，贼饥我饱，水雨乃尔，(www.aIhUaU.Com)功力不设，虽当促之，亦何所为。自发京师，不忧贼攻，但恐贼走。今贼粮垂尽，而围落未合，掠其牛马，抄其樵采，此故驱之走也。夫兵者诡道，善因事变。贼凭众恃雨，故虽饥困，未肯束手，当示无能以安之。取小利以惊之，非计也。”(《晋书·宣帝纪》)
接着，司马懿还将计就计，故意示弱。朝廷听说雨大敌强，不少人请求召还司马懿。明帝却说：“司马懿临危制变，擒渊可计日待也。”(《三国志·明帝纪》)
月余，雨停，水渐退去。魏军完成对襄平的包围，起土山、挖地道、造楼车、钩梯等攻城器具，昼夜强攻。城内粮尽，死者甚多，其将杨祚等降。时偶有流星自城西南向东北划过，坠落在梁水附近，城中愈发震恐。公孙渊也很惊惧，八月，派他相国王建、御史大夫柳甫请求解围，然后面缚(两手反绑于背而面朝前)归降。司马懿斩杀使者，发布檄文严责：“昔楚郑列国，而郑伯犹肉袒牵羊而迎之。孤为王人，位则上公，而建等欲孤解围退舍，岂楚郑之谓邪!二人老耄，必传言失旨，已相为斩之。若意有未已，可更遣年少有明决者来。”(《晋书·宣帝纪》)公孙渊又派侍中卫演来请求定日期送人质。司马懿对卫演说：“军事大耍有五，能战当战，不能战当守，不能守当走，余二事惟有降与死耳。汝不肯面缚，此为决就死也，不须送任。”(《晋书·宣帝纪》)公孙渊欲从城南突围，司马懿纵兵击破其军，公孙渊战死在梁水(今太子河)边上星落之地。入城后，司马懿屠戮十五岁以上男子七千多人，收集尸体，筑造京观。京观是古代战争中胜者为了炫耀武功，收集敌人尸体，封土而成的高冢。把公孙渊所任公卿以下一律斩首，杀死将军毕盛等二千多人。收户四万，口三十余万。
当时司马懿军中有的士兵衣单寒冷，向他乞要襦衣，司马懿不给。有人说：“幸多故襦，可以赐之。”司马懿说：“襦者官物，人臣无私施也”(《晋书·宣帝纪》)。于是上奏朝廷，把一千多名六十岁以上的士兵解除兵役，遣送回乡。然后，在原定一年的期限内，胜利班师。
明帝派使者到蓟去犒劳部队，增司马懿食昆阳县，前后共二县。
本来朝廷让他便道往镇关中。但当到达白屋时，有诏书召他火速回京，三日之间，诏书五至。明帝手书说：“间侧息望到，到便直排阁入，视吾面”(《晋书·宣帝纪(www.aIhUaU.Com)》)。
