调露元年（公元679年），吐蕃赞普去世，即位的赞普年仅八岁，唐高宗有意让裴行俭进攻吐蕃，裴行俭目光如矩，向唐高宗诚恳进言，“吐蕃现在是论钦陵执掌军国大事，君臣和睦，
并不是唐军进攻的最佳时机”，唐高宗权衡利弊，听从了裴行俭的意见。
此时西北又有十姓可汗阿史那都支和别帅李遮匐勾结吐蕃，侵逼安西（今俄罗斯托克马克），
危及唐朝在西域的霸权，边境局势让唐高宗头痛不已，裴行俭献计献策，“波斯王新丧，送波斯王子泥涅师回国就位，必然路过阿史那都支和李遮匐的部落，到时见机行事，
必可立功”，唐高宗连连点头，同意了裴行俭的智取之策，他任命裴行俭为安抚大食（今阿拉伯）使，即刻上路。裴行俭奏请王方翼为副使，担任检校安西都护。
西州是裴行俭曾经任职之地，当地人听闻裴行俭到来，百姓官吏都出城相迎，裴行俭乘机召集了上千豪杰子弟跟着自己向西而行。
又派人扬言说，“现在天气炎热，不适合远行，秋凉之后，再行上路”，阿史那都支听到探子的汇报，就不再防备。
裴行俭召集龟兹、毗沙、焉耆、疏勒（都在今新疆境内）四镇的胡人酋长，“从前在西州的时候，
与大家一起打猎游玩，乐此不疲，进京后念念不忘，今天想要重温这种乐趣，谁愿意随我一起打猎”，胡人子弟争相随行，竟至万人。
裴行俭假装游猎，整编队伍，倍道而行，几天后，就到达离阿史那都支部落十余里的地方，好戏就要上演了
裴行俭先派人去问候阿史那都支，表示纯属路过，接着又派人去召见阿史那都支，让对方心里惊疑不定。阿史那都支曾与李遮匐约好，到了秋天一起起兵抗拒大唐使者，突然之间，裴行俭就到了眼前，
阿史那都支一时间想不出好的对策，只有率领子弟五百人上前迎接，结果自然是尽数被擒。
接着，裴行俭用阿史那都支的令箭召集他属下的诸部酋长，统统押送到碎叶城。
随即派遣精锐骑兵，日夜兼程，去抓李遮匐。在路途之上，俘获了阿史那都支的使者，他正赶回来复命，同行的还有李遮匐的使者，都落入了唐军手中。
裴行俭释放了李遮匐的使者，让他前去通知李遮匐，阿史那都支已被唐军擒获，大军正向李遮匐的部落开拔。李遮匐无计可施，只得向裴行俭投降。
于是，此行的波斯王子被裴行俭卖了猪仔，打发他自行回国，裴行俭押送阿史那都支和李遮匐等人返回长安复命，副使王方翼留了下来，修筑碎叶城，勒石纪功。
唐高宗欣喜若狂，他没想到事情会如此轻而易举地解决，这正是裴行俭的厚积薄发，皇帝亲自宴请劳苦功高的臣子，再三表达了自己的赞扬，
“你孤军深入万里之遥，兵不血刃而敌人束手就擒，可谓文武兼资，故此同时授予文武二职，担任礼部尚书兼检校右卫大将军”。
同年十月，东*突厥酋长阿史德温傅起兵造反，管内二十四州皆响应，叛军有数十万之众，大唐北疆频频告急。朝廷派遣单于都护府长史萧嗣业率军讨乏，先胜后败，情势危急。
裴行俭立马被任命为定襄道行军大总管，领军十八万，与西军程务挺、东军李文暕合兵三十余万，进剿阿史德温傅。唐军连亘数千里，都受裴行俭的节制，史官赞曰，“唐世出师之盛，未之有也”。
裴行俭率军到达朔州（今山西朔县），得知萧嗣业因为运粮车被劫以至大败，决定将计就计。
伪装运粮车300辆，每辆车中潜伏壮士五人，手持陌刀（长柄两刃刀）、劲弩，由老弱士兵押送粮车，精锐士兵尾随其后。
突厥人果然中计，冲过来攻打运粮车队，老弱士兵弃车而逃。突厥人赶着粮车前往有水草的地方，解鞍牧马，准备取粮。
唐军壮士当即跃出，伏兵也同时杀到，痛快淋漓地解决了敌人，抢粮的突厥人几乎无一幸免，从此，突厥人再也不敢靠近唐军的运粮车队。
大军进至单于府以北，已然接近傍晚，唐军安营扎寨，挖好了周围的壕沟。
裴行俭下令将士们向高岗上移营，将军们都说，士兵已经安顿好，大家都很疲倦，不想再搬迁了。
裴行俭语气坚决，催促大家按军令行事。大家虽然心有怨气，却不敢违背裴行俭的军令，起身搬迁了营地。当天晚上，风雨大作，唐军原先的营地很快被大水淹没，
水深竟达丈余，唐军将士个个庆幸，由衷佩服裴行俭的先见之明，从此都对裴行俭的言听计从。
永隆元年（公元680年），裴行俭率军与突厥战于黑山（今内蒙古包头西北），节节胜利，“前后杀虏不可胜数”，
俘获敌酋阿史那奉职，阿史那泥熟匐被部下杀死，持其首级向唐军投降。
突厥余部向狼山（今内蒙古乌拉特中后联合旗境内）撤退，唐军大胜而归，高奏凯歌。
裴行俭的主力回军后，阿史那伏念自立为可汗，与阿史德温傅纠集残部，再犯唐境。
唐高宗再度任命裴行俭为定襄道行军大总管，要他“宜将剩勇追穷寇”。
裴行俭率唐军北上，屯兵于代州陉口（今山西代县西北），并不急于进攻，他使出反间计使得阿史那伏念和阿史德温傅相互猜疑，内部不和，阿史那伏念留下妻子、辎重于金牙山，率领主力袭击唐军，