又过了几年，赵匡胤发动陈桥兵变，登基称帝，建立了北宋，这就使身为后周国戚的曹彬处境十分尴尬。
可是曹彬还是保持了一颗非常平稳的心态，从不发牢骚、吐酸水、说怪话，也不怨天尤人，或是疑神疑鬼，依旧兢兢业业、踏实工作。并因此赢得了赵匡胤的信任和满朝文武官员的好评。
在北宋开国的头几年，曹彬的地位并不显赫，宋军伐蜀时，曹彬也只是东路军的都监。可是灭蜀之后。宋军几大高级将领都聚在成都腐化堕落，放纵士兵们在外为非作歹。曹彬屡次劝诫，这几大将领却不肯听，终于是闹出了大乱。
等事乱平息之后，赵匡胤开始追查责任。查出征蜀几员大将共贪没财物达六十四万余缗，这还不包括未登记在册的财物，简直就是烂到了骨头里。唯独曹彬拒腐败永不沾，干干净净、一尘不染，不由赵匡胤不对他另眼相看。
其后，曹彬就成为了赵匡胤最为倚重的将领，灭南唐就是以曹彬为主帅，也使江南免遭涂炭。赵匡胤死后，曹彬给赵光义当了八年的枢密使，真宗继位。又将曹彬任命为枢密使。咸平二年（999年），曹彬病重，真宗亲自到他家中探望，并当场赐银万两。当年六月，曹彬病逝，真宗再一次到他家中吊唁，哭得非常伤心，其后每次和大臣们提到曹彬，真宗都忍不住要流泪。
曹彬死后被赠尚书令，追封济阳郡王。谥武惠，并得到了古时臣子所能得到的最高荣誉，与赵普一起配享太祖庙庭。曹彬能够得到配享的殊荣，这一点颇让人意外。
从配享的人选来看。明显是一文一武，其中文臣赵普，自从和赵匡胤结识以来，就一直是赵匡胤最重要的谋士，从陈桥兵变，到雪夜定策、杯酒释兵权。甚至是后来的北伐契丹、金匮之盟，都没有能离开他的身影，所以他能得到配享当属名至实归。
但曹彬最早是后周的国戚，并不是赵匡胤的心腹，陈桥兵变他没有参加，所以论起资历不够老。征南唐确实是曹彬的一大功劳，但除此之外，好像也就没有什么可炫耀的了。
雍熙三年(986年)，赵光义兵分三路大举伐辽，正是因为曹彬所率主力在岐沟关（今河北涞水东）被辽将耶律休哥击败，才使这场被赵光义寄予厚望的北伐彻底失败。看得出来，曹彬的战功不能称之为显赫，而军事能力也不见得有多么突出，那么又是什么原因才使曹彬得到配享这种至高无上的荣耀呢？这里面自然有其必然的道理。
后周年间，身为禁军重要人物的赵匡胤为培养自己的势力而广泛交际，曹彬也成为了他结交的对象。不过曹彬为人非常低调，除了公事以外不跟任何人往来，对赵匡胤的拉拢视而不见。
赵匡胤为了跟他拉关系，故意向他讨要御酒，曹彬也很为难，如果把酒给了赵匡胤，不免要犯错误，如果不给他，肯定要得罪人。曹彬既不想犯错误，又不想得罪像赵匡胤这样的红人，思来想去后，就先拒绝了赵匡胤的要求，然后自掏腰包，上街买来好酒给他送去。
这个事情不大，但是却给赵匡胤留下了深刻印象，所以在他称帝之后曾对群臣说过这样的话：“世宗旧吏，不欺其主者，独曹彬耳。”可见评价之高。
曹彬还很懂得明哲保身的道理。征南唐前，赵匡胤对曹彬说道：“等打下南唐就将你任命为宰相。”可是到南唐平定后，赵匡胤又反悔了，借口道：“太原还未平定，等打下太原再让你做宰相。”然后就赏给曹彬二十万钱作为补偿。
这种事情如果放在别人身上，一定会对赵匡胤相当不满。可是曹彬下朝之后，逢人便说：“做宰相有什么好？还不就是为了钱吗？主上赐给我钱才是对我最大的奖励。”其实曹彬一生不爱钱，他这么说不过是为了解赵匡胤的心疑。
曹彬还很懂内敛之道。曹彬在伐蜀之后，就开始平步青云，逐渐成为北宋诸将之首，又当了很多年的枢密使，可谓位高权重，但是曹彬任职期间，从不违背皇帝的意愿，也不在背后议论人之短长，对人谦虚有礼，从不对手下人发脾气，也不直呼他们的姓名，还很能为他们着想。
有一次，曹彬的一个手下犯了错误，论律应该杖责，但是曹彬一直拖到一年以后才传令行刑。
别人问他为什么，他解释道：“这个人刚结婚，如果打了他，他家里人就会认为是新媳妇给他带来的霉运，免不了要对其斥责，又要叫那个新媳妇怎么在这家里生活下去呢？所以只好延期行刑。”曹彬一国首将，能把问题想得这么细致，手下人能不对他感恩戴德吗？
曹彬为人谦虚有礼，他从不穿便服会客，如果有事出门，他也一定要嘱咐家人，不得大张旗鼓。如果在路上遇到文臣士大夫的仪仗，不论对方官职大小，他都要抢先回避。
曹彬还很有容人之量，雍熙北伐失利后，御史中丞赵昌言上书要对这些败军之将施以军法，曹彬也因为被贬为右骁卫上将军。
但是仅过了一年，曹彬就被重新起用为侍中、武宁军节度使，而赵昌言却因受人弹劾，从枢密副使被贬为崇信军行军司马，直接赶出京城，连觐见的机会都没有。还是曹彬不计前嫌，为赵昌言上书求情，才使赵昌言得以进京面圣。
看得出来，曹彬身上有着太多的优点，这也使他一生深得皇帝信任、百官景仰和士兵们的爱戴。