陈桥兵变时，赵普参与拥立宋太祖.宋太祖刚接位，后周节度使叛乱，赵普跟从宋太祖出征平叛.宋太祖平定割据势力，赵普又帮助策划.宋太祖论功行赏，让他当了宰相，把他看成左右手，大小事情，都跟他商议.
宋太祖很看重有学问的大臣.有这样一个故事：北宋初年，宋太祖打算改换年号，对赵普等人说：“要换一个历来没有一个朝代用过的年号.”
赵普等人商量一番，提议用“乾德”作年号.宋太祖同意了.
公元９６５年（乾德三年），宋太祖平定后蜀，后蜀宫中有些宫女也进了宋朝宫中.宋太祖发现后蜀宫女用的一面铜镜，背面竟铸有“乾德四年铸”等字，不禁大吃一惊.他想，如今是乾德三年，怎会有四年铸造的镜子？
宋太祖把这面镜子拿到朝廷上，询问赵普等人，他们都答不上来.他又询问翰林学士.有个学士回答说：“蜀主曾经用过这年号.”
这一来，宋太祖明白了.他说：“作宰相必须是读书人.”
赵普出身小吏，原来在宋太祖军中当幕僚，没有好好读过书.因此，宋太祖经常劝他认真读一点书.
赵普听了宋太祖的劝告，每天回家，就关了房门，打开书箱，取出书来认真地读.据说第二天上朝，他处理国家大事又快又好.后来，赵普死了，家中的人打开他的书箱一看，里面却只有一部《论语》.这件事很快传开了，有人就夸张地说：“赵普是靠半部《论语》治天下的.”
赵普为人刚强，办事果断.有一次，他上书推荐一个人去担任官职，宋太祖不用.第二天，赵普又推荐这个人，宋太祖仍不用.第三天，赵普继续推荐.宋太祖很光火，把他的奏章扯成几片，掷在地上.赵普面不变色，跪在地上，把扯碎的奏章一片片拾起来，退了下去.
赵普回到家中，用糨糊将扯碎的奏章粘贴起来，过些日子又向宋太祖送了上去.宋太祖经过认真考虑，终于接受赵普的意见，任用了这个人.
还有一次，有个官员按照他的政绩，应当升官.可是，宋太祖一向讨厌这个官员，硬是不让他升官.
赵普不同意这样做，坚决要求让这个人升官.宋太祖动气了，大声说：“我就是不让他升官，你又能怎样？”
赵普冷静地劝告宋太祖说：“刑罚是用来惩治坏蛋的，奖赏是用来酬谢功臣的，这是古今通行的常理.况且刑罚、奖赏是国家的刑罚、奖赏，不是陛下个人的刑罚、奖赏，怎么能够以个人的喜怒来作决定呢？”
宋太祖气得脸色都发白了，立起身来，转身就向宫内走去.赵普不声不响，也跟着他走过去.宋太祖进了宫，赵普立在宫门口，不肯回去.
时间一久，有人进去报告宋太祖.这时，宋太祖火气已过，觉得赵普的话是对的，就同意了他的意见.
赵普当了十年宰相，时间长了，权力大了，向他送礼的人也多了.有一年，吴越国王钱派使者送信给赵普，同时送来十坛“海产”.这十坛“海产”放在厅堂前，还没有来得及搬进去.碰巧宋太祖带了随从，来和赵普商议事情.宋太祖看到了，问赵普：“这是什么东西？”
赵普只得老老实实地回答说：“这是吴越使者送来的海产.”
宋太祖说：“吴越送来的海产，一定是好东西，为什么不打开看看，里面究竟是什么海产？”
宋太祖让人打开一看，里面竟全是黄澄澄的金块.赵普非常恐慌，马上跪了下去，说：“臣没有看过使者送来的信，实在不知道里面是什么东西.”
宋太祖很不高兴地说：“你就收下吧.他们以为国家的事情都是你们书生来作主的.”
从此，宋太祖对赵普不再那么信任了.
当时，朝廷禁止私人贩运秦、陇（今陕西、甘肃）等地的大木材.赵普为了建造住宅，派亲信官吏到那里购买木材，用大木筏运到京城.有些官员也冒用赵普的名义，偷偷地贩运木材.有个叫赵玭（ｐíｎ）的官员，打听到这事，就向宋太祖告发.宋太祖大怒，因其他大臣说情，才没有把赵普严办.不久，又有人告发赵普包庇一些不法官员，宋太祖就把他的宰相一职罢掉了.