房玄龄做了近二十年的太平宰相，是一位至忠至勤的能相，其善始善终，尤为难得。
房玄龄生于北周武帝建德八年（公元579年），齐州临淄（今山东淄博）人，曾祖和祖父都曾在北魏和北齐为官，父亲房彦谦，是当时的著名学者，与朝野之间的才俊多有交往。他虽长期在隋朝做官，但以他的政治敏感觉察到隋必定长久不了，就想辞官不做。在任上他曾积极地为民众谋福利，深受当地群众的爱戴。
房玄龄出身于这样的家庭，自小耳濡目染，受到这种气氛的长期熏陶，逐渐确定了治国安民、造福民众的志向，也培养了他敏锐的政治洞察力。还是在隋文帝时期，大多数人都称颂隋朝的功德，房玄龄却看出了其中潜藏的危机。他说：“隋朝本是篡夺了人家的权位，对百姓并没有建立什么功德，并未扎根人心深处，只不过一味欺骗百姓而已。现在兄弟之间又互相争夺皇位，贵族们竞相享乐，又在内部互相钩心斗角，甚至骨肉相残。这样的王朝，其灭亡是跷足可待的。”后来的事实证明，房玄龄的看法是极有预见性的。
房玄龄的个人品德也极为人们所称赞。他是一位孝子，就是对继母也是至孝。继母病了，他请医抓药，每当医生过门，他都哭泣着垂手侍立；继母死了，他居然因伤心而不能尽食，以至骨瘦如柴。对父亲就更不用说了，他的父亲卧病一百多天，俗语说，“床前百日无孝子”，房玄龄却能始终如一。在服侍父亲的时候，从未脱衣睡过觉，都是合衣而卧，其尽心尽意，是可以想见的。房玄龄的这种个人品德，对他日后有大的成就起到了重要的作用。当时，隋朝专管选拔调整官吏人事工作的吏部侍郎高孝基就评论说：“我见过的年轻人多了，从未见过像他这样的人，房玄龄将来一定会成为了不起的人。”