登基之初，他就着手改组政府，清除以总理阿里亚斯·纳瓦罗为首的一些佛朗哥派的旧势力，以具有民主思想的托尔夸托·费尔南德斯·米兰达就任议会议长兼王国委员会主席，以接受民主思想的“长枪党”人阿道弗·苏亚雷斯出任政府首相，并竭力消除近40年独裁统治给西班牙社会所造成的民族分离、政治压抑、经济落后的局面。至1977年，他使包括西班牙共产党在内的一切党派都取得合法地位，使一些流亡国外多年的各派政治人物纷纷回返西班牙。
1976—1977年，先后三次宣布政治大赦，释放大批在押政治犯，包括犯有恐怖活动罪的几十名“巴斯克民族和自由组织”的极端分子，即“埃塔”分子。1977年6月15日举行首次民主选举，产生由参、众两院组成的议会及政府。1978年通过了新宪法，明确规定实行议会制君主政体，国王是国家元首，是国家团结和存在的象征，是各个部门行使正常职能的仲裁者和调节者。他在国际关系中西班牙国家的最高代表。国王不负具体责任，但他的行动要得到对议会负责的政府的附和。按规定，国王又是武装力量的最高统帅。到1979年，西班牙在走向民主化的进程中已取得令人瞩目的成就，初步出现政治协商、民族和解的新局面。