顺治十八年（1661年）正月，玄烨年仅八岁，二十四岁的顺治帝福临突然病逝。顺治帝生前没有册立太子，顺治十八年（1661年）他临终时接受汤若望的建议，因玄烨出过天花具有免疫力而选其为继承人，以遗诏的形式册立玄烨为皇太子。当年正月初九日（2月8日），玄烨即位于太和殿，时年仅6岁（虚岁8岁），颁诏大赦，并改为康熙元年。顺治遗诏同时指派索尼、苏克萨哈、遏必隆、鳌拜四大臣辅政。玄烨八岁丧父，母亲孝康章皇后佟佳氏又在他十岁的时候病重。生母重病时，玄烨“朝夕虔侍，亲尝汤药，目不交睫，衣不解带”；十岁丧母，玄烨昼夜守灵，水米不进，哀哭不停。康熙后来回忆说，幼年在“父母膝下，未得一日承欢”。

四辅臣联合辅政的局面并未维持很久，他们之间的矛盾和斗争日益公开而激烈起来。在四人中，逐渐专擅实权的是鳌拜。他平时已表现出居功自傲，盛气凌人，但受“顾命”之初，尚能谨慎从事，履行誓词。然而，不出三年，他就暴露出骄横和专权的野心。他位在最末，不甘人后，处处越位抓权。首先便跟苏克萨哈不相容。康熙六年（1667年）六月，首辅索尼病故。七月初七，十四岁的康熙帝正式亲政，在太和殿受贺，大赦天下。但仅十天后，鳌拜即擅杀同为辅政大臣的苏克萨哈，数天后与遏必隆一起进位一等公，实际政局并不受康熙帝直接掌控。

当时，康熙帝经常召集少年侍卫在宫中作“布库”之戏，康熙八年五月十六日（1669年6月14日），他突然命令这些侍卫在鳌拜进见时将其逮捕。大臣商议鳌拜大罪三十条，请求诛其族，康熙帝念鳌拜功劳，赦死罪而拘禁，但诛杀了鳌拜的很多弟侄亲随及党羽，不久鳌拜死于禁所。仅存的另一辅政大臣遏必隆因为长期勾结鳌拜，被削去太师、一等公的爵位。康熙帝由此完全夺回朝廷大权，开始真正亲政的阶段。康熙帝铲除鳌拜之后，甄别官吏，为被鳌拜矫旨处死的苏克萨哈等昭雪，奖励百官上书言事，禁止圈地等弊政，实操朝政大权。