褚遂良博通经史，善书法，尤工隶书。在太宗朝，历任起居郎、谏议大夫、大理卿、中书令(宰相)等官职。他有见识，善于谏争，太宗颇信赖他，为贞观名臣。贞观二十三年(公元649年)，太宗病重，召褚遂良与长孙无忌入寝殿，向他们托付后事说：“卿等忠烈，简在朕心。昔汉武寄霍光，刘备托葛亮，朕之后事，一以委卿。太子仁孝，卿之所悉，必须尽肯辅佐，永保宗社。”又对太子说：“无忌、遂良在，国家之事，汝无忧矣。”高宗即位后，封褚遂良为河南县公。永徽元年(公元650年)十月，监察御史韦思谦弹劾褚遂良强买他人田地。大理少卿张册认为，褚遂良是按朝廷规定的估价买地的，不应治罪。韦思谦说：“朝廷设立的估价，是用于公家买卖的，臣下私人交易，不应用此估价;张册实属舞文罔上，罪当诛。”按唐律，凡居官挟势侵夺他人田地者，一亩以下杖六十，每三亩加一等治罪;超过杖一百之数后，每五亩加一等，罪止徒二年半。褚遂良被奏弹强买人田地，即是触犯本条。于是高宗当日即贬褚遂良为同州刺史，张册为循州刺史。永徽三年(公元652年)，褚遂良被征还朝，拜为吏部尚书，次年升为尚书右仆射，重为宰相。永徽六年，高宗欲废王皇后，而立武则天，召太尉长孙无忌、司空李勣、尚书左仆射于志宁及褚遂良议其事。及入宫，高宗欲言其事又难于启齿，最后终于说道：“莫大之罪，绝嗣为甚。皇后无子息，昭仪(武则天)有子，今欲立为皇后，公等以为如何?”褚遂良当即谏道：“皇后出自名家。先朝所娶，伏事先帝，无愆妇德，恐不可废。臣今不敢曲从，上违先帝之命，特愿再三思审。愚臣上忤圣颜，罪合万死，但愿不负先朝厚恩，何顾性命。”言罢把笏放在殿阶上，说道：“还陛下此笏。”乃解下头巾叩头至流血。高宗大怒，令武士将他带下。长孙无忌急上前说：“遂良受先朝顾命，有罪不加刑。”高宗终于立武则天为后，褚遂良因忤旨被贬潭州都督。宰相韩瑗上疏为他辨白，高宗对韩瑗说：“遂良之情，朕亦知之矣。然其悖戾犯上，以此责之。”显庆二年(公元657年)，再贬桂州都督，不久又贬爱州刺史。