刘大夏在从政的40多年里,一直担任要职。特别是在弘治后期,深得明孝宗朱祐樘的信任和赏识。从皇帝到朝野,都把他视作“当今第一人”。但是,功绩辉煌的他却从没有产生过私心,替自己的子孙谋取一官半职,而是一直教育并亲自为他们做示范,要他的子孙靠自己的辛劳和实业谋生。
在辅佐朱祐樘的时候,他力革宦官弄权之弊。此举遭到宦官和谄附宦官的阉党们的忌恨。朱祐樘病逝,朱厚照刚一即位,就立即以反朱祐樘弘治之政,开始重用宦官和阉党。此时的刘大夏知道,如今朝廷大局已变,自己再怎么努力也无力回天。于是,他在正德元年(1506年)的时候提出第二次退休,当时的刘大夏已经71岁了,也真到了退休的年龄了。
正德三年(1508年),刘大夏跟宦官刘瑾的仇怨也到了结的时候了。刘瑾开始想尽办法陷害他,想要刘大夏彻底消失。当他被刘瑾矫旨逮捕时,同行们都觉得他会被迫害致死,于是劝告他说:“你可以向他行贿,先保住一命要紧。”刘大夏听后坚决不同意,他说:“我这样死了,祸害发生在我一个人身上,如果我为了免一死,向宦官行贿,就会连累我的子子孙孙,毁了我一生高洁的操守,也会坏了家风国风。”刘大夏心里清楚,受贿可耻,行贿也不是什么光彩的事情。所以,他宁肯选择一死,也不肯让神圣的廉洁受到一丝玷污。