刘大夏在从政的40多年里，一直担任要职。特别是在弘治后期，深得明孝宗朱祐樘的信任和赏识。从皇帝到朝野，都把他视作“当今第一人”。但是，功绩辉煌的他却从没有产生过私心，替自己的子孙谋取一官半职，而是一直教育并亲自为他们做示范，要他的子孙靠自己的辛劳和实业谋生。
在辅佐朱祐樘的时候，他力革宦官弄权之弊。此举遭到宦官和谄附宦官的阉党们的忌恨。朱祐樘病逝，朱厚照刚一即位，就立即以反朱祐樘弘治之政，开始重用宦官和阉党。此时的刘大夏知道，如今朝廷大局已变，自己再怎么努力也无力回天。于是，他在正德元年（1506年）的时候提出第二次退休，当时的刘大夏已经71岁了，也真到了退休的年龄了。
正德三年（1508年），刘大夏跟宦官刘瑾的仇怨也到了结的时候了。刘瑾开始想尽办法陷害他，想要刘大夏彻底消失。当他被刘瑾矫旨逮捕时，同行们都觉得他会被迫害致死，于是劝告他说：“你可以向他行贿，先保住一命要紧。”刘大夏听后坚决不同意，他说：“我这样死了，祸害发生在我一个人身上，如果我为了免一死，向宦官行贿，就会连累我的子子孙孙，毁了我一生高洁的操守，也会坏了家风国风。”刘大夏心里清楚，受贿可耻，行贿也不是什么光彩的事情。所以，他宁肯选择一死，也不肯让神圣的廉洁受到一丝玷污。