打打闹闹不学无术的日子总是过得很快，一转眼，祖逖就成长为一个青年。此时的祖逖，看到碌碌无为的自己，忽然从内心深处意识到自己学识的浅薄，并且深知如果不好好读书，根本没有机会为国家做事。
面对飞逝而过的青春，顿悟了的祖逖于瞬间振作起来，开始发奋苦读。他读起书来非常刻苦认真，几乎到了废寝忘食的地步。不仅如此，他还特别注重拓宽阅读面，认真研读历史，从真实的历史过往中汲取有益于人生的丰富知识，他的学问得到了相当大的提升。
他先后几次到当时的京都洛阳任职，在洛阳但凡和他亲近过的人，都认为祖逖是个不可多得的人才，具有辅佐帝王治理国家的才干。祖逖二十四岁那年，有人推荐他出来做官，但他自己觉得机会还不够成熟，还有很多学问没有研究透，于是就婉言拒绝了出去做官的推荐，留在家里继续苦读。
又经过了几年的苦读，祖逖感觉到自己的能力可以出来做官了，他和自己幼时的好友刘琨一同担任司州主簿。他与刘琨情同手足，感情深厚，两个好朋友同在一张床上睡，还同盖一条被子。两个人都有远大的理想，都期望为国家建功立业。