桓玄問劉太常曰：“我何如謝太傅？”劉答曰：“公高，太傅深。”又曰：“何如賢舅子敬？”答曰：“樝、梨、橘、柚，各有其美。”
謝公在東山，朝命屢降而不動。後出為桓宣武司馬，將發新亭，朝士鹹出瞻送。高靈時為中丞，亦往相祖。先時，多少飲酒，因倚如醉，戲曰：“卿屢違朝旨，高臥東山，諸人每相與言：‘安石不肯出，將如蒼生何？’今亦蒼生將如卿何？”謝笑而不答。