郗司空在北府，桓宣武惡其居兵權。郗於事機素暗，遣箋詣桓：“方欲共獎王室，脩復園陵。”世子嘉賓出行，於道上聞信至，急取箋，視竟，寸寸毀裂，便回。還更作箋，自陳老病，不堪人閑，欲乞閑地自養。宣武得箋大喜，即詔轉公督五郡，會稽太守。

　　有人問袁侍中曰：“殷仲堪何如韓康伯？”答曰：“理義所得，優劣乃復未辨；然門庭蕭寂，居然有名士風流，殷不及韓。”故殷作誄雲：“荊門晝掩，閑庭晏然。”

　　王忱死，西鎮未定，朝貴人人有望。時殷仲堪在門下，雖居機要，資名輕小，人情未以方嶽相許。晉孝武欲拔親近腹心，遂以殷為荊州。事定，詔未出。王珣問殷曰：“陜西何故未有處分？”殷曰：“已有人。”王歷問公卿，鹹雲“非”。王自計才地必應在己，復問：“非我邪？”殷曰：“亦似非。”其夜詔出用殷。王語所親曰：“豈有黃門郎而受如此任？仲堪此舉迺是國之亡徵。”