桓玄敗後，殷仲文還為大司馬咨議，意似二三，非復往日。大司馬府聽前，有壹老槐，甚扶疏。殷因月朔，與眾在聽，視槐良久，嘆曰：“槐樹婆娑，無復生意！”

　　殷、謝諸人共集。謝因問殷：“眼往屬萬形，萬形來入眼不？”

　　桓宣武既廢太宰父子，仍上表曰：“應割近情，以存遠計。若除太宰父子，可無後憂。”簡文手答表曰：“所不忍言，況過於言？”宣武又重表，辭轉苦切。簡文更答曰：“若晉室靈長，明公便宜奉行此詔。如大運去矣，請避賢路！”桓公讀詔，手戰流汗，於此乃止。太宰父子，遠徙新安。