桓宣武既廢太宰父子，仍上表曰：“應割近情，以存遠計。若除太宰父子，可無後憂。”簡文手答表曰：“所不忍言，況過於言？”宣武又重表，辭轉苦切。簡文更答曰：“若晉室靈長，明公便宜奉行此詔。如大運去矣，請避賢路！”桓公讀詔，手戰流汗，於此乃止。太宰父子，遠徙新安。

　　顧長康畫謝幼輿在巖石妙。人問其所以？顧曰：“謝雲：‘壹丘壹壑，自謂過之。’此子宜置丘壑中。”

　　桓宣武作徐州，時謝奕為晉陵。先粗經虛懷，而乃無異常。及桓還荊州，將西之間，意氣甚篤，奕弗之疑。唯謝虎子婦王悟其旨。每曰：“桓荊州用意殊異，必與晉陵俱西矣！”俄而引奕為司馬。奕既上，猶推布衣交。在溫坐，岸幘嘯詠，無異常日。宣武每曰：“我方外司馬。”遂因酒，轉無朝夕禮。桓舍入內，奕輒復隨去。後至奕醉，溫往主許避之。主曰：“君無狂司馬，我何由得相見？”