不叹息说谢安敢于冒触犯众怒的危险举荐亲侄子，确实是英明的。
谢玄一定不辜负他叔叔的推荐，因为他确实是难得的人才。
许多人都不赞同郗超的看法，郗超说我曾经与谢玄共同在桓将军幕府做事，亲眼见他用人能各尽其才，即使是一些细小事务，安排人也非常恰当，我因此知道他一定能成功。
朝廷于是召谢玄回朝，授其为建武将军、兖州刺史，领广陵相，监江北诸军事。
谢玄在任上，广募顽强勇敢之人，刘牢之与何谦、诸葛侃、高衡、刘轨、田洛及孙无终等人都因为勇敢威武而应选。
谢玄授刘牢之为参军，命他领精锐为前锋，百战百胜，号称北府兵，前秦对其颇为畏惧。
太元三年前秦皇帝苻坚派军围困襄阳，车骑将军桓冲率部抗击。
朝廷下诏命令谢玄征发三州民夫兵丁，并派彭城内史何谦率军在淮水、泗水一带游弋，让他们构成援助襄阳的态势。
次年，襄阳陷落，苻坚的部将彭超向驻军彭城的龙骧将军戴逯发动进攻。
谢玄率领东莞太守高衡、后军将军何谦驻扎在泗口，想要偷偷地派遣使者告诉戴逯，让他知道救兵到了，却找不到前往的途径。
小将田泓请命前往，于是他就潜在水中偷偷地过去，快要到城下时，不幸被敌军抓获。
敌军用丰厚的赏赐收买田泓，让他对彭城守军说南来的援军已被打垮了。
田泓假装答应。但到了城下时，却大声告诉城中说南来的援军很快就要到了，我一个人前来报信，被敌人抓住，诸位一定要努力坚守啊！
彭超将辎重放置于留城，谢玄于是扬声要派遣何谦等进军留城，彭超听闻后，率军返回留城保护辎重。
何谦迅速率军前进，解彭城之围。彭超又进军南侵，苻坚的将领句难、毛当从襄阳率军前来与其会合。
朝廷下诏命谢玄的叔父、征虏将军谢石率水军往涂中，右卫将军毛安之、游击将军王昙之、淮南太守杨广、宣城内史丘准往堂邑。
不久，盱眙城失陷，高密内史毛藻战死，毛安之等人惊恐，各自退军，朝廷为之震动。
谢玄从广陵往西讨伐句难等，何谦率军击败敌军，为田洛解围。他随后进据白马，大破前秦军，斩其将都颜。
趁势进击，再次将其击破，斩其将邵保，彭超、句难率军引退。
谢玄率何谦、戴逯、田洛追击，在君川与其展开战斗，再次大破其军。
…。。