从讨孙权于濡须口，与张辽同为前锋，在行军过程中遭遇了持续的大雨，前锋大军先到江边，见江水上涨，敌船稍稍前进。
倘若霖雨、水涨形成洪灾，将会对于缺乏船只的军队非常不利，因此，张辽、臧霸的将士们都感到不安。
张辽意欲自作主张的撤军，坚持要执行曹操的命令，便劝止张辽，张辽接受了臧霸的建议，于是屯驻了下来。
等他们屯驻到了第二天，果然收到了曹操的撤军令，于是主动撤军，曹操对臧霸加以赞扬。
后来曹操破孙权江西营，获都督公孙阳，但是由于春雨延绵，江水上涨，曹操在濡须口与孙权相持一个月后，最终退兵，战后，被拜为扬威将军，假节。
公元217年，从讨孙权，先登入阵，再入巢湖，攻破居巢，后孙权徐详告降，曹操还师，便留与夏侯惇等屯居巢，公元219年据《魏略》记载，遣别军在洛。