1981年毕业于北京体育学院研究生院。同年任教于南京体育学院游泳队，并任江苏省游泳队教练。

1983年任江苏省游泳队总教练。

1987年任国家游泳队教练，

1991年任国家游泳队副总教练，

1992年，张雄的爱徒林莉在巴塞罗那奥运会上成为了第一个夺得游泳奥运金牌同时打破世界纪录的中国选手，这让他名声大噪。业务精湛、博学多才、通晓英文，让张雄和当年上海的周明共成为游泳界学院派的代表。

1993年获国家级教练称号。两次获体育运动荣誉奖章。

1998年，张雄成为南京体育学院的副院长，同时升任国家游泳队教练组组长，相当于此前的总教练。曾培养出林莉、杨文意、王晓红、陈艳、年芸等优秀运动员。

2010年任南京体育学院院长，院党委副书记。

2009年，江苏省政府发文，正式任命张雄为南京体育学院院长，他还担任过全国人大代表，江苏省政协委员、人大常委等职务。

2015年7月，免去张雄的南京体育学院院长职务。 

江苏省游泳协会副主席、主席，江苏省网球协会副主席，中国游泳协会副主席、中国网球协会副主席、中国体操协会副主席，第九届全国人大代表，第八届江苏省人大代表，第十届江苏省政协委员、政协医卫体委员会副主任，中共江苏省第十二次代表大会代表，第十二届江苏省人大常委、省人大常委会教科文卫委员会委员。

多次受到国务院、国家体育总局、江苏省人民政府等各级、各类表彰，享受国务院政府特殊津贴。

曾两次入选省“333跨世纪学术带头人”培养工程第二层次培养对象，多次获颁“中华人民共和国体育运动荣誉奖章”，多次当选为“全国十佳教练”，两次被评为“江苏省劳动模范”。

曾获国务院授予的“作出突出贡献的中国硕士学位获得者”以及国家专家委员会授予的“国内学术、技术界具有重大影响的高级专家”等荣誉称号。 

2015年4月底，张雄被带走协助调查。 

2015年10月，江苏省人民检察院依法对张雄涉嫌贪污犯罪立案侦查，并采取强制措施。案件侦查工作正在进行中。