张若霭在张廷玉四十二岁那年才出生，而且与张廷玉的生日是同一天。他刚满二十岁就袭一等轻车都尉，雍正十一年（1733年）在殿试中，张若霭的试卷被雍正帝认为“颇得古大臣之风”，尤其欣赏卷中对“公忠体国”的论述，因此将其卷从进呈的第五卷拔至一甲第三名（探花），拆卷后发现是张廷玉之子张若霭，大喜，派太监向张廷玉报喜。张廷玉向雍正帝恳求“愿推以让天下寒士”，雍正帝允许，改为二甲第一名。张若霭登科后，授翰林院编修，充日讲、起居注官，入直南书房。乾隆三年（1738年），袭三等伯，迁侍读学士，不久因儒臣袭爵不合规定，所以罢其世职，累迁内阁学士。乾隆十一年（1746年），张若霭随乾隆帝西巡五台山，生病后回京，不久去世，年仅三十四岁。乾隆帝令按伯爵品级给银一千两办理丧事。

张廷玉曾看见僚属所藏名画，告诉张若霭，过了段时间，就发现张若霭的书斋中已悬挂这幅名画。张廷玉正色道：“我无介溪（严嵩）之才，子有东楼（严世蕃）之好，奈何？”张若霭便急忙归还此画。有一天，崇庆皇太后拿出只有一寸见方的玉佩，让供奉内廷的张若霭在上面抄写《心经》，张若霭一天就写完，太后大喜，赐无数珍宝。

善画山水、花鸟，得王糓祥、周之冕遗意。

画作有《岁寒三友图》、《仿王元章疏影寒香图》传世。诗文有《晴岚诗存》、《蕴真阁集》。