張純，字伯仁，京兆杜陵人。高祖父張安世，宣帝時做大司馬衛將軍，封富平侯。父親張放，做過成帝的侍中。張純少時承襲了爵位和封地，哀帝、平帝時做侍中，王莽時做到列卿。正遇王莽篡位，許多人失去了爵位和封地，而張純因為敦厚謹慎，遵守法制，得以保全前代的封號。
建武初年，先到朝廷，因此得以恢復其爵位和封地。五年，拜為太中大夫。朝廷派他統率潁川精銳騎兵，安定荊州、徐州、楊部，督促轉運，監督諸將營。有官吏上奏說，列侯不是劉姓宗室不應恢復其爵位和封地。光武帝說：“張純提任宿衛十多年，不能廢止，改封為武始侯，俸祿取富平縣的一半。”張純在朝時間久，對舊事很熟悉。建武初年，舊章程多殘缺，每有疑議，就去訪問張純。自郊廟祭祀、婚、冠、喪禮等儀式環節，多由張純糾正制定。皇帝十分器重他，任命張純兼任虎賁中郎將，多次被接見，有時一天接見幾次。
建武二十年，張純代替朱浮做太僕。二十三年代替杜林做大司空。他在位時，羨慕曹參繼承蕭何的事蹟，對舊法無所變更。選拔椽史，都是知名的大儒。第二年，把陽渠打通，引洛水為漕運，百姓得到好處。二十六年皇帝下詔給張純道：“禘（五年一祭）祫（三年一祭）的祭禮，好久沒有舉行了。古人說：‘三年不為禮，禮必壞；三年不為樂，樂必崩。’應根據經典，詳細作出制度。”張純奏道：“禘就是諦的意思，諦定昭穆尊卑的意思。禘祭在夏四月，夏天陽氣在上，陰氣在下，可以用來表達正尊卑的意思。祫祭在冬十月，冬天五穀成熟，物備禮成，有利於合聚飲食。這個典禮廢掉已經八年，可以照禮辦事，按時定下來。”皇帝聽從了，從此禘、祫的祭祀就規定下來了。
當時南單于和烏桓來投降，邊境無事。百姓剛剛去掉兵器和甲冑，家家衣食充裕，人人生活富足。張純認為聖明君王建立學校，是用來提倡禮義，在富民的基礎上進行教育。於是按照七經讖、明堂圖、河間《古辟雍記》、孝武太山明堂制度，以及平帝時的一些討論，想具體啟奏。沒有呈上去，恰逢博士桓榮上書建議立辟雍、明堂，奏章下達到三公、太常，而張純的意見正與桓榮相同，皇帝於是就同意了。
三十年張純上奏應該舉行封禪，中元元年，皇帝便東巡泰山，用張純比照御史大夫隨行，呈上漢武帝元封元年登封泰山的禮儀和刻石文。三月，張純去世，諡號節侯。
