张衡在元初元年（公元114）起担任太史令，此后他先后担任此职达十余年，他的许多重大的成就都是在此期间完成的。
张衡作为太史令，需要负责观察天象、修订历法等工作。经过长期的认真研究，张衡主张并改进了浑天说。所谓浑天说，是认为天地像一个鸡蛋，天包着地，就像鸡蛋壳包着蛋黄一样。天在外面，地在里面。天是动的，地是静的。在其名著《灵宪》中，张衡系统地阐述了天体运行规律，进一步论述了浑天理论。他论述了宇宙的起源问题，认为宇宙并非生来就是如此，而是有个产生和演化的过程，并将宇宙的演化分为三阶段，即道根、道干、道实。认为宇宙在空间上没有边界，在时间上也没有起点。主张天体不像鸡蛋，而是圆如弹丸的一个球体。认为天体是运动的，是围绕南北两极像车轮一样转动。此外，还对日月的角直径、月食的原因、五星的运动、星官、流星和圈星等问题提出了自已独到的见解。
为了进一步验证自己的观点，张衡在前人的基础上，设计出了能够再现天体运行的浑天仪。
张衡的浑天仪是一个铜球，上面画上了由他所定名的444官2500颗星。浑天仪的黄、赤道上都画上了二十四气。贯穿浑天仪的南、北极，有一根可以转动的天轴，浑天仪就围绕着这根天轴旋转。在天球外还紧附着地平圈与子午圈两个圆环。天球通过齿轮系统靠铜壶滴水的力量均匀转动，每天一周，形象地演示天体运行规律。用浑天仪演示出的日月星辰出没规律与当时天文台灵台实际观测的完全相同。
张衡在科学上的另一个突出成就是发明了候风地动仪，用来测知地震的方位。候风地动仪用铜制成，外形像一只大酒樽，直
径约有八尺。上面有一个隆起的盒盖，外圈附有八条龙，龙头分别朝着东、西、南、北、东南、东北、西南、西北八个方向排列，每一龙口中都含有一粒铜丸。地面上分别放有八只对着龙头昂首张口的蟾蜍，准备承接龙口中落下来的铜丸。地动仪中央有一根高而细的铜柱，张衡称之为都柱。都柱在接收到地震产生的地震波后，就向波源方向倾倒。在都柱周圈构架了八条通道，与外面的八条龙相连接。倾倒的都柱只能往一个通道中滑倒，倒到尽头，都柱敲动一个像弩机装置似的牙机，利用扛杆传动，使龙头张开口，铜丸落入蟾蜍口中。是哪个龙头中掉出铜丸，便知哪个方向发生了地震。
张衡的候风地动仪发明于东汉顺帝阳嘉元年（公元132），性能良好，准确可靠。东汉时期，我国地震频繁发生。顺帝永和三年（公元138）的一天，地动仪正西方向的龙嘴中的铜丸掉落在蟾蜍口中，但京城洛阳并没有感觉到发生了地震，人们纷纷责怪张衡的地动仪不可靠，认为它也有报错的时候。但在几天之后，距京城千里之外的陇西地区汇报说当地发生了地震，从而验证了这个地动仪果然精确可靠。张衡的地动仪领先世界科技一千余年。
为了纪念张衡在天文学方面的杰出贡献，人们将月球背面的一个环形山命名为“张衡环形山”，将小行星1802命名为“张衡
小行星”。
张衡不仅在天文学、地震学方面取得了杰出成就，还在机械技术、数学、文学艺术等领域颇有建树。他精通机械制造技术，
制造出了指南车和能够自动飞翔的木鸟，被东晋葛洪称为“木圣”。在数学方面，张衡给立方体定名为“质”，给球体定名为浑。他研究过球的外切立方体积和内接立方体积。还定出了圆周率值为10的开方，虽然这个值比较粗略，但却是我国第一个用理论求得的π值，具有开山意义。他还写过文辞优美的《二京赋》，其文学性和思想性都达到了较高的水平。
张衡同时代的契友崔瑷在为他写的墓碑中赞道：“数术穷天地，制作侔造化。”梁代的刘昭赞颂张衡是“天文之妙，冠绝一
代”。郭沫若先生也认为：“如此全面发展之人物，在世界史上亦所罕见，万祀千龄，令人景仰。”