1940年4月30日，张浩与毛泽东、朱德等中央领导人应邀到延安青年文化沟出席庆祝五一国际劳动节大会。会议开始后，大会主持人请张浩发表讲话。张浩像往常一样精神抖擞地走到台前，发表庆祝五一节重要意义的演说。讲了不到10分钟，他突发脑溢血，人们立刻把他送往医院抢救。因抢救及时，张浩脱离了生命危险，但却无法站立起来了，更无法继续工作。

1941年8月4日，日军战机飞到延安上空，轰炸中共中央机关和中共领导人住处，一颗炸弹刚好在张浩的窑洞门口爆炸，窑洞被震得不停地颤动，巨大的爆炸声，使张浩的大脑、心脏受到刺激，接着，他的身体出现了水肿，警卫员等人急忙将他送往延安中央医院抢救。名医何穆对张浩的病情进行了彻底检查，发现他的心脏大了三倍，肝脏、脾脏扩大，同时还有肺水肿，肾脏也有毛病。

毛泽东闻讯指示中央医院全力抢救。经过何穆、金茂岳等名医一段时间的悉心治疗，张浩的病稍有好转。但是，到1942年2月下旬，张浩的病情开始日益恶化。3月5日，他留下了“我死后，请组织上将我葬在杨家岭对面的桃花岭上，使我能天天望着党中央、毛主席”的遗嘱。

1942年3月6日凌晨1时45分，张浩与世长辞，终年45岁。

当天下午，中央成立了张浩治丧委员会，由李富春、林彪、邓发等人组成，将他的遗体移入中央大礼堂，中共中央领导人毛泽东、朱德、任弼时、陈云、叶剑英等轮流为张浩守灵。