唐玄宗开元四年，张九龄向圣上请长假回乡探视年迈病重的母亲。途径梅岭，他忆起青少年时代赴京参加殿试曾经过梅岭，入朝做官也途径梅岭，亲眼看到古道上有峭壁，下有深渊，也亲耳听到古道常有人畜伤亡之祸事发生，且常有强人劫掠。因此，张九龄心中早就萌发了重修梅岭古道的念头。
这次他回到家乡，与病情有所好转的母亲谈及此事，母亲十分高兴地说：“修路架桥，功德无量，为母也曾听说梅岭古道非常艰险，来往不便，早就应该重修。儿啊，你做了官就要为民做好事，不要犹豫。”张九龄的二弟张九皋和三弟张九章，在外地做官，这次也是请假回乡侍奉母亲，听了张九龄要重修梅岭古道的打算，也十分高兴地说:“大哥要重修梅岭古道，这是利国为民的大好事，照顾母亲自有我等分担，大哥只管放心修路便是了。"
于是，张九龄在家休假期间，向唐玄宗呈上了开凿梅岭新路的奏折，并将奏折飞骑送往长安。唐玄宗看过奏折之后，大加赞许，朝中文武百官听后也积极支持，认为张九龄此举利国利民，值得表彰。唐玄宗批准了奏折，诏命张九龄开凿梅岭新路，并派一支戍边的官兵速往韶州，听从张九龄调拨使用。
张九龄接到唐玄宗批准重修梅岭古道圣旨后，向韶州刺史以及乡绅父老通报了情况，号召大家同心协力，按时按质完成任务。然后，张九龄一边派人张贴开凿梅岭新路、迁坟和招募民工之类的安民告示，一边带领地方官吏攀山越岭，勘测地形，规划线路，作好开工的一切准备。
开元四年大年初一，张九龄按照当地风俗举行异常隆重热烈的开工典礼和祭祀仪式。司仪高声唱读张九龄亲自撰写的祭文。张九龄主持开工典礼，只见修路大旗和标志族姓的旌旗如海，迎风招展，礼炮齐鸣，声震天地，龙腾狮舞，万众欢呼。典礼完毕，工地上万千民众和朝廷派来的军士立即开展了劳动竞赛，紧张而有序。张九龄与地方官吏一起，到各地视察工地，慰问民工，间或请教能工巧匠，推广经验。有时直接和随从及军士一起劳动。
有一次，张九龄来到一处打石场，还向石匠介绍北方父老采用“火攻堰取”的方法，可做到事半功倍。这种方法，就是在石板上架起柴火燃烧，火熄灭后再用水浇和用铁锤打石，巨石就容易爆裂破碎，从而加快了工程进度。
经过一年多的奋战，大庾岭新路终于被开凿成功。这对岭南地区的开发，南北物资的交流，促进政治经济文化等的繁荣发展，均具有极其重大的历史意义。韶州、赣州两地百姓为了答谢张九龄为民办实事的功劳，特地送了一把“万人伞”给张九龄。
