隋炀帝修建大运河的工程分4段进行。
公元605年4月14日(隋大业元年三月二十一日)隋炀帝“命尚书右丞皇甫议发河南、淮北诸郡民，前后百余万，开通济渠”。通济渠起于洛阳城，西引榖(即涧水)、洛水入黄河;又从极清(今河南荥阳县把水镇东北周黄河水向东到洋州(今河南开封)，再顺汴水经商丘，折向东南，接通蕲水，经皖北至淮阴入淮水。第一段工程沟通了洛水、黄河和淮河。
同年，隋扬帝又征发淮南民十几万开邢沟。
608年2月，再次下“诏发河北诸军百余万穿永济渠，引沁水南达于河，北通深郡”。
611年元月，隋炀帝“敕穿江南河油京日至余杭，800余里”。这段工程的告竣，全长4000多里的大运河贯通，成为中国南北交通的大动脉。
