为了解决南粮北运的运输问题和加强对江南富庶地区的控制，元世祖忽必烈开通了从大都到杭州纵贯南北的大运河。
元代从大都到杭州。有几条现成的水道可以利用:在长江以南和淮河以南、可以利用隋唐以来的江南河和扬州运河(邗沟);淮河以北清口(今淮阴)至徐州一段，可以利用黄河（原为泗水下游，1194年为黄河南徙所夺)。徐州以上，则循泅水至山东。河北境内，天津以南，可以利用御河（隋代永济渠。今卫河）；天津以北，则利用流经大都以东道州的白河(今北运河)。这样，不能通航的地段就只剩下了大都和通州之间的25千米一段及御河和泗水之间的约200千米的一段了。
为了彻底打通南北漕运，元政府于至元二十年(1283年)在山东境内开挖了济州河，至元二十六年(1289年)，又开挖了会通河，济州河从须城安山（今山东东平)到济宁，接泗水，入黄河;会通河从山东临清到须城安山，接济州河。约长一百二十五千米。这样就沟通了御河及泗水。至元二十九年(1292年)，又在大都和通州之间开挖了通惠河。这样，北起大都(今北京)南到杭州全长一千五百多千米的京杭大运河全线通航，而且不再绕道开封了。它比隋朝的南北大运河缩短了九百多千米的航程。这条运河奠定了现在京杭大运河的基础。
一、郭守敬与通惠河
通惠河是由元朝杰出的水利工程专家郭守敬主持开挖的。至元二十八年(1291年)，开始选线施工。从大都城北面约二三十千米的昌平到大都之间的地面高度、自西北向东南由海拔60米左右下降至海拔50米左右。而沙河和清河从西山山麓分别向东和东北流，会合后向东注入白河。这样，在昌平与大都之间存在着两条河谷低地，这两条河谷低地不利于引导昌平、西山一带的泉水向东南流贯大都。郭守敬通过实地考察和精确勘测，选定了一条路线。可以克服不利地形的限制而取得丰富的水源，这就是在昌平东南白浮村神山(即今天的凤凰山)筑堰截住向东南流的白浮泉泉水，开渠绕神山南麓向西行，然后转而南下。避开河谷低地，沿途拦截百泉、虎眼泉、一亩泉、马眼泉、冷水泉等，注人瓮山泊(又称七里泊，即今昆明湖)。沿渠所筑堤堰就是著名的白浮堰。再从瓮山泊开凿河道，与源出今西直门外紫竹院公园向东流的古高梁河相连，经今德胜门西水关入大都城，汇人积水潭(今什刹海、后海、前海)。再从积水潭开凿河道向东南流出文明门(今崇文门北)，过大通桥，沿金代的闸河故道向东行20千米，至通州高丽庄与白河相接。这就是通惠河的全程路线，自昌平神山山麓至高丽庄，全长八十多千米。以瓮山泊和积水潭为通惠河的调节水库。今天我们在昌平城东南的凤凰山下。可以见到九个石雕的龙头，在数十年前还有汩汩泉水从龙口口中喷出，汇成一个大池。可惜今日已不见流水涌出来了。还能见到龙泉岛石碑。这里就是郭守敬开挖通惠河引白浮泉水为源的遗迹。分天京密引水渠的下游，从白浮经过阳坊、温泉到昆明湖的渠道和七百年前的这条引水渠走向也是一致的。
郭守敬选定的引水路线因地制宜，极其科学地利用了水源和地形条件，解决了金代开挖闸河时所不能解决的沙多、水少、流急的难题。他引白浮泉水，西经神山山麓再东南流，水清、量大、地平、流缓。因为大都比通州地势高得多，必须建立水闸才能蓄住水，以控制水位高低。郭守敬又在大都和通州之间建了十一个闸门。通惠河从l292年开工，只用了不到两年的时间就全部完工了。
通惠河开挖时，征调了军卒近二万人，工区水手八百五十余人，入官的囚奴一百七十余人。此外，忽必烈还下令在大都的各级官吏一律参加劳动。通惠河这一名称也是忽必烈给起的，含有漕运畅通的意思。
二、济州河和会通河
在临清和济州之间的运河，元朝分两期修建，先开济州河，再开会通河。济州河南起济州(今济宁市)南面的鲁桥镇，北到须城(在今东平)的安山，长75千米。人们利用了有利的自然条件，以汶水和泗水为水源，修建闸坝，开凿渠道，以通漕运。会通河南起须城的安山，接济州河，凿渠向北，经聊城，到临清接卫河，长125千米。它同济州一样，在河上也建立了许多闸坝。这两段运河凿成后，南方的粮船可以经此取道卫河、白河，到达通州，不必再绕道洛阳和开封了。
不过，由于山东境内运河水源不足，南北分水地点不当，岸狭水浅，船只不能重载，所以在元朝，通过海路运送漕粮一直占据主要地位。运送粮食的船只从长江口刘家港（今江苏太仓市东北浏河口)出海北上，沿着山东半岛绕过成山角、刘家岛、沙门岛，经莱州(今山东莱
州市)至界河口(今大沽口)人海河，北循白河至芦沟河、白河汇合处的张家湾，再将漕粮转运通州，最后再通过通惠河或由陆路运到大都。