按照中英《南京条约》的条款，1843年11月14日，上海道台贴出官府布告，宣布上海开埠。11月17日，上海道台又宣布在洋泾浜江海关以北设立“西洋商船盘验所”，正式办理外国商船入关经商事宜。1846年英国领事巴富尔以报关纳税不便为由，使上海道台宫慕久在英租界内特设主管外商办理报结关的“新关”，时称“江海北关”。这是中国政府在外国租界内设立的第一个行政机构。以英国为首的各国领事乘此便利，随时对海关行政横加干涉，并要求外国人进入海关参与管理。1851年9月，上海道台被迫委派英国人尼古拉斯·贝利斯担任海关港务长，成为外国人进入中国海关的开端。

1853年9月7日，上海小刀会起义，占领上海县城和江海关。苏松太道兼江海关监督吴健彰逃入租界，海关工作停顿，外商拒纳关税。在清朝地方当局的同意下，吴健彰于1854年6月与英、美、法三国领事举行会议，决定了八条办法，主要点为海关引用外籍人员作为道台征税的“助手”。三国领事各派一人（称司税或税务司），组织关税管理委员会，各级中外属员由委员会选用。船舶进口仍继续由领事报关。海关置办武装缉私船一艘，由外籍船长指挥。新成立的关税管理委员会在上海外滩江海关原设之查验所办公，专门管理洋船、洋货进出口，称为“江海北关”（新关、洋关），成为外国人控制下建立的第一个半殖民地海关。它与江海关已完全分离，原设于上海县城的“江海关”，被称为江海大关（老关、常关），仅能管理沿海贸易和国际贸易的中国籍帆船及其货物。

西方侵略者并不满足于侵占上海租界新式洋关的管理权，而且阴谋将上海的制度推广到其他口岸。1855年李泰国被英领事指派代替威妥玛任江海关税务司。1858年李泰国随英法侵略军到天津，参加中英《天津条约》起草谈判工作。1858年修订的通商章程第十款中规定：“各口划一办理”，“任凭总理大臣邀请英（美、法）人帮办税务”，这就是把上海的外国人管理海关的制度推向全国的条约依据。

1859年春，五口通商大臣何桂清札委江海关税务司李泰国为总税务司，推广上海的洋关制度。李泰国接到何桂清的派令，立即于1859年5月间赶往英法联军占领下的广州，10月开办广州洋关。次年（1860年）汕头开办第三个洋关。(www.daowen.com)

1861年1月总理衙门成立后，全国洋关事务统归总理衙门管辖。奕正式委派李泰国为总税务司，但该时李泰国因伤请假回英国养病，总理衙门便暂派上海海关税务司费士莱和赫德代理税务司。因赫德通晓汉语，办事谨慎，深得外国侵略者和清政府大臣的信任，在他的精心策划下，起源于上海的半殖民地海关制度，迅速推广到两次鸦片战争后开放的大多数口岸。在同治四年（1865年）之前，签订条约开放的15个口岸中，除琼州（海口）因为来往洋船极少而暂未设关外，其余均已陆续开设洋关，中国沿海地区及长江流域初步形成了一个洋关体系。

19世纪70年代至80年代末，随着沿海、沿江及西南边疆一些城镇的陆续开埠，随之增设新关。此外，为实行香港地区鸦片税厘并征，光绪十三年（1887年）设立九龙关，同时撤销原由粤海关监督和广东省厘金局在香港周围设置的关卡。同年，还在澳门附近设拱北关，开始征收鸦片税厘并代两广总督代征百货厘金。截至中日甲午战争之前，共增设十一处海关：琼海，1876年；芜湖、宜昌、瓯海、北海，1877年；九龙、拱北，1887年；蒙自、龙州，1889年；重庆，1891年；亚东，1894年。连同1865年以前设立的14处，该时新关共达25处。

甲午战争爆发后，日本侵占台湾，打狗、淡水、台南三关相继被迫关闭。自甲午战后至辛亥革命的十余年中，先后增设海关22处：1896年杭州、沙市、苏州，1897年梧州、思茅、三水，1899年金陵、岳州、三都澳，1901年秦皇岛，1902年腾越，1904年江门、长沙，1907年南宁、奉天、黑河、安东，1908年满洲里、绥芬河，1909年哈尔滨，1910年珲春、龙井。除岳州、三都澳、秦皇岛三处系清政府自行开放设关（亦由洋税务司管理）外，余均系根据不平等条约开放设关。