汉代除了著名的陆上丝绸之路通外，已经有了从广东出海远航印度的第一条远洋航线。由于这条航线上交还的货物主要是中国的丝绸和海外的香料，故被称作“海上香丝之路”。自秦汉至初唐的七八百年间，对海运进出口的船舶和货物人员，一般由当地官员（郡太守或州刺史）管理。随着海上贸易的进一步发展，特别是到了唐代，国家的统一和社会的安定，使整个经济大大胜过前代，造船和航海技术均有巨大发展。大的海船长达二十多丈，相当于今天的千吨级海船，可坐数百人。大食、狮子国和日本、高丽的海船来中国的也很多。中外使节、商旅、僧人、留学生往来频繁，旅外华侨明显增多。当时广州进出口船舶最多时每天有十余艘。尤其进入唐代中期以后，海上贸易和外事往来逐渐超过了陆道的交往。秦汉以来由地方长官兼管海运进出境事务的体制，已难以适应这种空前繁荣的对外贸易和国际交往形势，客观上要求设立专责机构加强管理，由此掌管海外贸易的专司机构——市舶司应运而生。

唐在广州置市舶的年代约在唐高宗李治在位期间（公元650—683年），此时广州的波斯、大食商人已纷纷来到岭表通商定居。根据唐代对外实行的开放政策，鼓励中外经济贸易往来，“结好使”“押蕃舶使”“监舶使”“市舶使”等官制也就相应产生，起先有权宜之称，但在开元天宝年间，市舶体制基本形成。现最早关于市舶使的一条史料，是《册府元龟》所载“开元二年（公元714年）……市舶使右威卫中郎将周庆立，……广造奇器异巧以进”。

根据历史记载，唐代设置市舶的口岸只有交、广两州。交州治所在今越南北部，汉唐期间，一直为中国岭南的重要口岸之一。魏晋以来，广州地位渐趋上升，到了唐代，其吞吐量已超过交州，成为中国历史上的第一大港。故唐置市舶时，广州在前，交州建置市舶尚在8世纪中叶。此外，唐代允许海舶进出境的港口尚有泉州、扬州、福州、明州和登州等多处，但这些沿海口岸的海关事务仍有当地地方官员管理。(www.daowen.com)

市舶使并非地方的行政首脑，而是专管外交外贸的官员，其地位一般在地方长官刺史之下。但市舶职务多由中央任命，故州刺在干预外贸方面事务必须尊重市舶使的职能。例如，据《全唐文》说，外国商人运来象牙、犀角、贝珠等高贵货物，“帅与监舶使必搂其伟异”。可见州刺和市舶使官员是共同参与的。8世纪中叶起，市舶使渐与州刺相当，甚至一度超过地方州刺。其主要原因，是朝廷有时直接委派宦官掌管市舶。唐代是宦祸炽烈的朝代。唐玄宗在位期间，宦官集团日趋专横弄权，8世纪中后期已成宦祸，势倾朝野。

唐德宗时，宰相陆贽在《论岭南请于安南置市舶中使状》中提出由朝廷派“中使”掌管交州（安南）市舶。“中使”是宦官的美称，所谓市舶中使也就是市舶宦官或市舶太监。以太监掌管进出口贸易，并作为中央集权的代表，说明封建朝廷把市舶的地位是放得很高和对海外贸易的倚重。据《资治通鉴》卷二百二十三记载：唐代宗广德元年（公元763年）出现过广州市舶中使吕太一举驱逐岭南节度使张休的事件。节度使是封疆大吏，地方大员，掌管数州的军政长官，竟被广州市舶使所逐，可见舶使权势之重。