1922年2月4日，中日两国签署《解决山东悬案条约》，日本被迫交还青岛。按照条约规定，中日两国政府各指派委员3人，共同组织鲁案中日联合委员会，负责办理移交青岛及附属公产，处理胶济铁路及矿山和日人既得权利、盐田、无线电台等事宜。

1922年3月2日，北京政府特派王正廷督办鲁案善后事宜，组织公署，专门办理与日本交涉鲁案善后事务。3月28日，中日双方在北京签署《胶济铁路沿线撤兵协定》。4月14日，日军开始从山东内地撤退，但同时又用日轮运送便衣奉军进入山东制造事端，并以此为借口延缓撤兵。

1922年6月2日，中日两国在北京正式交换《解决山东悬案条约》。6月7日，北京政府任命鲁案善后事宜督办王正廷、外交部参事唐在章、督办鲁案善后事宜公署参议徐东藩3人为鲁案中日联合委员会中方委员，并以王正廷为委员长。后中方又加入两湖巡阅使署顾问陈干，并任命山东省督军田中玉为鲁案善后事宜会办。6月14日，日本政府则以驻华公使小幡酉吉、青岛民政长官秋山雅之介、大使馆参事官出渊胜次、铁道技师大村卓一4人为鲁案中日联合委员会日方委员，并以小幡为委员长。

6月26日，鲁案中日联合委员会于北京外交部召开会议。出席人员除双方委员外，各有专家及秘书等三四十人。会议决定分组谈判善后事宜：第一部谈判行政问题，第二部谈判铁路问题，设并海关、邮局、公产等分委员会谈判专业事务，谈判结果报各部决定。(www.daowen.com)

王正廷、田中玉和鲁案善后事宜公署

王正廷、小幡酉吉、秋山雅之介和谈判会场

6月29日，鲁案中日联合委员会第一部在北京外交部召开首次会议。中方代表王正廷、唐在章、徐东藩，日方代表小幡酉吉、秋山雅之介、出渊胜次出席。6月30日，第二部正式开会。中方代表为王正廷、交通次长劳之常、交通部参事陆梦熊、交通部技监颜德庆，日方代表为小幡酉吉、秋山雅之介、大村卓一。自6月29日至11月末，第一部先后开会50次，第二部先后开会21次。1922年12月5日，双方订定鲁案第一、二部细目协定。谈判期间，几个重大问题的交涉情形大致如下：