天正十一年（1583），林罗山出生在京都四条新町一个破落的下级武士之家。据研究，其先祖是加贺国乡士藤原氏，在战国时代是级别最低的武士。林罗山的父亲林时信是次子，林氏家业由伯父林吉胜继承。林罗山出生时，父亲已经相当落魄，几近浪人，以致他出生不久后，家里穷得养不起，就把他送给伯父当养子。

据载，林罗山自幼天赋异禀，留下很多佳话。在林罗山8岁时，有一个名叫永田德本的汉医到他家做客，其间开讲军纪传奇《太平记》，他在一侧旁听，全神贯注。永田德本讲完，林罗山竟能将整章文辞一字不落地诵读出来。德本称之为神童，说这孩子耳朵像口袋，过耳不漏，将来前程不可限量啊，云云。父亲接受永田医生的建议，送他到寺子屋开蒙。文禄四年（1595），林罗山13岁，又被送入京都东山建仁寺深造，学习儒学与佛教。

在日本近世（1603—1867）以前，京都曾长期是日本政治文化中心，也是学术大本营。自古以来，关西是日本输入中国文化一大窗口。中国儒学传到日本，起初是一些儒家典籍，以汉唐注疏为主。9世纪末期，日本废除了执行200多年的遣唐使制度。不过，民间的商贸往来并没有断绝，文化的交流也从官方转到寺院的僧侣间的交流。南宋时期禅宗大盛，日宋两国僧人搭乘商舶往来颇为频繁。中日僧人在将禅宗传输到日本的同时，也将朱子学一同带到日本。1199年，京都涌泉寺开山鼻祖僧俊芿携弟子入宋学禅，归国时带回包括朱熹著作在内的儒书256卷，是为朱子学在日本之滥觞。此后，朱子学在京都的各大寺庙里传播。1299年，元朝僧人一山一宁赴日弘法时带去了程朱理学注释本，促进了朱子学学理的完成。朱子学一经传到日本就与禅宗相结合。不仅仅是因为朱子学随禅宗一起传到日本寺院，更在于它具有强烈的思辨色彩，能成为修禅的辅助工具，因而被禅门僧侣当作佛法修行之外的一项必备的学问技能。从这个角度看，朱子学在日本一开始就处于佛教的附属地位。

经过几个世纪的发展，在江户时代以前，禅宗在日本的佛教中已经占据压倒性优势。不仅如此，当时的禅门寺庙，在发挥其作为宗教设施功能的同时，也是一个收集、保存和传播中国古代典籍的地方。因此寺庙也成了一个学习和研究中国学问的重要场所。当时最著名的禅寺大都集中在京都，其中天龙寺、相国寺、建仁寺、东福寺和万寿寺最为兴盛，被誉为“禅林五山”。建仁寺位于京都东山山麓，由留学南宋的明庵荣西（1141—1215）开创。建仁寺虽是日本临济禅宗圣地，但与朱子学渊源很深，某种意义上是日本朱子学传播的一大策源地。第十代掌门人圆尔辩圆从南宋带回《孟子集注》《大学或问》《大学章句》《中庸或问》等大量朱子学著作，寺僧在学禅法的同时，兼修朱子学，成为寺院的一大治学传统，几百年一以贯之。建仁寺作为日本顶级朱子学研究中心的基盘，就此奠定。

建仁寺对中国学问很重视，学僧入门之初，就要接受严格的儒家经典训练。林罗山师事古涧慈稽长老，学习佛经和儒典。入建仁寺不久后，就能独立用朱笔句读苏轼的全集。古涧长老是京都学识最渊博的和尚，有“五山博识”的美誉。他获得高僧指点，聪颖过人又刻苦用功，一年之内林罗山就熟读《蒙求》《旧注五经》《唐宋诗篇》《东坡全集》《南华口义》和白居易的诗文集，在寺院群僧中有鹤立鸡群之感。林罗山后来成为日本江户时代的通儒，与他青少年时代勇猛精进的求学精神密不可分。

在日本，长期以来佛教对社会的影响根深蒂固，佛门属于上层社会阶层，僧侣是极受推崇的上等职业。林罗山年纪轻轻，学力拔群，得到了寺院上下的一致认可，在旁人看来也是未来的住持、方丈的不二人选，主持也不断催促他早日剃发出家。但林罗山有着自己的深层考虑，几度以“身体头肤，受之父母，不敢毁伤，孝之始也”为由敷衍搪塞。为了避免被强行剃度，15岁那年，他干脆逃离建仁寺回到家中。向养父母说明原因后，获得谅解并继续供他居家学习。弃寺还家，是林罗山一生学问事业的原点。林罗山郑重其事地记在自编年谱里，并津津乐道，意在说明，在15岁的时候，他就已经在思想上、身份上和佛教划清界限了。实际情况如何，不得而知。我们知道的是，日后林罗山将朱子学从佛教中独立出来，把它作为一项经世致用的政治学和伦理学，这一步非常关键。无论是今后“儒者林罗山”的横空出世，还是朱子学在日本一度大行其道并迎来鼎盛，都与此事有着逻辑上的关联。(www.daowen.com)

居家自学，林罗山才开始系统地研究中国儒学，尤其是对以《四书集注》为中心的朱子学产生了极大兴趣，并倾注大量心血刻苦研究。据说有一次外出拜访某硕学，交流《论语集注》时发现其中脱落一页，罗山不假思索展纸提笔，一会儿就将脱落的内容写上，那人后来对照，发现竟然一字不错。相对从小就接触佛教经典和唐宋诗文的他来说，他接触朱子学的时间相对较晚。不过，朱子学的著作对他治学思想和人生所产生的影响之巨，甚至远远超乎以往所获得的学问知识的总和，对他人生事业影响极为深刻。

林罗山天资颖悟，加上孜孜不倦的用功，20岁出头就以满腹才学名闻京都，此后开始公开授课讲学，依照朱熹《论语集注》的旨趣，演讲《论语》等儒家经典。无论是林罗山的才学，还是他介入宣扬儒学的方式都极具颠覆性，乃至在当时的思想界引发巨大的震动，无形中动了京都朝廷御用学者的“禁脔”，不免招来忌恨和弹压。

早期日本，学问掌握在朝廷公卿手里，包括《论语》在内的中国典籍的翻译权、解释权，都被公家的贵族所垄断，并且作为一个特权世代延续。到了日本中世时期，这一学问垄断特权由朝廷贵胄的清原家把持，是为“明经家博士”。清原家的《论语》解释以东汉何晏古注为根本立场，是自古已然的正统。而朱熹的观点来注解四书五经则属于旁门左道，并没有被京都主流学术界所采纳运用。在这种情形下，林罗山以一介民间布衣学者的身份，根据朱熹《论语集注》来宣讲儒家著作，对于长期居于主流意识形态的学术阵营来说，是一个无法容忍的异类。据载，清原秀贤曾为此向德川家康弹奏：“自古无敕许，则不得讲书，朝绅犹然，何况处士抗颜讲新说，不可不罪也。”出乎意料的是，家康非但没有降罪林罗山，甚至还驳斥清原：“讲者可为奇也，诉者其志狭隘矣！”一句话就结束了京都的明经家学，而林罗山此后得以畅行无阻地讲授朱子学，很快成为京都儒学领域最耀眼的一颗学术新星。

不久，林罗山因缘际会结识了扬名朝野的儒学者藤原惺窝，这成了他人生事业的一大转折点。