林散之十六歲在家自學，學的詩文請范柳泉指導，習得書法請范培開指導。同時在大姑家當教書先生。
大姑夫認識張栗庵，讓他去拜師學藝，張栗庵也是范培開的師傅。
張栗庵在安徽和縣鋪集漁家網村見到了林散之，張很喜歡，因為林散之年輕好學，樸實無華，談吐不俗，對古詩文已有相當基礎，他說:讀書人求學問，在能自立時，首先要知道門徑，要有師承，要講求法度，憑自己想象去臆造不行，漢儒經師，都有師承法度，你學習勤奮，但千萬不能圖虛名，荒度歲月，漢代司馬遷寫史記，敘事質樸無華，文詞簡潔，宋代程氏兄弟及朱子，學說源自老莊，出筆皆能闡發六籍之精髓，以誠為本，窮理為主，明代歸有光承其遺法，工古文經術，法度嚴謹，晚清以桐城派方苞姚鼐為首應學其法度，精研經學。
林散之見到張先生后才知道做學問的門徑。
林散之說張先生不但指導他寫詩文的法度，後來到上海從師黃賓虹也得力於張的大力推薦。有一次大病，也是張處方救活。張先生臨終前，林散之去看他，得先生肖像一副，從此懸挂於江上草堂，時時鞭策。
一日張栗庵見林散之作《陶淵明醉酒圖》說他對古詩文詞有所悟，夙所秉承而能進其所介，唯六法之道非可臆造，開導點化，是在真師，切不能鶩於虛名，誤入歧途，空度歲月，吾友黃賓虹，海內名宿，可往師之。
於是32歲的林散之，四個孩子，尚有一子在腹中的人，去上海投師黃賓虹。
他有一詩:為留傳統一枝花，不辭辛勞育新芽，佳節春秋齊放日，讓她先後吐紅霞。
一次東北雞西一個小姑娘才12歲，小姑娘不慌不忙在林散之跟前懸腕揮毫寫了一副頗為老練的草書，林喜歡，於是他告訴小姑娘，寫大字要用臂力，不能光用腕力，用筆才能力透紙背，這是真力，寫字時，手不能抬高，也不能拖在下面，要上到下一樣平，這叫平肘，還要虛腕，虛腕才能使手中的筆自由轉動，隨心所欲。林散之對小姑娘的父親說，他自己18歲開始學唐碑魏碑，30歲以後學行書，60歲以後才寫草書。小孩子學書，要先由楷入行，由行入草，打好基礎，否則，釘頭鼠尾，諸病叢生，要該就難了。
林散之給小姑娘寫了一副，又寫一幅，，他一向對真正愛書者有求必應。