山口県吉敷郡秋穂町に生まれる。明治３７年（１９０４）京都市立美術工芸学校日本画科に入学、明治４１年同校卒業。その後京都市立絵画専門学校に入学し竹内栖鳳に師事、大正２年（１９１３）同校卒業。この年第７回文展に入選し褒状を受ける。大正８年日本画を断念、洋画を志して鹿子木孟郎の画塾に入門、林重義、北脇昇らを知る。大正１１年上京、梅原竜太郎、中川一政、林武らの指導を受ける。大正１４年第３回展、大正１５年第４回展の春陽会賞を受賞、翌年春陽会会員となる。昭和９年春陽会を退会して、独立美術協会会員となる。以後独立展、秀作美術展、日本国際美術展、現代日本美術展などに出品。昭和２８年芸術選奨文部大臣賞を受賞。小林は、生涯の大半を広島県尾道市を拠点に、日本各地に風景画の題材を求めて写生旅行を行っている。四国も室戸岬や伊予久万、佐田岬、松山、土佐四手峠、阿波牟岐、阿波海南（春郊）などを訪れ、多くのスケッチを残している。（「東四国阿波讃岐風景画展」図録　１９９３年）