复员回国
1955年复员回国的小林，受监视直到85岁后才解除，但他依然四处演讲作报告，揭露日本侵华战争的真相。他现任“八·四会”会长(即八路军、新四军之会)。
很多日本战俘加入八路军后，为保护其家属在日本国内不受牵连和迫害而改名换姓，但小林宽澄却一直沿用自己的姓名，只是在1948年担任济南市人民政府外事办工作员时，短暂使用过“高云”这个中国名字。
加入八路军后，小林宽澄就加入了一个特别的组织。这个名叫“日本士兵觉醒联盟”的组织是由杉本一夫等七名日本籍八路军战士于1939年11月成立的反战组织。杉本一夫是第一批参加八路军的日本战俘。
虽然小林宽澄加入了反战组织，可在刚开始的时候，他从内心里对反战工作并不积极。
小林宽澄：“我是日本人，我是日本民族，这个民族观念反对这个，反对新的理想，所以民族主义观念一直(存在)。给我起到很大的坏的影响。”经过教育，小林宽澄虽然放弃了军国主义思想，但他脑子里的民族主义思想让他无法那么快就去反对由日本发动的这场侵略战争。那时，小林宽澄最大的敌人就是他自己。然而，一年之后，他的思想却发生了很大的变化。
小林宽澄：“经过了一年的时间，想到我总是这样活下去，我本身没有意义，相反的，和中国人民一起活动的话，我的理想也能够实现，所以我的民族观念也死掉了，放弃了。放弃以后，我就按理想很自由的活动起来了。思想就开明了。”
多次访华
小林宽澄一家是1955年12月18日离开丰镇回日本的。小林在丰镇结婚，大儿子在这里出生。因为1954年中国公布了宪法，就给儿子起了‘宪明’的名字，小名叫‘友好’。当时医院的同志们抱着他叫着‘友好、友好’的请景，至今历历在目。他的夫人带着6个月的身孕离开的丰镇，到了日本生下了女儿。为了纪念丰镇给她取名叫‘丰子’。可以说，丰镇是他的第二故乡，也是儿女们的故乡。
1972年中日建交后，小林宽澄多次来到中国。
2008年12月4日，90高龄的日本籍老八路军、新四军战友会会长小林宽澄在成都“建川博物馆”与馆长樊建川协商增建“日本老八路纪念馆”事宜之后，飞回北京。他不顾旅途劳累，下午赶去与中日友好协会领导会面，汇报日本籍老八路的近况。晚上又接着赶到钓鱼台大酒店和中国国际交流协会的领导见面、协商延安日本工农学校旧址及纪念碑的修复。
2008年12月5日，他又匆匆忙忙赶到北京火车站，乘车向内蒙古丰镇进发。老人一路上几乎未眠，靠在窗边，心请机动地看着沿途的风景、熟悉的站名，不由得想起了几十年前的往事。
在张院长的陪同下，小林到医院旧址参观，旧址的房屋多数已被居民进行了改造。小林先生一边看那些旧房子，一边给大家讲述当年艰苦奋斗的故事。看完旧址，又乘车赶往市区西边的开发区，参观新的医院，沿途老人几次让司机停车，下来拍摄市里的街道、一排排的大楼，他边拍边喃喃自语地说着：变化太大了，都认不出来了。
2008年5月5日，小林宽澄渡过重洋来到山东省沂源县土门镇刘家洞村，在村外一座看似极普通却有着特殊意义的坟茔前，跪了下去。在日军扫荡期间，小林曾受到两个沂蒙革命家庭的掩护和救助。这一年，小林宽澄还专程前往八宝山革命烈士公墓，在舒同的墓碑前深切悼念。
2005年9月3日，他应邀参加了纪念中国人民抗日战争暨世界反法西斯战争胜利60周年大会，受到了胡锦涛总书记的接见。
2009年7月，小林宽澄90岁高寿之际，央视七套《军事纪实》播出的《一个日本籍的八路军》专题片，介绍了小林宽澄在华十五年的传奇经历。
日本老兵想建八路军博物馆
日本“八·四会”会长小林宽澄在朋友殷占堂的陪同下来到建川博物馆参观，主要目的是想建一个八路军博物馆。小林宽澄曾是侵华日军的一名机抢手，被俘后经过革命教育，毅然加入八路军，由一名侵略者变成了一名革命战士。
抗战中 代表中国劝降日本兵
经通两国语言的小林还经常代表八路军去劝降日本兵，并在他的倡议下，成立了胶东地区的“觉醒联盟”，印制传单，进行反战宣传。他现任“八·四会”会长(即八路军、新四军之会)。这次来主要是希望能建一个八路军博物馆。对此，建川博物馆负责人介绍，将为他们建私人展台，达到一定数量后不排除建一个馆。小林回国后将把保存的资料寄回做文物展览。
相关资料
“八·四会”(又称日本反战同盟会)，成立于1958年，其会员都是参加过八路军、新四军的日本人。据悉，当年有1000多名日军俘虏与其他日本反战友人加入八路军，在中国抗日战场上成立反战组织，掉转抢口对本国的法西斯势力反戈一击，堪称世界战争史绝无仅有的奇观。
人物荣誉
2015年9月2日，小林宽澄荣获中国人民抗日战争胜利70周年纪念章。
人物轶事
2016年3月26日，小林宽澄先生在韶山MAO主席铜像前热泪盈眶，敬上一个军礼。
在韶山，小林宽澄一行首先来到MAO泽东广场，瞻仰MAO主席铜像并敬献花篮。见到MAO主席铜像，小林宽澄感动流涕，庄严地敬上军礼，还朗诵了MAO主席的诗词《沁园春·雪》。虔诚的老人，闪亮的勋章，吸引了周围游客的目光，大家纷纷过来请求合影。小林宽澄一行还参观了MAO泽东同志故居和MAO泽东遗物馆。一路上，老人兴致勃勃，唱起了《八路军军歌》，心中的请感融入在了歌声里。
