《每周评论》一九三四年第一四八期有《林损作联嘲胡适》一则:闻胡适演讲蔑视儒家,林损嘲为“狗之屁”,联嵌“适之”:“人生各有适,吾道竟何之。”横批“胡为乎”。胡适听说后,不甘示弱:“他自发于余窍耳,于我何损。”
胡适在一九一八年四月刊行的《新青年》杂志上发表《建设的文学革命论》,倡导“国语的文学,文学的国语”,林损撰万言《汉学存废问题》予以反驳。据陈谧《林损传》,该文“力辟其不可行者凡二十五事,玄同及适亦不敢谓非”,送他一个绰号“骨董”。在此背景下,林损还写了《天下文字必归六书论》《转注从戴说》《注音字母为灭汉学之原》等文,惜均已佚。
林损对白话文的态度,在一九一三年撰写的《说报》一文中可见一斑:“所谓文之工者,曰神理气味格律声色,八者咸备,即尔雅渊懿之文也。”“尔雅渊懿,则入人必深;粗犷鄙倍,则入人必浅。”“文与语分,此文章之所以离群而立也。”他举《列子》中“使龙发于余窍,子亦将承之”和《荀子》中“如以狐父之戈触牛矢”两句为例,如翻译成白话即“若公孙龙所发之屁,魏牟亦将食之”“硬棒触粪”,则“鄙倍极矣”“粗狂至矣”。但大势所趋,后来林损对白话文的态度也有所改观,他的学生徐英《林公铎先生学记》称《中国文学讲授发端》涉及文言与白话的关系,“白话之提倡与否,今所不论也,然要不能屏之于文之外,则似无可疑者”。