兒時，林語堂祈禱時，常常想像上帝必在他的頭頂幾寸之遙，靠近他的頭髮。這種想像令他有一種不可言說的感覺。
在廈門讀小學時，林語堂曾測試上帝是否存在。他每周有一個銅元的零花錢，買一個芝麻餅後還剩下四文，只夠買四個糖果。某次，他祈求上帝能讓他拾到一個銀角子，夠他去飯館吃碗素麵。他再三閉目禱告，希望出現奇蹟，但結果令他失望。
在廈門鼓浪嶼讀書時，林語堂發現外國人分為三類，一類是傳教士，身穿清潔無暇的白衣，一類是水手，他們喝醉酒後在街上狂歌、亂叫，還有一類是商人，坐著四人轎子，對中國孩子隨意拳打腳踢。林看到這些友善的傳教士和窮凶極惡的水手、商人都是乘坐停泊在廈門港口的外國戰艦一起來到中國的，多少有些失望。一次，他偷偷到外國俱樂部，看見舞會上的「外國男女，半裸其體，互相偎抱，狎褻無恥，行若生番」，林覺得驚駭又醜惡。
入聖約翰大學後，林語堂最先讀的是神學班，最讓林接受不了的基督教理論一是耶穌為處女所生，二是耶穌肉體升天之論，他向教授們提出疑問，教授也說這兩條有問題，他們自己也不相信。林十分憤怒，他覺得，既然自己的神學家都不相信，那為什麼一定要中國的教徒先接受這兩條才能受洗，這是偽善。一年後，林語堂離開了神學班。
林語堂回憶：「有一次在假期回家，我在教會登壇講道，發揮舊約《聖經》應當做各式的文學讀，如《約伯記》是猶太戲劇，《列王記》是猶太歷史，《雅歌》是情歌，而《創世紀》和《出埃及記》是很好的、很有趣的猶太神話和傳說。這宣教辭把我父親嚇得驚惶失措。」
但此時林語堂還是無法放棄對上帝的信仰，他說：「我總不能設想一個無神的世界。我只是覺得如果上帝不存在，整個宇宙將至徹底崩潰，而特別是人的生命。」在清華任教時，他還主動承擔了一個星期日聖經班的課程，向學生們宣講基督教知識。
一次，林語堂問清華同事劉大鈞：「如果我們不信上帝是天父，便不能普愛同行，行見世界大亂了，對不對呀？」劉答：「為什麼呢？我們還可以做好人，做善人呀，只因為我們是人的緣故。做好人正是人所當做的。」林猛然醒悟，「同基督教之最後一線關係剪斷了」。
在哈佛留學時，林語堂對夫人說，基督教最使他不滿的是，它注重罪惡，要耶穌替人贖罪，才可以進入天堂。他又說，何必要天天禱告，有什麼事都去麻煩上帝，一天叫他多少遍，像個三歲的孩子叫媽媽一樣，上帝聽了會不會厭煩？廖翠鳳聽了這話不敢出聲，只覺得丈夫在胡說八道，希望千萬別被別人聽見了。
50年代，林語堂重新皈依基督教。一次，在美國的林語堂陪廖翠鳳去做禮拜，林覺得牧師的講道很有啟發性，於是每個星期天都去聽講，覺得心安神樂，就自然地皈依了基督教。
林語堂曾解釋他重新皈依基督教的原因：「三十多年來，我唯一的宗教乃是人文主義，相信人有了理性指引就什麼都不假外求，只要進步，世界就會自動變得更好。可是在觀察二十世紀物質主義的進展，和不信上帝的國家裡所發生的種種事態之後，我深信人文主義不夠，深信人類如果要繼續生存，需要接觸自身以外，比人類偉大的力量。」