慕尼黑是個宗教氣氛很濃厚的城市，城內有許多教堂。學校也多由教會舉辦。當時，居住在慕尼黑裏的猶太人，都把子女送到猶太學校，可居住在慕尼黑郊外的愛因斯坦距，離猶太學校太遠，加之學費又貴，於是，他進了一家離家近的天主教會辦的小學。
愛因斯坦的父親赫爾曼．愛因斯坦天生一個自由主義者，完全沒有猶太民族虔誠的宗教感情，雖然他也得遵守猶太教規，但骨子裏則以為信教不信教，信猶太教或信天主教都無所謂。
兒童的心靈太脆弱，很容易受到宗教情感的浸潤。上小學後，教義課上講的那些聖經故事、教堂裏的那種莊嚴氣氛、蕩漾在空中的教堂鐘聲、唱詩班的深沉的歌聲、喃喃的祈禱聲，這一切在愛因斯坦的心裡，產生出一種神秘而又崇高的感情。加之音樂與宗教的天然聯繫，剛剛被音樂吸引住的小愛因斯坦，竟同時為宗教所吸引。愛因斯坦晚年在《自述》中回憶道：「儘管我是完全沒有宗教信仰的（猶太人）雙親的兒子，我還是深深地信仰宗教。」
巴伐利亞的法律規定，所有學齡兒童都必須接受宗教教育。愛因斯坦所在的學校只提供天主教教義，在家裏，他又接受一位遠親講解的猶太教教義。十二歲之前，愛因斯坦有著熱烈的宗教情緒，一絲不苟地遵從教義訓示。他信基督教的耶穌，也信猶太教的耶和華。他對父母不守教規、不作禱告、吃豬肉非常反感，還親自譜寫了幾首尊崇上帝的歌，每天上學的路上都熱情地獨自哼著這些歌。
小愛因斯坦心靈中的宗教情感過於單純、純潔。可他在學校是天主教徒，在家又是猶太教徒，兩種宗教的歷史衝突，不可避免地傷害了小愛因斯坦。
一天，學校裏的教義老師帶著一隻大釘子來到班上，他開始講：
「猶太人自稱是上帝的選民，可是他們用這樣大的釘子，把上帝的兒子，我們的救世主釘在十字架上。」
教義老師舉起那隻大釘子，聲音顫抖起來：
「我們的主耶穌，手和腳釘在十字架上，淌著鮮血。可是，猶太人還恥笑他說：『如果你是上帝的兒子，你就從十字架上下來！』我們的主耶穌，痛苦地垂下頭，鮮血一滴一滴往下流……」
小愛因斯坦迷惑了。既然都是上帝的兒子，為什麼要相互殘殺？相互憎恨？
「骯髒的猶太人，豬！」街上反猶太人的惡毒咒罵聲，又在耳邊響起來了。讓人相互尊重、相互友愛的宗教卻讓人相互咒罵、相互殘殺，太難解了。小愛因斯坦要的是一個和諧、善良、光照一切的上帝，討厭一切教派間的爭吵、攻擊和謾罵。也許從這一刻起，愛因斯坦就獲得了獨特的宗教觀。就像五十歲時，愛因斯坦就宗教問題說：
「至於宗教派別的傳統，我只能從歷史上和心理學上來考查；它們對於我再沒有別的意義。」
十二歲時，愛因斯坦接觸《力和物質》以及《自然科學通俗讀本》兩本書後，一下就拋棄了世俗的宗教觀，他不再信仰《聖經》裏的上帝，也不信來世的天堂，也不再以虔誠的祈禱去鋪平通向天堂的道路。步入科學殿堂的愛因斯坦，以純潔的宗教感情迷戀起新的「上帝」——和諧的宇宙、自然規律。
在《自述》中，愛因斯坦有一段很長的回憶，清晰地講出他宗教信仰的變化過程。他說：
「這種信仰，在我十二歲那年就突然中止了。由於讀了通俗的科學書籍，我很快就相信，《聖經》裏的故事，有許多不可能是真實的。其結果就是一種真正狂熱的自由思想，並且交織著這樣一種印象：國家是故意用謊言來欺騙年青人的；這是一種令人目瞪口呆的印象。這種經驗引起我對所有權威的懷疑，對任何社會環境裏都會存在的信念，完全抱一種懷疑態度，這種態度再也沒有離開過我，即使在後來，由於更好地搞清楚了因果關係，它已失去了原有的尖銳性時也是如此。
「我很清楚，少年時代的宗教天堂就這樣失去了，這是使我自己從『僅僅作為個人』的桎梏中，從那種被願望、希望和原始感情所支配的生活中，解放出來的第一個嘗試。在我們之外有一個巨大的世界，它離開我們人類而獨立存在，它在我們面前，就像一個偉大而永恆的謎，然而至少部分地是我們的觀察和思維所能及的。對這個世界的凝視深思，就像得到解放一樣吸引著我們，而且我不久就注意到，許多我所尊敬和欽佩的人，在專心從事這項事業中，找到了內心的自由和安寧。在向我們提供的一切可能範圍內，從思想上，掌握這個在個人以外的世界，總是作為一個最高目標而有意無意地浮現在我的心目中。有類似想法的古今人物，以及他們已經達到的真知灼見，都是我的不可失去的朋友。通向這個天堂的道路，並不像通向天堂的道路那樣舒坦和誘人；但是，它已證明是可以信賴的，而且我從來也沒有為選擇了這條道路而後悔過。」
愛因斯坦以科學家的眼光，向世俗宗教提出了疑問和批判，又以科學家的邏輯，講述著新的「上帝」的故事。一九二九年四月二十四日，紐約猶太教堂牧師哥耳德斯坦，從紐約發出一份海底電報到柏林，問愛因斯坦：「您信仰上帝嗎？回電費已付。請至多用五十個字回答。」愛因斯坦在接到電報的當天，就發了回電：「我信仰斯賓諾莎的那個在存在事物的有秩序的和諧中顯示出來的上帝，而不信仰那個同人類的命運和行為有牽累的上帝。」這裡所說的「那個同人類命運和行動有牽累的上帝」，當然是指教會所推崇的、被千萬虔誠教徒所禮拜的那個「世俗」的上帝，但什麼又是斯賓諾莎的「那個在存在事物的有秩序的和諧中顯示出來的上帝」呢？
斯賓諾莎是十七世紀著名的荷蘭籍猶太哲學家。二十三歲時，由於堅持泛神論被教會放逐，長期蟄居鄉間，靠磨光學玻璃片糊口，終生過著極其淡泊、孤寂的生活。斯賓諾莎把近代西方泛神論，發展到了完美的階段。他認為，上帝和大自然是同一回事：「上帝並不是站在自然秩序以外，作為第一推動者的形而上學，或準科學的假設。上帝就是自然秩序。」他還認為，如果我們把「上帝」與他所創造的「自然」區別開來，那麼上帝就不可能是無限的和全能的，因為在「上帝」之外還存在某物，而此物具有上帝所不具有的屬性，因此，這就必然限制了上帝的能力和完善性。這樣的上帝，他認為是難以想像的。按照馬克思的解釋，斯賓諾莎的上帝就是「形而上學地改了裝的、脫離人的自然」。也就是在這個意義上，費爾巴哈說「斯賓諾莎是現代無神論者和唯物者的摩西」。愛因斯坦把斯賓諾莎的「對神的理智的愛」，即求得對自然界和諧的理解，奉為自己生活的最高目標。他明白地指出：「我的見解，接近於斯賓諾莎的見解：『讚美秩序與和諧的美，相信其中存在的邏輯簡單性』，這種秩序與和諧我們能謙恭地而且只能是不完全地去領會。」「同深摯的感情結合在一起的，對經驗世界中所顯示出來的高超的理性和堅定信仰，這就是我的上帝的概念。」
愛因斯坦的助手霍夫曼，在一篇回憶愛因斯坦的文章中寫道：「每當他判斷一個科學理論，他自己的或是別人的，他都會問自己，如果他是上帝的話，是否會像那樣地創造世界。這個差別乍看起來似乎很接近於神秘主義，而不接近於一般的科學思想，可是它表明愛因斯坦信仰宇宙中，有一種最終的簡單性和美。只有一個在宗教上和藝術上，具有一種深摯信念的人，他相信美，等待去發現，才會構造出這樣的理論……」
愛因斯坦既要拋棄那全知全能的上帝，又無比眷念純潔、深摯的宗教感情。科學理智與宗教情感的奇特混合，是愛因斯坦人格精神的奇妙外觀，也是他打破舊物理學大廈的動機之一。所以，在愛因斯坦成為一代物理學大師之後，科學與宗教仍是他不斷提及的話題。
一九一八年四月，柏林物理學會為麥克斯．普朗克舉行了六十歲生日慶祝會。在慶祝會上，愛因斯坦以「探索的動機」為題發表了講話。他認為真正的科學家，都是一些「相當怪癖、沉默寡言和孤獨的人」，他們為什麼會步入科學殿堂呢？瞭解愛因斯坦童年時代性格怪癖、沉默和突然一下子癡迷科學的人，不得不想到，這個設問正是絕好的自我解剖。愛因斯坦說：
「首先我同意叔本華所說的，把人們引向藝術和科學的最強烈的動機之一，是要逃避日常生活中，令人厭惡的粗俗，和使人絕望的沉悶，是要擺脫人們自己反覆無常的慾望的桎梏。一個修養有素的人，總是渴望逃避個人生活，而進入客觀知覺和思維的世界；這種願望，好比城市裏的人，渴望逃避喧囂擁擠的環境，而到高山上去享受幽靜的生活。在那裏，透過清寂而純潔的空氣，可以自由地眺望，陶醉於那似乎是為永恆而設計的寧靜景色。
「除了這種消極的動機以外，還有一種積極的動機。人們總想以最適當的方式，來畫出一幅簡化的和易領悟的世界圖像；於是他就試圖用他的這種世界體系＜註一＞來代替經驗的世界，並來征服它。這就是畫家、詩人、思辯哲學家和自然科學家所做的，他們都按自己的方式去做。各人都把世界體系及其構