神が存在していないと考える人にとって、神の存在を前提としている聖書は意味が無いと思うのは当然です。そんなときは、道徳心＝神と考えても良いんです。みんな道徳心、良心を多かれ少なかれ持ってますよね？そのことを、キリスト教では神、霊性という名前で呼んでいるだけです。
「だれも、二人の主人に仕えることはできない。一方を憎んで他方を愛するか、一方に親しんで他方を軽んじるか、どちらかである。あなたがたは、神と富とに仕えることはできない。」
マタイによる福音書 6章24節
例えば、この箇所に出てくる神を道徳心と置き換えて読んでみましょう。「あなたがたは、（究極には）道徳心と富とに仕えることはできない。」どうです？元の文章よりは納得しやすいでしょう？
では、キリスト教では神が世界を作ったと言いますが、その創造主というコンテクストでは神をどのように読み替えたら良いのでしょう？
私たちは何かが起こるには原因があるはずだと考えますし、理由がないときはその出来事は偶然に起こったと考えるでしょう。キリスト教では、その理由や偶然のことを神と呼んでいるだけです。なので、もしあなたが神がいないと思うなら、物事の背景にあるもののことを「原因」や「理由」と呼んでも問題ないです。つまり、聖書に書かれている「神」を「原因」や「理由」だと読んでもらってもいいんです。
世界にはいろんな宗教があってそれぞれ別の神を信じているので、それが絶対的な神なんて存在しない証拠なのでは思えます。でも、もしある程度は文化を超えて存在する「道徳心」「原因」という概念と、神という概念が呼び方が違うだけで本質的に同じだったら、細かいところでは文化の差はあれど、大雑把に見れば人類全員大体同じ概念を共有している気がしませんか？
科学で何があったかを知ることができますが、なぜその事象が起きたのかは分からない（科学の範囲ではない）と言います。人類がどのように進化して今の私たちになったのかは分かりますが、なぜ人間が今の私たちになるように進化したのかは分かりません。そのなぜの部分を「偶然」と呼んでも、「神」と呼んでも良いだけだと考えるとシンプルで腑に落ちやすいかと思います。