O que você acha de ateus ou agnósticos usarem expressões como "meu Deus" e "pelo amor de Deus"? Sendo que são expressões como "bom dia", você as diz por costume. E creio que ninguém realmente pensa no amor de Deus quando diz "pelo amor de Deus!!".

Isso é perfeitamente normal e não significa que se creia em Deus. Também se diz "Nossa Senhora!", inclusive protestantes que não acham que os santos intercedem pelas pessoas a Deus. Tratam-se, meramente, de expressões idiomáticas, consagradas pelo uso, mesmo que originárias da fé, mas, agora, já independentes dela. Aliás, na prática, muita gente que se diz adepta de alguma religião, na verdade, não crê em Deus, especialmente quem comete crimes ou é corrupto. Trata-se de um "niilismo prático".