Suponhamos que um ateu estude em um colégio cristão. ele é obrigado a participar das missas?

Claro que não. Mesmo que não seja ateu. Pode ser muçulmano, espírita, budista, hinduísta ou até, cristão não católico, nem anglicano ou ortodoxo, que não frequenta missas. Todavia, não sei porque um não cristão iria estudar em um colégio cristão. Se optou pela qualidade do ensino, acho que pode se submeter ao ritual do colégio, só para não criar caso, mesmo que não ache que aquilo tenha nenhum significado.