Se o espaço expande, por que a massa também não expande?

Expande sim. Os átomos aumentam de tamanho. A separação entre eles aumenta. O chamado "Big Rip" seria, exatamente, o rasgo de toda a matéria pela expansão aceleradíssima do Universo, quando, então, os próprios quarks ou os préons se esgarçariam, destruindo a estrutura dos tijolos constitutivos da matéria.