Eu vejo muito a expressão "provado matematicamente" por aí, mas o que significa isso de fato? Como se prova uma coisa matematicamente?

A matemática é uma espécie de lógica simbólica. Um fenômeno natural, social ou cultural pode ser modelado por grandezas que expressem quantitativamente os atributos das entidades envolvidas e equações que expressem as relações observadas entre esses atributos. Essas equações, em geral, são obtidas por indução, a partir da observação e experimentação, ou ainda, por métodos estatísticos. São as "Leis". Por meio das propriedades matemáticas das operações que aparecem nas equações (além das sete operações elementares, outras mais complexas, como derivação e integração, bem como as funções transcendentes (trigonométricas, exponenciais etc.)), podem-se deduzir outras relações delas derivadas, chamadas, em matemática, de "teoremas". Quando se diz que algo é provado matematicamente está se dizendo que é um teorema. Todavia, em ciência. nenhum teorema pode ser aceito só porque foi "provado matematicamente". É preciso se proceder a testes que validem, na prática, o resultado. Nem sempre isso ocorre. Quando não ocorre, ou não se procedeu corretamente á dedução (erro matemático), ou não se construiu adequadamente o modelo (erro científico). Há que se rever um ou outro, pois o que importa é como a realidade acontece e não como a ciência diz que acontece. O mais interessante é que, em geral, dá certo. Ou seja, uma dedução matemática leva a uma consequência que é verificada na prática. Isso é espantoso, pois não precisava ser assim, uma vez que a matemática é pura abstração. Tal fato leva alguns teóricos a supor que a matemática não seja tão abstrata assim, mas que reflita o modo como o Universo funciona.