Pode-se aprender física superior apenas por diletantismo, sem fazer curso?

Isso é bem difícil, mas não impossível. A questão é que o estudo avançado de Física exige uma Matemática também muito avançada, difícil de ser estudada diletantemente. Não tem como escapar dessa Matemática. Quem diz que se pode entender Física apenas conceitualmente se engana. Não dá mesmo. Vá a uma livraria e dê uma folheada em um livro de "Métodos Matemáticos da Física", como o do Arfken, para ter uma ideia. Ou pegue um livro de Eletromagnetismo, como o do Jackson ou de Mecânica Quântica, como o do Cohen-Tannoudji ou, ainda, de Mecânica Clássica, como o do Symon.