Professor, estou tendo aulas de Geometria Analítica e Algebra Linear na faculdade, e me deparo com varios exercicios que pedem provas como: prove que se A*A^t = 0, A = 0 (matrizes). Como abordar esse tipo de problema?

Pois é. Isso é o tipo de habilidade que deveria ser treinada desde o Ensino Fundamental, mas as escolas e os alunos fogem disso como o diabo da cruz. Em minhas aulas era o que eu mais treinava com os alunos. Só há um meio de adquirir traquejo em demostrações: fazendo demonstrações. Para começar é preciso ver algumas já feitas. Para isso eu recomendo os livros de "Coleção Schaum". Tem sobre todos os assuntos de matemática.