Ernesto, na expressão: x²-x / x³+3x²+2x sendo x=998, na minha conta deu 0,0006669 mas está errada. como fazer essa operação?

Novamente considerando que a expressão signifique (x² - x) / (x³ + 3x² + 2x) e pondo x = 998, vém:
(998² - 998) / (998³ + 3x998² + 2x998) = (996.004 - 998) / (994.011.992 + 3x996.004 + 2x998) =
= (995.006) / (997.002.000) = 997/999.000 (simplificando por 998) = (997/999)/1000
Observe que 997/999 é a geratriz da dizima periódica 0,997...
Logo o resultado é 0,000997997997...