Ernesto, é possível fazer uma calculadora de limite, derivada e integral? Seria muito difícil criar um algoritmo? (sei que você não é da área da computação, mas seria muito dificultoso?)

Não só é possível como já existe:
HP-50G
HP-Prime
TI-nspire-CX-cas
Todavia elas requerem o estudo do manual (disponível pela internet)
Também há versões online:
http://engenhariacotidiana.com/emulador-hp50g-download/
http://www.hp-prime.de/en/category/13-emulator
http://www.free-online-calculator-use.com/algebra-calculator.html
http://www.calculators.org/math/algebra.php
http://www.webmath.com/anything.html
Para outras possibilidades, procure no Google:
Algebra Calculators
Também existem os programas de Cálculo Algébrico para instalar no PC (ou Mac):
https://www.wolfram.com/mathematica/
http://www.maplesoft.com/products/Maple/
Há, ainda, os gratuitos:
http://andrejv.github.io/wxmaxima/
http://maxima-online.org/