Wenn Du gar keine speziellen Vorhaben hast, würd ich am ehesten Mathematica nehmen. Das hat viele sehr mächtige Methoden, um mathematische Aufgaben symbolisch zu lösen. Ableiten und Integrieren sind da nur die Basics. Ich würd jetzt auch sicher nicht behaupten, daß ich all die Möglichkeiten, die Mathematica bietet, ausreizen könnte (oder die Hintergründe überhaupt verstehen würde). Ist vermutlich als Unterstützung für Uni-Matheübungen viel besser geeignet als Matlab.
Für Matlab gibts zwar auch ein Toolkit für symbolische Manipulation, das ist aber AFAIK in der TU-Version nicht enthalten. Ich hab daher Matlab bis jetzt eigentlich hauptsächlich benutzt, wenn ich irgendwelche Algorithmen, die auf Matrizen basieren, ausprobieren wollte.
Maple hab ich noch nie benutzt, dazu kann ich nix sagen.