Zum Aufräumen für 'zwischendurch' ist der Piriform CCleaner recht nett. Gründliches Aufräumen geht aber meiner Meinung nach nur per Handarbeit. Das birgt natürlich ein gewisses Risiko, wenn man zu unbedacht löscht, also zur Vorsicht: Wiederherstellungspunkt setzen. Also meinem System haben folgende Maßnahmen viel gebracht:
Wie @lejono schreibt: Autostart aufräumen. Außerdem Temp-Ordner leeren, alte Uninstall-Dateien löschen (sehen in etwa so aus: $NtUninstallKB825119$), sofern Du sicher bist, dass Du ein XP-Update nicht rückgängig machen möchtest. Die _restore-Dateien im System Volume Information-Ordner (versteckt) löschen. Alle - wirklich alle - Programme die Du im Moment nicht brauchst deinstallieren, kannst später immernoch neu installieren ... ich habe jedenfalls das Gefühl: je leerer die FP, desto effektvoller ist die Defragmentierung. Am besten alle Deine Dateien extern sichern und auf der FP löschen, auch wenn diese auf d: liegen, kannst ja später wieder zurückholen, wenn Du sie benötigst. Falls d: vorhanden, gleich mit aufräumen und den Virtuellen Arbeisspeicher auf d: legen.
Den Windows\Driver Cache, den Windows\Prefetch-Ordner, Windows\system32\dllchache (versteckt) leeren. Dienste deaktivieren => google. Windows-Tools entfernen http://www.chip.de/artikel/Windows-XP-Tuning-Tipps-III-5_12872949.html. Wie Du z.B. auch alte Treiber löschen kannst, steht hier: http://www.windows-tweaks.info/html/unused-treiber.html.
Ein sinnvolles kleines Tool ist finde ich, die Glary Registry Repair. Die räumt die Registry gründlicher auf, als der CCleaner. Die Registry kannst Du vor dem Defragmentieren aufräumen lassen, mache ich auch immer mal zwischendurch, wenn ich was installiert oder deinstalliert habe.
Zum Defragmentieren benutze ich Auslogics Disk Defrag, weil das wesentlich schneller geht, als mit der windowsinternen Defragmentierung. Ich lasse damit einmal die Woche defragmentieren, dann ist das Tool ruckzuck damit fertig.
Das ist zwar nicht alles was Du machen kannst, sollte aber schonmal ein fühlbares Ergebnis bringen.