バージョンアップは上書きでおｋ
アンインストールは不要らしい。

When upgrading TortoiseSVN, do I have to uninstall the existing version first? の適当訳

TortoiseSVNをアップグレードするときに、古いのは先にアンインストールすべき？

いいえ。そのまま新しいのを上書きしておｋです。
インストーラーが古いのを自動的にアンインストールしてくれます。
でも終わったあとにＯＳの再起動が必要だよ！
もしくは少なくともログオンしなおすべきだよ。
そうしないとぶっ壊れるかもよ！