sshdを有効にすると

Windowsマシンから接続できるsshクライアントの次のソフトを使う。
Poderosa(ポデローサ)
鍵を生成したら公開鍵をサーバに転送し、サーバ側でその公開鍵を登録するという作業を行う。

登録時の注意点
$ cat id_rsa.pub >> .ssh/authorized_keys の「>>」。
これを「>」とすると、今まで登録した鍵が消えてしまう。

以上Fioreさんのサイト参照

他に
ubuntu 7.10でリモートデスクトップ（VNCを使って）のサイトも詳しい。