さくらの VPS で、カスタム OS インストールをしようとしたのですが、VNC コンソールが立ち上がりませんでした。
原因は、Java のセキュリティ設定でした。
以下、Mac の場合ですが、Windows などでも同様の手順で対処できると思います。
対処方法
最新版の Java をインストールする http://java.com/
「セキュリティ」タブの「例外サイト・リスト」に https://secure.sakura.ad.jp/ を追加
Firefox か Safari で、VPS コントロールパネルを開く。Mac Chrome は、Java7 に対応していないようです