Ich bin ja schon länger Nutzer von Putty unter Windows, dass es mit Cygwin und Konsorten auch da alternativen gibt, war mir so halb bewusst, aber Putty ist einfacher zu nutzen, wenn man nur SSH braucht. Das geht auch mit einem Portable File. Ohne Installation.
Nun bin ich neulich über MobaXterm gestolpert. Portable, muss nicht installiert werden. Enthält Cygwin (stellt also UNIX-artigen Zugriff auf Windows bereit) und einen X-Server in einem 18MB-Bundle. Untestützt so ziemlich jedes Remote-Protokoll. Wenn jemand sowas braucht: Hier ist die Lösung. Die Professional-Edition kann auch noch angepasst werden, kostet dafür dann aber 50€. Wie gesagt, die Personal Edition ist erträglich nutzbar, inklusive Tunnel-Manager.