Предлагаю промежуточный вариант к первым двум:
а) ставим какой-либо портабельный браузер (их сейчас много на выбор - как нативно портабельных типа K-Meleon, так и подготовленных умельцами сборок Хромов, Фоксов и всего остального).
б) ставим программу Toolwiz BSafe www.toolwiz.com - или аналогичную.
С ее помощью создаем файл-сейф достаточного размера (пары гигов хватит для начала) с паролем.
Далее этот сейф ведет себя как новый логический диск в системе (в открытом состоянии) и как просто непонятный файл (который можно сделать скрытым, например) в закрытом и зашифрованном.
в) помещаем портабельный браузер на этот логический диск, а по окончании работы просто "закрываем сейф". Все.
На самом деле этот вариант я описал, потому что он прекрасно подходит для хранения всякой средне-конфиденциальной информации. В том числе и для защиты ее от вирусов-шифровальщиков. Надо только не забывать сейф закрывать.
Этот же функционал (сейфа) есть в отличном комбайне ToolWiz Care, который хоть и не обновлялся давно, но остается шикарным средством ухода за системой. Там еще много полезных инструментов.
Также как вариант установить специальный плагин, запрашивающий пароль при запуске браузера.
P.S. сам в большинстве случаев использую метод, описанный в предыдущем ответе: portable версию браузера в зашифрованном файле-контейнере. Этот файл также удобно хранить на флешке в комплекте с portable версией программы для его дешифровки.