A cette époque, il fait la connaissance de Sainte-Beuve et écrit en collaboration avec sa femme, Caroline, le recueil de vers
Les deux Voix. Il rédige également des études d'histoire nationale, comme
Le Canton de Vaud, sa vie, son histoire, son oeuvre majeure, dans laquelle il présente les divers aspects de la
patrie de Vaud: géographie, paysages, population, architecture, langage, caractère, histoire. En 1846, il s'établit à Paris, la Révolution vaudoise l'ayant destitué de ses fonctions. Dans la capitale française, il vit de sa plume, parfois péniblement. Il dirige la
Revue suisse de 1843 à 1845, puis en demeure le collaborateur parisien jusqu'en 1860, et collabore à la
Revue des Deux-Mondes, qui publie sa correspondance avec Sainte-Beuve.
Il revient en Suisse en 1870, se fixe à Gryon. Oublié du public, il peine alors à trouver un éditeur pour ses productions. C'est grâce aux critiques des générations suivantes, dont
Eugène Rambert et Philippe Godet tout particulièrement, engagés dans l'édification d'une littérature suisse française indépendante et spécifique, que Juste Olivier devient le prototype de l'écrivain romand, l'incarnation de l'âme du pays.
