Une élection partielle en Lot-et-Garonne suite au décès du sénateur Edmond Laporte, propulsa, en 1890, Armand Fallières au Sénat. Candidat des électeurs républicains de son département, il fut élu au premier tour et, jusqu'à son élection à la présidence de cette Haute Chambre, ne prit quasiment jamais la parole en public, se contentant de se faire une réputation d'homme affable et de républicain modéré parmi ses collègues.
Il fallut deux tours, en 1899, pour qu'il soit élu président du Sénat à la place d'Émile Loubet appelé à la présidence de la République. Dans son discours de remerciement il définit les limites de sa nouvelle fonction : « Maintenir au profit de chacun le libre exercice de la parole et donner aux délibérations l'autorité morale qui en assure le respect ».
Ainsi régulièrement réélu à ce haut rang protocolaire, Armand Fallières fut un arbitre scrupuleux et diplomate des débats du Sénat, sans réel pouvoir que de prononcer des éloges funèbres ou des allocutions de circonstance.