Descendant d'une riche famille sénatoriale, Olybrius épouse Galla Placidia la Jeune, fille de l'
empereur Valentinien III.
En 455, lors du second sac de Rome par les Vandales, Olybrius est emmené par Genséric comme otage avec la veuve de
Valentinien III et ses deux filles. Cette captivité ne fut probablement pas très pénible, car Genséric sut apprécier les qualités d'Olybrius, au point qu'il le libéra en 462. Olybrius et son épouse s'installèrent à Constantinople.
En 465, à la mort de l'
empereur d'Occident Libius Severus, Genséric et l'
empereur d'Orient Léon Ier envisagent de le nommer empereur ; finalement Léon Ier lui préféra son général Anthémius.
En 472, le patrice Ricimer entre en conflit ouvert avec l'
empereur Anthémius. Contre lui, il appelle Olybrius, qui bénéficie d'une certaine légitimité comme ancien gendre de
Valentinien III, et dispose de l'appui de la classe sénatoriale et du roi des Vandales Genséric. Olybrius débarque en Italie et est proclamé
empereur devant Rome assiégée en avril 472.
Mais une fois liquidé Anthémius, Ricimer, qui commandait l'armée d'Italie, décède en août 472. Olybrius le remplace par son neveu, le jeune prince burgonde Gondebaud, avec le titre de patrice. Ce choix pouvait apporter à Olybrius le soutien supplémentaire des Burgondes. Cependant le pouvoir d'Olybrius ne dépasse pas l'Italie, et l'
empereur d'Orient Léon Ier ne le reconnaît pas, puisqu'il a détroné son protégé Anthémius. Mais Olybrius n'a pas le temps de régner : il décède à son tour en octobre 472, de mort naturelle. Gondebaud reste seul maître d'Italie, mais son origine barbare lui interdit le titre impérial. Il attendra quatre mois avant de trouver le successeur d'Olybrius : ce sera Glycerius.