Ο Άγιος Ρούφος διαδέχθηκε στον αρχιεπισκοπικό θρόνο της Θεσσαλονίκης τον άγιο Ανύσιο (βλέπε 30 Δεκεμβρίου). Σ' αυτόν απευθύνονται παπικές επιστολές, το περιεχόμενο των οποίων έχει βαρύνουσα σημασία για την εκκλησιαστική ιστορία της Θεσσαλονίκης. Με την επιστολή του πάπα Ιννοκεντίου (402 - 417 μ.Χ.) στις 17 Ιουνίου του 412 μ.Χ., ιδρύεται τυπικώς το Βικαριάτο της Θεσσαλονίκης και καθορίζονται τα καθήκοντα του παπικού βικαρίου, δηλαδή του εκάστοτε επισκόπου Θεσσαλονίκης.
Προς το Ρούφο απευθύνονται και δύο σχετικές επιστολές του πάπα Βονιφατίου (418 - 422 μ.Χ.), διαδόχου του Ιννοκεντίου, α) το 419 μ.Χ. με αφορμή την εκλογή του επισκόπου Κορίνθου Περιγένους και β) το 422 μ.Χ. κατόπιν πληροφοριών για επικείμενη σύγκληση συνόδου για την επανεξέταση της επισκοπικής εκλογής του Περιγένους.
Ο διάδοχος του Βονιφατίου, πάπας Κελεστίνος Α' (422 - 432 μ.Χ.) απέλυσε το έτος 424 μ.Χ. επιστολές σε επισκόπους του Ιλλυρικού, με τις οποίες τους σύστηνε υποταγή στον παπικο βικάριο, επίσκοπο Θεσσαλονίκης Ρούφο, γεγονός το οποίο εκτιμάται πως αποκαλύπτει μία κρίση στις σχέσεις μεταξύ του παπικού βικαρίου και των υποκειμένων σ' αυτόν επισκοπων. Ο Ρούφος υπήρξε παραλήπτης και δεύτερης επιστολής του πάπα Κελεστίνου στις 11 Αυγούστου του 430 μ.Χ., με την οποία του γνωστοποιούνταν η σύγκληση συνόδου στη Δύση, η οποία κατεδίκασε την αίρεση του Νεστορίου.
Ο επίσκοπος Ρούφος υπήρξε στενός φίλος, ομόφρων και υποστηρικτής του αγίου Κυρίλλου Αλεξανδρείας στον αγώνα του κατά του Νεστοριανισμού. Προς αυτόν απευθύνονται δύο επιστολές του Κυρίλλου, οι οποίες αναφέρονται στα γνωστά δογματικά προβλήματα αυτής της περιόδου και στα εκκλησιαστικά δρώμενα που σχετίζονταν μ' αυτά. Όπως διαφαίνεται και από τον πρόλογο της πρώτης επιστολής, οι επιστολές αυτές είχαν ενημερωτικό χαρακτήρα, ούτως ώστε να αποφευχθεί η διαστρέβλωση της αλήθειας («...ἀνακοινοῦσθαι τῇ σῇ ὁσιότητι, ἵνα μὴ θρῦλοί τινες ἕτερα ἀνθ᾿ ἑτέρων λέγοντες ἐκταράσσουσι τοὺς αὐτόθι θεοσεβεστάτους ἐπισκόπους»). Και οι δύο επιστολές διακρίνονται για τη θερμότητα του ύφους τους και τους εγκωμιαστικούς χαρακτηρισμους που χρησιμοποιεί ο Κύριλλος για το πρόσωπο του Ρούφου («ἐπειδὴ δὲ πάνσοφός τε καὶ παντέλειος ὤν, ἐκέλευσας πεμφθῆναί τινα τῶν ἐμῶν πονηματίων...»).
Η τακτική ενημέρωση του Ρούφου για την έκβαση των εκκλησιαστικών πραγμάτων διαφαίνεται και από άλλη επιστολή του Κυρίλλου Αλεξανδρείας προς τον Ιωάννη Αντιοχείας: «γεγράφασι γὰρ καὶ τὰ ἴσα καὶ πρὸς τὸν θεοφιλέστατον ἐπίσκοπον Θεσσαλονίκης ῾Ροῦφον, καὶ πρὸς ἑτέρους τινὰς τῶν κατὰ τὴν Μακεδονίαν θεοσεβεῖς ἐπισκόπους, οἳ καὶ ἀεὶ συντρέχουσι ταῖς παρ᾿ αὐτοῦ ψήφοις».
Ωστόσο, για άγνωστη αιτία δεν κατέστη δυνατό να συμμετάσχει ο Ρούφος στις συνεδρίες της Γ' Οικουμενικής Συνόδου, που συγκλήθηκε το 431 μ.Χ. στην Έφεσο, για να καταδικάσει τις αιρέσεις του Νεστοριανισμού και του Πελαγιανισμού. Ως τοποτηρητής του υπογράφει ο επίσκοπος Φιλίππων Φλαβιανός: «Φλαβιανοῦ Φιλίππων, ἐπέχοντος καὶ τὸν τόπον ῾Ρούφου τοῦ εὐλαβεστάτου ἐπισκόπου τῆς Θεσσαλονικέων».
Το 434 μ.Χ. πρέπει να θεωρηθεί ως το έτος θανάτου του επισκόπου Ρούφου, αφού το 435 μ.Χ. στον αρχιεπισκοπικό θρονο της Θεσσαλονίκης έχει ήδη ανέλθει ο Αναστάσιος (βλέπε 16 Ιουλίου).
