सन् 1976-77 में वे राज्यसभा की सदन समिति के सभापति नामित किये गये। श्री आरिफ 1980 में राजस्थान कांग्रेस के कार्यकारी अध्यक्ष नियुक्त हुए। इसके पूर्व वे 1961 में राजस्थान मुस्लिम वक्फ बोर्ड, 1976 में केन्द्रीय वक्फ परिषद, 1963 में बीकानेर नगर इम्प्रूवेमेन्ट ट्रस्ट, 1966 में राजस्थान साहित्य अकादमी तथा राजस्थान हज कमेटी, 1967 में राजस्थान प्रदेश कांग्रेस कमेटी तथा बीकानेर जिला कांग्रेस कमेटी के सदस्य रहे। वे 1970 में राज्यसभा के सदस्य चुने गये और 1976 और 1982 में पुनः राज्यसभा के सदस्य हुये।1980-82 में वे केन्द्रीय निर्माण एवं आवास मंत्रालय में उप मंत्री रहे। इसके बाद 1983-84 में दोबारा केन्द्रीय निर्माण एवं आवास मंत्रालय में उप मंत्री पद पर रहे तथा 1983-84 में ही वे केन्द्रीय कृषि एवं पूर्ति मंत्रालय में उप मंत्री के पद पर भी रहे। 31 मार्च, 1985 से 11 फरवरी,1990 तक श्री उस्मान आरिफ ने उत्तर प्रदेश के राज्यपाल के पद को सुशोभित किया