यशवंतरावांना अंतर्गत पाठिंबा देऊन नवीन सरकारमध्ये उपपंतप्रधानपद स्विकारण्यास इंदिरा गांधींनी उद्युक्त केले. यशवंतराव देशाचे उपपंतप्रधान झाले. लोकसभेच्या विरोधी पक्षनेता ते देशाचा उपपंतप्रधान असा यशवंतरावांचा राजकीय जीवनातील अत्यंत महत्त्वाचा प्रवास म्हणून या घटनेकडे पाहिले जाते. इंदिरा गांधींनी चरणसिग सरकारला दिलेला पाठिंबा अल्पावधीतच काढून घेतला. परिणामी लोकसभेला सामोरे न जाताच चरणसिंग सरकारला राजीनामा द्यावा लागला. यशवंतरावांचे उपपंतप्रधानापदही त्यामुळे औटघटकेचेच ठरले. इंदिरा गांधी विरोधकांचे सरकार पाडण्यात यशस्वी ठरल्या, पण यशवंतरावांचा यामध्ये राजकीय बळी गेला. आयुष्यभर काँग्रेसशी पक्षनिष्ठा सांभाळलेल्या यशवंतरावांना न केलेल्या चुकांची फळे भोगावी लागली.
१९८० च्या निवडणूकीत काँग्रेस दोन गटात विभागल गेली. इंदिरा काँग्रेस विरुध्द निलम संजीव रेड्डींच्या नेतृत्वाखालील काँग्रेस असे काँग्रेसचे दोन भाग पडले. यशवंतराव रेड्डी काँग्रेसमध्ये दाखल झाले. 'गरिबी हटाओ' ही इंदिरा गांधींची घोषणा त्या काळात लोकप्रिय ठरली. देशात पुनश्च एकदा इंदिरा गांधींची लाट आली. इंदिरा काँग्रेस देशात स्वबळावर सत्तेवर आली. रेड्डी काँग्रेसचे एकमेव उमेदवार म्हणून यशवंतराव महाराष्ट्रातून विजयी झाले. यशवंतरावांचा राजकीय वनवास येथून पुढे ख-या अर्थाने सुरु झाला. स्वबळावर सत्ता मिळविलेल्या काँग्रेसला आता यशवंतरावांची गरज वाटेनाशी झाली. पुढचा काळ यशवंतरावांना केवळ वाट पहाण्यातच घालवावा लागला. नेहरुंपासून १९८० पर्यंत प्रत्येक वेळी यशवंतरावांना सन्मानाने केंद्रीय मंत्रिमंडळात बोलावून घेऊन संरक्षणमंत्री, गृहमंत्री, परराष्ट्रमंत्री, अर्थमंत्री अशी महत्त्वाची खाती देण्यात आली होती. यावेळी मात्र स्वाभिमानी विचाराच्या यशवंतरावांनी सत्तेपासून दूर राहणेच पसंत केले. पंतप्रधानांचा निरोप आला तरच जायचे, विचारलेला सल्ला तेवढा द्यायचा आणि परत आपल्या एकांतात गढायचे, असा राजकीय विजनवासाचा काळ त्यांच्या जीवनात सुरु झाला.
आपल्या वैयक्तिक जबाबदा-या पार पाडणे, येणा-या प्रसंगांना हसतमुखाने सामोरे जाणे हा स्वभाव यशवंतरावांना त्या काळात उपयुक्त ठरला. या काळात यशवंतरावांनी 'कृष्णकाठ' हे आपले आत्मचरित्र लिहिलण्यास घेतले.
दोनच वर्षात यशवंतरावांची गरज इंदिरा गांधींना भासू लागली. १९८२ साली यशवंतरावांनी काँग्रेसमध्ये प्रवेश केला. याचवर्षी देशाच्या आठव्या वित्त आयोगाचे अध्यक्षपद त्यांना देण्यात आले. बिगर राजकीय पद देऊन त्यांचे पुनर्वसन करण्यात आले. दरम्यानच्या काळात महाराष्ट्रात अनेक राजकीय स्थित्यंतरे होत गेली. यशवंतराव अनेक वर्षे दिल्लीत होते तरीही महाराष्ट्राचा मुख्यमंत्री त्यांच्या सल्ल्यानेच ठरवला जायचा. नंतरच्या काळात मात्र यशवंतरावांचा सल्ला फक्त घेतला जायचा पण त्याची अंमलबजावणी मात्र होत नव्हती.
महाराष्ट्राचे चार वेळा मुख्यमंत्रीपद भुषविलेल्या व केंद्रात चार महत्त्वाच्या मंत्रिपदाबरोबरच उपपंतप्रधानपदापर्यंत पोहचलेल्या या द्रष्टया नेत्याची जीवनाच्या अखेरच्या काळात खूपच उपेक्षा झाली. वसंतराव नाईक, वसंतदादा पाटील यांच्या मुख्यमंत्रीपदाला अगोदर यशवंतरावांची संमती घेण्यात आली होती. शंकरराव चव्हाणांच्या नावालाही यशवंतरावांनी फार पूर्वीच संमती दिली होती व तसे त्यांनी इंदिरा गांधींना सांगितलेही होते. मात्र 'आम्ही तयार आहोत पण अगोदर यशवंतरावांची समंती मिळवा,' असे दरवेळी शंकररावांना पंतप्रधानांच्या निवासस्थानी सांगितले जायचे. परिणामी शंकररावांसह मराठवाड्यातील अन्य काँग्रेस नेत्यांमध्ये यशवंतरावांबद्दल गैरसमज निर्माण झाला. प्रत्यक्षात या दिलदार मनाच्या नेत्याने राजकारणात कोणाचीही अडवणूक केली नव्हती.
१९७७ मध्ये वसंतदादांचे सरकार खाली खेचून शरद पवार महाराष्ट्राचे मुख्यमंत्री झाले. काँग्रेसमधून बाहे पडून शरद पवारांनी पुलोद (पुरोगामी लोकशाही दल ) स्थापन करुन महाराष्ट्राची सत्ता प्रथमत: ताब्यात घेतली. या काळात यशवंतरावांचे मानसपूत्र म्हणून शरद पवारांना ओळखले जात होते. स्वर्णसिंगांनी काँग्रेसचे राष्ट्रीय अध्यक्षपद सोडल्यामुळे या पदाची तात्पुरती जबाबदारी यशवतरावांवर सोपविण्यात आली होती. स्वाभाविकच यशवंतराव पक्षाध्यक्ष असताना त्यांच्याच मार्गदर्शनाखाली राजकारणाचे धडे घेतलेल्या शरद पवारांनी काँग्रेसमधून बाहेर पडून वसंतदादांचे सरकार पाडणे याबद्दल यशवंतरावांकडे संशयाने पाहिले जाऊ लागले. प्रत्यक्षात यशवंतरावांनी असा कोणताही सल्ला शरद पवारांना दिला नसल्याचे नंतरच्या काळात स्पष्ट झाले. बंडाचे निशाण उभारणा-यांना कायमचे तोडणे यशवंतरावांच्या स्वभावात नसल्यानेच त्यांच्याबाबत असा गैरसमज निर्माण झाला असावा असे मानावे लागेल.