कराडला परत आल्यावर बंधू गणपतरावांनीही पार्लमेंटरी सेक्रेटरीपद स्विकारण्याचा सल्ला दिला. पत्नी वेणूताईंना विचारताच त्या बोलल्या, "आजपर्यंत एवढे कठीण निर्णय घेतलेत, तेव्हा तुमच्या मनात चलबिचल नव्हती. मग आताच असं का ?"

पत्नी वेणूताईंच्या संमतीनंतर यशवंतरावांनी आपल्या मातोश्रींना विचारले. त्या म्हणाल्या,

"मला तुझ्या राजकारणातलं काही समजत नाही. पण तुला काही नवीन काम करण्याची संधी चालून आली आहे. आता नाही म्हणू नकोस. "

शेवटी सर्वांच्या आग्रहास्तव यशवंतरावांनी मुंबईला जाण्याचा निर्णय घेतला. आईच्या पायावर डोके ठेवून तिचा आशीर्वाद घेतला. पत्नीचा निरोप घेतला. यशवंतरावांनी मुंबईत पोहचल्यावर पार्लमेंटरी सेक्रेटरीपदाची जबाबदारी स्विकारली. राजकारणातील नव्या अध्यायाला सुरुवात झाली.

यशवंतराव राजकीय क्षेत्रात 'साहेब' या नावाने परिचित होते. घरात मात्र सर्व भावांची मुले त्यांना 'काका' म्हणून हाक मारीत. त्यांचे मधले बंधू गणपतराव यांच्या निधनानंतर गणपतरावांचा मुलगा अशोकराव याच्या शिक्षणाची सर्व जबाबदारी यशवंतरावांनी पार पडली. १९५१ च्या दरम्यान यशवंतराव पार्लमेंटरी बोर्डाचे सेक्रेटरी होते. त्यांच्या मुंबई-दिल्ली वा-या सतत होत असत. यावेळी बंधू गणपतराव व त्यांच्या पत्नीचे निधन झाल्याने यशवंतरावांनी त्यांच्या मुलांच्या पालनपोषणाकडे विशेष लक्ष दिले. पुतणे अशोकराव यांना त्यांनी बोर्डी, जि. ठाणे येथील शारदाश्रम वसतिगृहात शिक्षणासाठी ठेवले. अन्य दोन मुलांची पुण्यात शिक्षणाची सोय केली.  अशोकराव मॅट्रिक परीक्षा उत्तीर्ण झाले, त्यावेळी यशवंतराव महाराष्ट्राचे मुख्यमंत्री होते. अशोकरावास जवळ घेऊन यशवंतरावांनी सांगितले, "अशोक, झालं ते सारं विसरून जा. पुन्हा मन लावून अभ्यास कर."

अशोकची शिक्षणात रुची नाही हे लक्षात येताच, यशवंतरावांनी त्यास पुण्यात व्यवसायाचे प्रशिक्षण दिले व पुढे कराडमध्ये दोन लेथ मशिन घेऊन व्यवसायात गुंतविले. काही काळ अशोकने ट्रान्सपोर्टचा व्यवसाय केला. या काळातील एक आठवण सांगताना अशोकराव म्हणतात,

" एकदा मी माझ्या ट्रकमधून मुंबईहून कराडकडे जात असताना लोणावला घाटाजवळ मागून काकांची गाडी आली. गाडीत ताई (वेणूताई) होत्या. वाहनांच्या गर्दींतून काकांनी ( यशवंतराव) माझी गाडी पटकन ओळखली. ट्रक थांबविण्याची सूचना करुन माझी व घरातल्यांची चौकशी त्यांनी केली. मी अजून जेवायचो आहे हे लक्षात येताच गाडीतील डबा काढून दिला व सांगितले, अशोक वेळेत जेवत जा. प्रकृतीकडे लक्ष दे. "

यशवंतराव मुख्यमंत्री असताना, त्यांचे मेहुणे बाबासाहेब मोरे व पुतणे अशोकराव चव्हाण यांना त्यांच्यासोबत काम करण्याची संधी मिळाली. यशवंतराव प्रशासन किती कुशलतेने हाताळतात, हे त्यांना जवळून पहावयास मिळाले. कोणताही कागद हातात आल्यावर एका दिवसातच तो पुढील कार्यवाहीसाठी ते पाठवित. त्यांच्या गती प्रचंड होती. प्रत्येक पत्राला उत्तर देण्याची तत्परता ते दाखवत. ते बोलण्यात खूपच स्पष्टवक्ते होते. यशवंतरावांच्या मुख्यमंत्रीपदाच्या काळात त्यांचे पुतणे त्यांच्याजवळच मुंबईतील बंगल्यात राहत होते. त्यावेळी यशवंतराव म्हणाले,

"अशोक तू माझ्या बंगल्यात राहतोस, कोणाकडून कामासाठी पैसे घेतल्याचे मला समजले तर या बंगल्याचे दरवाजे तुझ्यासाठी कायमचे बंद होतील. "