पहला हमला करने के बाद चीन ने अपनी ओरसे युद्धविराम की घोषणा की और तिबेट में अपनी सेना स्थल पर वे वापस गये । फिरसे हमला होने की आशंका होने के कारण यशवंतरावजी ने अनदेखी नहीं की । इसलिए चीनके विरुद्ध रक्षाव्यवस्था की पुनर्रचना करने का कार्यक्रम उन्होंने अपने हाथ में लिया । उसमें ऊंची जगह पर लडने के लिए उपयुक्त हथियारों की सुविधा करना आदि बातों का समावेश था । चिनी सेना के साथ मुकाबला करनेवाले अपनी सेना के पास इनमें से एक भी सुविधा उपलब्ध नहीं थी । यातायात के साधन उपलब्ध न होनेवाले देश में लडाई करना व्यर्थ है, इस बात का उन्हें यकीन हुआ । इसके अतिरिक्त रसद मिलने की अच्छी व्यवस्था न हो तो चढाई की कोई भी योजना सफल नहीं होगी, इस बात की उन्हें प्रतीति थी । ऐसी व्यवस्था न होने से सेना को युद्धभूमि पर भेज देना यानी कि मृत्यु की और पराजय की खाई में (खंदक, गढे में) धकेलने जैसा है । यशवंतरावजी दौरे पर जाते समय सेना को रसद पहुँचाने की कैसी व्यवस्था है इसका स्वयं निरीक्षण करते थे ।
रक्षा मंत्री के रूप में नियुक्त होने पर प्रारंभिक काल में यशवंतरावजी के सामने मुख्य प्रश्न ईशान्य और उत्तर सीमा का था । ऐसा होते हुए भी उन्हें जम्मू-काश्मीर और नागालँड में सेना की गतिविधयों की जिम्मेदारी का एहसास था । शांति क्षेत्र में रखे हुए सेना के कल्याण की और सुस्थिति की वे उतनी ही चिंता करते थे । 'वंचित हुए कुटुंब' के लिए अर्थात लडाई में उलझे हुए अधिकारियों के, जवानोंके कुटुंब के लिए रहने की जगह उपलब्ध कर देने की उन्होंने शुरुआत की । तब तक पूर्व रक्षा मंत्री इस संबंध में कुछ कर नहीं सके । क्योंकि उन्हें वित्तीय सलाहकारों ने इस काम के लिए निधि उपलब्ध नहीं करवायी । पूर्व रक्षा मंत्री ने वित्तीय सलाहकारों के निर्णय का समर्थन किया । लेकिन यशवंतरावजी ने वित्तीय सलाहकारोंका निर्णय दूर कर दिया । उन्होंने वित्तमंत्री के साथ चर्चा की और उन्होंने यह बात प्रधानमंत्री के पास पहुँचा दी । वे हमेशा कहते थे कि सेना के अधिकारी और सिपाहियों के लिए आप कोशिश नहीं करेंगे तो दूसरा कौन करेगा । इस पर जनरल एस.पी.पी. थोरात कहते हैं - 'हम हमेशा के लिए कृतज्ञ रहेंगे ।'
यशवंतरावजी ने मंत्री पद स्वीकार लेने के बाद नेफा-लडाख की भूमि को प्रत्यक्ष भेंट देकर परिस्थिति का निरीक्षण किया । मोर्चे पर लडनेवाले जवान और अधिकारियों को दिलासा दिया, उन में आत्मविश्वास निर्माण किया । रक्षाविषयक जो समस्याएँ थी, उनकी जानकारी उन्होंने ली ।
यशवंतरावजी ने रक्षा विभाग की जिम्मेदारी स्वीकार ली । तब अपने पास स्वनातीत लडाकू हवाई जहाज, भारतीय बनावटी के लिंडर फ्रिगेट, वैजयंता बख्तरबद गाडियाँ, मिग हवाई जहाज और अन्य आधुनिक शस्त्रास्त्र नहीं थे । उन्होंने रक्षा विभाग की एक पंचवार्षिक योजना तैयार की और वह संसद में मंजूर कर ली गयी । इस योजना में सेना की आठ पहाडी डिव्हिजन, ४५ स्क्वाड्रनका हवाई दल, आरमार के और युद्ध साहित्य उत्पादन केंद्र का नूतनीकरण और सीमा भाग में मार्ग और अन्य मूलभूत सुविधा उपलब्ध करना आदि का अंतर्भाव था ।
दृढतापूर्वक प्रयत्न और समर्पण की भावना के द्वारा यशवंतरावजी ने रक्षा व्यवस्था खडी करके रक्षा मंत्रालय में और सेना मुख्यालय में अधिकारी और कर्मचारी तथा देश की सीमा का रक्षण करनेवाले सैनिकों में आत्मविश्वास निर्माण किया । अपने साथ काम करनेवाले अधिकारियों को उन्होंने पूर्ण समर्थन दिया और उनका विश्वास संपादन किया । उसका परिणाम १९६५ में पाकिस्तान के साथ हुई लडाई में दिख पडा ।