स्वतन्त्रता के पूर्व भारत में लगभग 600 से अधिक देशी रियासतें थीं। स्वतन्त्र होने के उपरान्त भारत की सरकार के सामने देशी रियासतों को भारत संघ में विलय कराने की गम्भीर चुनौती थी। राष्ट्र की सुरक्षा के लिए इन सबको भारत संघ में विलय होना आवश्यक था। ये रियासतें सम्पूर्ण भारत के क्षेत्रफल का 48 प्रतिशत और जनसंख्या का 20 प्रतिशत थीं। यद्यपि ये रियासतें अपने आन्तरिक मामलों में स्वतन्त्र थीं, किन्तु वास्तविक रूप में इन सभी रियासतों पर अंग्रेजी शासन का नियन्त्रण स्थापित था। भारतीय देशी रियासतों में राजकीय जागरण 1921 ई० में प्रारम्भ हुआ। सरदार पटेल के सुझाव पर एक रियासती मन्त्रालय बनाया गया। सरदार पटेल को ही इस विभाग का मन्त्री बनाया गया।
सरदार पटेल ने बड़ी सूझ-बूझ के साथ देशी रियासतों के विलय के कार्य का संचालन किया। 1926 ई० में अखिल भारतीय देशी राज्य प्रजा परिषद का जन्म हुआ, जिसका पहला अधिवेशन एलौट के प्रसिद्ध नेता दीवान बहादुर एम० रामचन्द्र राय की अध्यक्षता में 1927 ई० में हुआ। 1934 ई० में डॉ० राजेन्द्र प्रसाद ने रियासतों में उत्तरदायी शासन की बात कही। 1935 ई० के अधिनियम में देशी रियासतों को मिलाकर एक संघ बनाने की बात कही गई। 1936 ई० के बाद देशी रियासतों में जन आन्दोलन तेजी से बढ़ा। कैबिनेट मिशन, एटली की घोषणा और लॉर्ड माउण्टबेटन की योजना में देशी राजाओं के बारे में विचार रखे गए और प्रायः कहा गया कि अंग्रेजों के चले जाने के बाद वे स्वतन्त्र होंगे। अपनी इच्छानुसार वे भारत या पाकिस्तान में सम्मिलित हों अथवा स्वतन्त्र रहें। उपप्रधानमन्त्री एवं रियासती मन्त्रालय के मन्त्री की हैसियत से सरदार पटेल ने रियासतों से भारत संघ में अपना विलय करने की अपील की और इस मार्मिक अपील का बहुत गहरा प्रभाव पड़ा। देशी राजाओं ने भी राष्ट्र की आवश्यकता का अनुभव किया। अतः 15 अगस्त, 1947 ई० को जूनागढ़, हैदराबाद तथा कश्मीर को छोड़कर छत्तीसगढ़ सहित 562 रियासतों ने भारतीय संघ में विलय की घोषणा कर दी।
सरदार वल्लभ भाई पटेल की कूटनीतिज्ञता और दूरदर्शिता का ही परिणाम था कि उन्होंने इस समस्या को सुलझाने का प्रयास किया। हैदराबाद, जूनागढ़ और कश्मीर का भारत में विलय प्रमुख कठिनाइयों के रूप में उभरकर सामने आया। जूनागढ़ एक छोटी सी रियासत थी और यहाँ नवाब का शासन था। यहाँ की अधिकांश जनता हिन्दू थी और वह जूनागढ़ का भारत में विलय करने के पक्ष में थी, जबकि नवाब जूनागढ़ को पाकिस्तान में मिलाना चाहता था। जब नवाब ने जूनागढ़ को पाकिस्तान में मिलाने की घोषणा की तो वहाँ की जनता ने इसका विरोध किया। इसी समय सरदार पटेल ने जूनागढ़ की जनता की सहायता के लिए सेना भेज दी। भारतीय सेना से भयभीत होकर नवाब पाकिस्तान भाग गया। फरवरी 1948 ई० में जनमत संग्रह के आधार पर जूनागढ़ का भारत में विलय कर लिया गया। हैदराबाद की जनता भी जूनागढ़ के समान ही हैदराबाद को भारत में सम्मिलित करना चाहती थी, जबकि निजाम सीधे ब्रिटिश साम्राज्य से साँठगाँठ कर एक स्वतन्त्र राज्य का स्वप्न देख रहा था। उसकी पाकिस्तान से भी गुप्त वार्ताएँ चल रही थीं।
अक्टूबर, 1947 में उसके साथ एक विशेष समझौता किया गया, जिसमें उसे एक वर्ष तक यथावत् स्थिति की बात कही गई, लेकिन उस पर किसी भी प्रकार की सैन्य वृद्धि या बाहरी मदद लेने पर प्रतिबन्ध लगा दिया गया। निजाम की कुटिल चालें चलती रहीं। उसने पाकिस्तान से हथियार मँगवाए तथा रजाकारों की मदद से मनमानी करनी चाही। परिणामत: हैदराबाद की जनता ने निजाम के विरुद्ध विद्रोह कर दिया। निजाम ने जनता पर अत्याचार करने प्रारम्भ कर दिए। इसी समय सरदार पटेल ने हैदराबाद की जनता का रुख भारत की ओर देखकर सितम्बर 1948 में निजाम को चेतावनी दी। निजाम के न मानने पर 13 सितम्बर, 1948 को हैदराबाद में कार्यवाही की गई और पाँच दिन में न केवल रजाकारों को खदेड़ दिया गया, बल्कि निजाम ने भी विलय-पत्र पर हस्ताक्षर कर दिए। 18 सितम्बर, 1948 को हैदराबाद का भारत में विलय हो गया। इस प्रकार उपरोक्त विवरण के अनुसार सरदार पटेल ने भारतीय एकीकरण में महत्त्वपूर्ण योगदान दिया। मृत्यु उपरान्त उन्हें ‘भारत रत्न’ प्रदान किया गया।