Osobowość marszałka Józefa Piłsudskiego najlepiej określają jego własne słowa: "Być zwyciężonym i nie ulec, to zwycięstwo; zwyciężyć i spocząć na laurach - to klęska".

W 1934 r. lekarze rozpoznali u Marszałka chorobę nowotworową żołądka i wątroby. Pogorszenie stanu zdrowia nastąpiło z początkiem 1935 r. Ostatnie dni życia spędził on na wózku inwalidzkim.
Wieczorem 4 maja 1935 r. Marszałka przewieziono z Generalnego Inspektoratu Sił Zbrojnych do Belwederu. Pomimo opieki znanych lekarzy stan jego zdrowia stale się pogarszał. Przy łóżku czuwała żona Aleksandra z córkami. Po południu 12 maja sprowadzono z Lasek ks. Władysława Korniłowicza, który udzielił umierającemu warunkowego rozgrzeszenia i ostatniego namaszczenia. Śmierć nastąpiła o godz. 20.45.
Po zabalsamowaniu zwłok ciało Piłsudskiego zostało złożone w metalowej trumnie (serce złożono w urnie). W kraju ogłoszono sześciotygodniową żałobę. Żałoba została ogłoszona także we Francji, Niemczech, a nawet w Związku Radzieckim. Telegramy kondolencyjne przesłali przedstawiciele wielu państw.
Uroczystości pogrzebowe rozpoczęły się 15 maja po południu. Trumnę złożoną na lawecie, ciągniętej przez sześć czarnych koni, wśród szpalerów ludności, przewieziono do katedry św. Jana w Warszawie i ustawiono na katafalku. Żałobne egzekwie odprawił arcybiskup warszawski kard. Aleksander Kakowski. Z powodu choroby nie był obecny prymas August Hlond. Po nabożeństwie hołd Marszałkowi składały rzesze Polaków.
Następnego dnia Mszę św. żałobną odprawił w katedrze kard. Kakowski, a kazanie wygłosił biskup polowy Stanisław Gall. Dalszy ciąg uroczystości odbywał się na Polach Mokotowskich. Przed trumną Naczelnego Wodza uczestniczyli generałowie i przedstawiciele wojsk polskich, kompania rumuńskiego 16. Pułku Piechoty (Piłsudski był jego honorowym dowódcą) oraz polskie i czechosłowackie lotnictwo. Obok trumny stał plutonowy Korpusu Obrony Pogranicza Jan Żytek, kawaler Orderu Virtuti Militari, który w 1920 r. wręczał Piłsudskiemu buławę marszałkowską w imieniu armii.
Wieczorem trumnę przewieziono pociągiem do Krakowa, zatrzymując się po drodze w kilku miejscowościach. Zmarłego żegnano płonącymi wzdłuż torów ogniskami. Nazajutrz rano, po krótkich uroczystościach na krakowskim dworcu, stutysięczny kondukt przeszedł do Rynku, gdzie o godz. 10 zabrzmiał hejnał z Wieży Mariackiej, a następnie do katedry na Wawelu. Za trumną szła rodzina Marszałka, delegacja ziemi wileńskiej niosąca urnę z ziemią, grobu matki Piłsudskiego, prezydent Rzeczypospolitej Ignacy Mościcki, członkowie rządu, marszałkowie obu izb parlamentu, dyplomaci. Poczty sztandarowe przysłały wszystkie pułki Wojska Polskiego. Na poduszkach niesiono odznaczenia Marszałka. Obok garstki weteranów powstania styczniowego szło 34 członków pierwszej Kompanii Kadrowej. Za nimi dwóch oficerów prowadziło okrytego kirem konia Marszałka. Gdy kondukt dotarł do katedry, odezwał się "Zygmunt". Przemówienie wygłosił prezydent RP, po czym generałowie wnieśli trumnę do katedry i ustawili na katafalku. Mszę pontyfikalną odprawił metropolita Adam Sapieha, a egzekwie żałobne biskup przemyski Jozafat Kocyłowski (w obrządku greckokatolickim). Po Mszy św. generałowie przenieśli trumnę do krypty św. Leonarda. Ponownie odezwał się "Zygmunt", oddano 101 armatnich salw. Orkiestra odegrała hymn państwowy i "Pierwszą Brygadę". Kraków i cała Polska pożegnały marszałka Piłsudskiego. Uroczystość transmitowało Polskie Radio.
Telegram kondolencyjny do prezydenta Mościckiego przesłał papież Pius XI: "Modlimy się o wieczny odpoczynek dla duszy nieodżałowanego Marszałka, jak również zgodę, pokój i pomyślność dla Polski". Msze św. żałobne odprawiono niemal we wszystkich stolicach europejskich. We Mszy św. w kościele św. Jadwigi w Berlinie uczestniczył Adolf Hitler. On też na ręce wdowy, a także prezydenta RP przysłał depeszę kondolencyjną.
Senat Uniwersytetu Warszawskiego podjął 19 maja 1935 r. uchwałę o nadaniu uczelni imienia Józefa Piłsudskiego. Miesiąc później rozpoczęto w Krakowie sypanie kopca ku czci Marszałka. Zgodnie z wolą zmarłego jego mózg poddano badaniom na Uniwersytecie im. Stefana Batorego w Wilnie. W 1936 r. urnę z jego sercem złożono w grobie matki na cmentarzu wileńskim na Rossie. Arcybiskup Sapieha, wbrew społecznemu niezadowoleniu, przeniósł 24 czerwca 1937 r. trumnę Piłsudskiego do krypty Srebrnych Dzwonów, gdzie spoczywa do dnia dzisiejszego.