V 80. letech 19. století se Mahler pravidelně objevoval v letních měsících v Jihlavě a občas vystupoval v Městském divadle jako hudebník nebo dirigent. V letech 1878–1883 trávil část prázdnin a dovolených u svého přítele a spolužáka JUDr. Emila Freunda v Želivě poblíž Humpolce. Z těchto let pochází několik dokladů v seznamech odvedenců, týkajících se jeho osoby, které vypovídají o Mahlerově zdravotním stavu. Při prvním odvodu ve Vídni v roce 1880 nebyl uznán schopným vojenské služby pro celkovou tělesnou slabost, o rok později pak byl ze seznamu branců kvůli silné krátkozrakosti vyškrtnut úplně. Tím pro něj ovšem vyvstala povinnost platit vojenskou taxu.
Důležitý mezník v životě Gustava Mahlera představuje rok 1889, během něhož zemřeli oba rodiče a nejstarší sestra Leopoldina. Nejdříve zemřel 18. února ve věku 62 let otec, 27. září pak ve Vídni ve věku 26 let sestra Leopoldina, provdaná Quittnerová. O několik dní později, 11. října, ho postihla ztráta největší, a to když zemřela jeho matka. Oba rodiče byli pohřbeni na jihlavském židovském hřbitově a místo jejich posledního odpočinku označuje vysoký náhrobek z tmavého kamene.
Po vyřízení pozůstalosti Gustav se svými sourozenci Jihlavu natrvalo opustil. S sebou si údajně odvezl jen staré otcovo křeslo. Rozhodnutím soudu se stal jako nejstarší ze sourozenců poručníkem svých nezletilých bratrů Aloise a Otty a sester Justiny a Emmy. Všem se snažil zajistit dobrou budoucnost; jako ředitel Královské opery v Budapešti s platem 10 000 zlatých ročně k tomu měl naštěstí finanční prostředky. Jeho nejmilejší sestra Justina, do jejíž osoby si promítal vzpomínky na matku, mu vedla nějaký čas v Budapešti a později v Hamburku domácnost.
Obě sestry se provdaly za bratry Rosé, z nichž Arnold, manžel Justiny, působil jako koncertní mistr Vídeňských filharmoniků. Před sňatkem obě přestoupily na evangelickou víru. Víra židovská nehrála v jejich životě ani v životech ostatních sourozenců podstatnou roli, jak lze dokumentovat i na Gustavově přestupu do katolické církve v únoru 1897 v Hamburku nebo na příkladu bratra Aloise, který změnil víru dvakrát. Osudy obou bratrů byly pohnuté: hudebně nadaný Otto, absolvent vídeňské konzervatoře, se ve Vídni v roce 1895 zastřelil a starší Alois, neúspěšný obchodník, odjel počátkem 20. století do Ameriky, a tím veškeré styky s rodinou přerušil.
Po odchodu z Jihlavy se sourozenci Mahlerovi do svého rodného města již nevraceli. Gustav však své kontakty s Jihlavou, sice sporadicky, ale přece jenom udržoval. Jednak zde takřka deset let vyřizoval pozůstalost po zemřelých rodičích a jednak zde měl až do své smrti domovské právo. A nezapomínal ani na své přátele, k nimž patřil bezesporu jeho učitel hudby Jindřich Fischer a jeho syn Theodor, pozdější prezident jihlavského krajského soudu, jimž zasílal dopisy a pohlednice z míst svého působení. Čas od času na svého stále slavnějšího krajana upozorňovaly také místní německé noviny Mährischer Grenzbote.
V roce 1902 se Gustav oženil s Almou Marií Schindlerovou (1879–1964), dcerou vynikajícího vídeňského malíře krajin Jakoba Emila Schindlera (1842–1892). Alma byla hudebně vzdělaná, studovala kompozici u Alexandra von Zemlinského, skládala písně a Mahler jí podle jejich vlastních slov svěřoval i práce při korigování rukopisů a materiálů. Setkání dvaadvacetileté Almy, pokládané za nejkrásnější dívku Vídně, s o devatenáct let starším Gustavem Mahlerem, tehdy již vysoce ceněným, i když ne vždy zcela chápaným skladatelem v zajištěném postavení ředitele a dirigenta vídeňské Dvorní opery, bylo bezesporu záležitostí osudovou. Narodily se jim dvě dcery, Marie Anna (1902–1907) a Anna Justina (1904–1988). Anna Justina se stala sochařkou a měla dvě dcery – Almu (*1930) a Marinu (*1943).
„Cítila jsem se v prvních letech vedle Mahlera velmi nejistá… A je zvláštní, že od okamžiku svého duchovního vítězství mě Mahler přehlížel a začal mě opět milovat teprve tehdy, když jsem se osvobodila od jeho tyranské sugesce. Prozatím hrál roli učitele, neúprosně přísného a nespravedlivého. Znechutil a zprotivil mi svět. Tedy, zkoušel to: Peníze – marnost! Šaty – marnost! Krása – marnost! Cestování – marnost! Jen duch sám! Dnes vím, že měl strach z mého mládí a krásy a chtěl mě zneškodnit tím, že mi jednoduše vzal všechno živoucí, s čím si nevěděl rady. Byla jsem děvčátko, po kterém toužil a které nyní vychovával.“ (In: MAHLEROVÁ, A.: Gustav Mahler. Vzpomínky. Praha 2001, str. 45.)
Po Mahlerově smrti se jejím chotěm stal vynikající architekt Walter Gropius (1883–1969), potřetí se provdala za básníka Franze Werfela (1890–1945). Až do konce života se však označovala za „vdovu po Gustavu Mahlerovi“.
Houževnatý a neúnavný hudebník Gustav Mahler, působící jako dirigent nebo ředitel operních domů v různých evropských městech (viz kapitola Dirigent a ředitel opery), se neustále přepracovával a vyčerpával. 21. února 1911 dirigoval v New Yorku, kde měl angažmá, svůj poslední koncert. V té době byl již nemocný. Lékaři v Americe, Paříži a následně ve Vídni už mu nedokázali pomoci. Gustav Mahler zemřel 18. května 1911 ve Vídni. Jihlavské noviny Mährischer Grenzbote z 21. května 1911 přinesly informaci o Mahlerově těžké nemoci; ještě v témže čísle se objevila zpráva o jeho smrti s krátkým nekrologem. Program jihlavského gymnázia, vydaný na konci školního roku 1910/11, uveřejnil o jeho odchodu jedinou větu: „18. května 1911 zemřel bývalý žák ústavu, pan Gustav Mahler, který se proslavil jako hudební skladatel a ředitel c. k. dvorní opery daleko za hranicemi své vlasti.“ Nekrolog s fotografií se objevil také v Deutscher Volkskalender für die Iglauer Sprachinsel na rok 1912.
Gustav Mahler je pochován na hřbitově Grinzing ve Vídni. Jeho hrob zdobí jednoduchý náhrobek, který navrhl jeden z nejvýznamnějších evropských architektů Josef Hoffmann (1870–1956), rodák z Brtnice a stejně jako Mahler absolvent jihlavského gymnázia. Jak si přál, není na náhrobním kameni nic než jeho jméno. „Kdo mne bude hledat ví, kdo jsem byl, a ostatní to nepotřebují vědět.“
(In: BLAUKOPF,K.: Gustav Mahler současník budoucnosti, Jinočany 1998, str. 203)
