彼は1972年にアメリカに戻り、ミューズ・レーベルで14年以上にわたり、平均して年に1枚のアルバムを録音し始めた。[ 2 ]これには、グラミー賞にノミネートされたアルバム『Satisfaction Guaranteed』、『Bop for Kerouac』、『Nat's Choice: Nat King Cole Songbook Vol. II』が含まれる。マーフィーのその他の高く評価されているミューズ録音には、『Bridging a Gap』（ロン・カーター、ジミー・マディソン、ランディ・ブレッカー、マイケル・ブレッカーをフィーチャー）、『Mark Murphy Sings』（再びブレッカー兄弟とデヴィッド・サンボーンをフィーチャー）、『Living Room』、『Beauty And the Beast』、『Stolen Moments』がある。リッチー・コールとビル・メイズとの共作『Bop for Kerouac』（1981年）は、マーフィーが魂の伴侶とみなしていたジャック・ケルアックの作品に対する熱意から生まれたもので、ケルアックの著書『 On the Road』と『The Subterraneans 』からの朗読が含まれている。マーフィーはその後、1989年に『Kerouac Then And Now』をリリースした。1950年代後半からブラジル音楽のファンだった彼は、1984年にバンドViva Brasilと共にアルバム『Brazil Song ( Cancões do Brasil )』を録音し、アントニオ・カルロス・ジョビンやミルトン・ナシメントの作品を収録した。彼はアルバム『Stolen Moments』のタイトル曲（オリバー・ネルソン作曲）の歌詞を書き、この曲はすぐにラジオで人気となり、彼の最も人気のある録音の一つとなった。
1997年8月、BMG/ RCA Victorは『Song for the Geese』をリリースし、彼はこの作品で5度目にして最後のグラミー賞ノミネートを受けた。同じ月、32 Recordsレーベルは、現在は消滅したMuseレーベルでの彼の録音の一部を収録した2枚組CDアンソロジー『 Stolen and Other Moments 』をリリースした。このCDには、2枚の「Kerouac」アルバムからの素材と「マーク・マーフィーのベスト」セレクションが収録されている。その後、さらに3枚のアンソロジーがリリースされた。
ミューズのボス、ジョー・フィールズがレーベルを売却し、代わりにハイノート・レコードを設立した後、マーフィーは新レーベルのために『Some Time Ago』（2000年）、『Links』（2001年） 、 『Memories of You』（2003年）を含む5枚のアルバムをレコーディングした。
マーフィーがヴァーヴ・レコードからリリースした『Once to Every Heart』（2005年）は、官能的なバラードを収録しており、リスナーは彼が最高の歌声を披露しているのを、ナン・シュワルツがアレンジしたオーケストラをバックに聴くことができる。これはマーフィーのキャリアの中で最も売れたアルバムの一つとなった。2007年にはヴァーヴから『Love is What Stays』がリリースされた。どちらのアルバムもドイツのトランペット奏者ティル・ブロンナーがプロデュースした。
マーフィーはまた、イギリスのモダンエレクトロニカ／アシッドジャズグループであるテンス＆パーカーのアルバム『 Twenty:Twelve』（2001年）や、フィンランドのモダンジャズバンドであるファイブ・コーナーズ・クインテットのアルバム『Chasin' the Jazz Gone By』（2005年）と『Hot Corner』（2008年）にも参加している。
2010年、彼はピアニストのミシャ・ピアティゴルスキー、ベーシストのダントン・ボラー、ドラマーのクリス・ワビッチと共に、自主制作CD『Never Let Me Go 』をリリースした。このCDには、彼が選曲した曲（主にバラード）が収録されており、ビル・エヴァンスの「Turn Out The Stars」を初めてレコーディングした作品でもある。
1975年「Out of This World」/「Get Happy (with Greetje Kauffeld)」/「Come Rain or Come Shine」/「Let's Fall in Love (with Greetje Kauffeld)」/「My Shining Hour (with Greetje Kauffeld)」/「Blues in the Night」/「Between the Devil and the Deep Blue Sea (with Greetie Kauffeld)」/「Medley: This Time the Dream's on Me/Ill Wind (with Greetie Kauffeld)」/「Last Night When We Were Young」/「I've Got the World on a String」/「That Old Black Magic (with Greetje Kauffeld)」 – Plays the Music of Harold Arlen (Sonorama) より、またMetroのMidnight Music (Dutch Radio Jazz 1970-75) (Sonorama) にも収録。オランダのNOSラジオ番組から録音されたトラック。 1970年～1975年。
2005年「This Could Be the Start of Something」/「Before We Say Goodbye」/「Jamming (with Mr. Hoagland)」 – アルバム『Chasin' the Jazz Gone By』（Ricky-Tick Records）より
2008年「Kerouac Days in Montana」/「Come and Get Me」/「Layers of Layers」 – アルバム『Hot Corner』（Ricky-Tick Records）より
ギル・マンリーと共に
2009年「I Keep Goin' Back to Joe's」 – アルバム『With a Song in My Heart 』 （Linn）より
ギョーム・ド・シャシー、ダニエル・イヴィネクと
2009年「I'll Walk Alone」「Then I'll Be Tired of You」「Taking a Chance on Love」「I Wish You Love」 – アルバム『Songs from the Last Century』（Bee Jazz）より
ロンドン、ミーダー、プラムク、ロスと共同で
2015年「Red Clay」/「Señor Blues」/「Boplicity」/「Bird Chasin'」 – The Royal Bopsters Project ( Mótema )より
様々なアーティストと共に：
1962年「Like Love」/「Fly Away My Sadness」 – アルバム『Everybody's Doin' the Bossa Nova』（Riverside）および『The Very Best of Latin Jazz』（Not Now Music）より
1967 「Stompin' at the Savoy」 – Mezinárodni Jazzovy Praha 1967より(スープラフォン、グラモフォノヴィ・クラブ)
