ההצלחה
גאון הפך מאז אמצע שנות השישים לכוכב גדול בעולם הבידור והזמר הישראלי. בפסטיבל הזמר והפזמון של 1969 זכה בשני המקומות הראשונים, עם השירים "בלדה לחובש" (דן אלמגור/אפי נצר) ו"עץ האלון" (יורם טהרלב/מוני אמריליו).
גאון שר בפסטיבל שיר נוסף, "לילה בהיר", שהלחין משה וילנסקי למילים של שמרית אור. השיר נכלל באלבומו של גאון "בשירי משה וילנסקי", שיצא באותה שנה והוקדש כולו לשיריו של וילנסקי. האלבום כלל להיטים כ"אמא אמא", "יש לי חלום", "לילה של פריחות" ו"כשהיינו ילדים".
עוד באותה שנה הוציא גאון אלבום בשם "רומנסות בלאדינו", ובו שירים ששר בלאדינו, וכן אלבום בשם "שירי שבת". אלבום נוסף שהוציא באותה שנה היה "איפה את אהובה", שכלל גם הוא להיטים רבים, כ"איפה את אהובה" (תרגום עברי של תלמה אליגון-רוז לשיר בספרדית בביצוע הזמר הארגנטינאי לאונרדיו פאביו), "גשר אלנבי", שהקליט עבור סרט הקולנוע "המלחמה שלאחר המלחמה", "אזכור את הדרך" ו"רוח שטות".
בשנת 1971 העלה גאון תוכנית יחיד, שתועדה על גבי אלבומו מאותה שנה, "בתוכנית יחיד". בין שירי התוכנית בלט הלהיט "רוזה", שכתב חיים חפר והלחין דובי זלצר. שירים מוכרים נוספים מהתוכנית היו "אל תשטה באהבה", "רחל" ו"אני זוכר", שנכתב עבור סרט הקולנוע "לופו". כמו כן נכללה בה גרסתו של גאון לשירם שלאהוד מנור ונורית הירש "אולי על שפת הים", ששרה במקור להקת "השוקולדה".
באותה שנה שיחק גאון בסרט "אני ירושלמי", שבמסגרתו שר מספר שירים. שירי הסרט תועדו על גבי אלבום בשם "אני ירושלמי" שיצא באותה שנה. נמנו עליהם להיטים רבים, כ"הנני כאן", "אני עושה לי מנגינות", "השר מונטיפיורי" ו"מעל פסגת הר הצופים".
ב-1972 הוציא את האלבום "שלכם לשעה קלה", וב-1973 את האלבום "אהבה ים תיכונית", ובו השיר "קומי צאי", שהלחינה נעמי שמר על פי מילים של חיים נחמן ביאליק.
בשנת 1975 הוציא גאון את האלבום "אותך שרים". בין שיריו המוכרים היו "אנחנו לא נפסיק לשיר" ו"בית אבי", שניהם של חיים חפר ודובי זלצר. באותה שנה יצאאלבום הופעה של גאון, שתיעד את הופעתו בהיכל התרבות. באלבום זה נכלל לראשונה שירו של גאון "המלחמה האחרונה". כמו כן נכללו בו גרסאותיו של גאון לשירים "שיר העבודה והמלאכה", "גולני שלי" ו"לילה לילה".
בשנת 1976 הוציא גאון אלבום בשם "קסם מולדת", ובו גרסאות מחודשות בביצועו לשירים שהלחין מרדכי זעירא, כ"ניגון עתיק" ו"מה אומרות עינייך".
ב-1977 הוציא את האלבום "עוד לא אהבתי די". שיר הנושא של האלבום, שכתבה והלחינה נעמי שמר, היה להיט גדול, והפך לריקוד עם נודע. שיר נוסף שהתפרסם מהאלבום הוא "שלום לך ארץ נהדרת". באותה שנה הוציא גאון אלבום נוסף, "שמש עולה".
ב-1979 העלה גאון תוכנית יחיד שהורכבה משיריהם של חיים חפר ודובי זלצר. התוכנית לא זכתה להצלחה רבה, אך התפרסם מתוכה השיר "שמרי לי על המנגינה". שירי התוכנית תועדו על גבי האלבום "79".
ב-1981 הוציא את האלבום "סימני דרך". בין שיריו המוכרים היו "סימני דרך" ו"על כל אלה" של נעמי שמר, לחניה של נורית הירש לשירים "הכניסיני תחת כנפך" של חיים נחמן ביאליק ו"לילה טוב לאהבה" של אילן גולדהירש, וכן גרסתו של גאון לשירו של יוסף שריג "אור וירושלים". בשנת 1983 יצא הוציא על גבי תקליט שדרים את השיר "איתך בלעדייך", שכתב נתן אלתרמן והלחינה נורית הירש. השיר זכה להצלחה רבה.
בשנת 1984 יצא אלבומו "אמצע הדרך", ובו הלהיט "בפרדס ליד השוקת", שכתב יורם טהרלב והלחינה נורית הירש. השיר זכה להצלחה רבה, ודורג במקום השני במצעד הפזמונים העברי השנתי לשנת תשמ"ד. שירים מוכרים נוספים באלבום היו "לא תנצחו אותי", שכתבה והלחינה נעמי שמר, ו"בואי נשוב אל הטנגו", שכתב טהרלב והלחין שייקה פייקוב.
בשנת 1986 יצא אלבומו של גאון "אלף נשיקות". שיר הנושא של האלבום, שכתבה מירית שם אור והלחין צביקה פיק, היה להיט גדול. פרט לו הצליחו מהאלבום גם השירים "אישה חופשייה", "כמו חצב", "כן כן", "ואולי אותה שתיקה" ו"דיוקן אמי".
יהורם גאון בסיבוב הופעות משותף עם ירדנה ארזי שנערך בחסות האגודה למען החייל. בשנת ה-40 למדינה 1988
בשנת 1988 הקליט גאון בדואט עם ירדנה ארזי את השיר "אדם אחר". השיר נכלל באלבומה של ארזי "עוד יום אחד". ב-1989 יצא אלבומו של גאון "ירח מלא", בהפקתו המוזיקלית של מתי כספי. מבין שיריו התפרסם הדואט של גאון עם בעז שרעבי "מה יביא איתו הרוח". באותה שנה חזר לשחק במחזמר "קזבלן" בהפקה פרטית שבה גילם את התפקיד המיתולוגי שעמו זוהה יותר מכל. המחזמר זכה אמנם להצלחה בקופות, אך ההפקה נקלעה לחובות כבדים, וירדה לאחר זמן מה מהבמה. גאון שהיה גם מפיק המחזמר נקלע לחובות כבדים שאותם הצליח להחזיר רק לאחר מספר שנים.
בשנות התשעים הוציא גאון מספר אלבומים נוספים, שלא זכו להצלחה רבה. עליהם נמנו "נשמה", שיצא ב-1992, אלבום הופעה בשנת 1993 ואלבום הנושא את שמו ב-1996. בשנת 1997 תכנן גאון להוציא אלבום אוסף שיכלול את שיריו המוכרים. מכיוון שהתקשה להשיג זכויות יוצרים על ההקלטות המקוריות ועל מנת לחסוך בכסף, הקליט מחדש, בעיבוד מחודש, את השירים ושיווק אותם כאוסף בן חמישה תקליטורים.
רק בשנת 2013 שב גאון להקליט שירים חדשים. באותה שנה יצא אלבומו "כביום היוולדי", שאת כל שיריו כתב והלחין עמיר בניון. את שירי האלבום עיבדו ליאור שושן ואודי תורג'מן. מבין שיריו התפרסמו השירים "תן לי כוח", "בסוף היום" ו"לא אני ולא אתה", שאותו שר גאון בדואט עם בניון.
ב־21 ביולי 2014 הקליט גאון גרסה מחודשת לשיר "ארץ צבי" לו נוסף בית חדש שנכתב על ידי תלמה אליגון רוז, לזכרו של רס"ן רועי קליין, חייל גולני שנהרג במלחמת לבנון השנייה.
ב־21 בספטמבר 2014 הקליט גאון את השיר "שלומי" שכתבה זלדה, אותו עיבדה נורית הירש, לזכרו של רס"ן בניה שראל, מפקד פלס"ר גבעתי שנהרג במבצע צוק איתן.
