卡拉扬是20世纪最伟大、影响也最大的指挥家之一，被称为“欧洲的音乐皇帝”，但是，他的指挥生涯却并不是一帆风顺的。
卡拉扬出生于奥地利萨尔茨堡，这里是莫扎特的故乡。他在维也纳音乐学院学习钢琴和指挥。他虽然以优异的成绩从音乐学院毕业，但是初出茅庐的他在人才济济的维也纳却很难找到演出的机会，于是，他决定回到萨尔茨堡。
卡拉扬的父亲是一位颇有名气的外科医生，也是一个音乐爱好者，是莫扎特音乐学院管弦乐团中的单簧管演奏员。他出钱租用了萨尔茨堡交响乐团，让卡拉扬有了指挥专业乐团的机会。
卡拉扬指挥乐团排练和演出了理查·施特劳斯的《唐璜》和柴可夫斯基的《第五交响曲》，并获得很大成功。
机缘巧合的是，在音乐会的听众中，有一位特殊的人，他就是乌尔姆市歌剧院院长。他十分欣赏卡拉扬的才华，就邀请卡拉扬去任乌尔姆市歌剧院的常任指挥。
乌尔姆市是位于德国南部的一个小城，歌剧院的规模很小，乐队只有十几个人，演员也只有三十人左右。卡拉扬非常珍惜这次机会，他在这里认真排练，借以积累经验。
但是，他并不满足于此，更没有安于现状，而是在寻找新的机会。
七年以后，他成为亚琛市歌剧院音乐总指导。
后来，他接替因“兴德米特事件”导致富特文格勒离职而空缺的柏林爱乐乐团指挥一职，并开始了与柏林爱乐乐团长达三十四年的合作。