毕业后，他又赴维也纳深造，起初（1955年）他在萨尔茨堡师从古尔德（G.Gould）学习钢琴。次年，他与祖宾·梅塔结为终身挚友，在梅塔推荐下，阿巴多进入维也纳音乐学院随斯瓦洛夫斯基（H.Swarowsky）学习指挥。1958年，阿巴多在意大利边陲小镇黑雅斯特（Trieste）首次指挥普罗科菲耶夫的歌剧《三个橙子的爱情》的演出。同年，赴美国唐格尔伍德参加库塞维茨基国家指挥比赛，结果阿巴多获得一等奖，梅塔获得二等奖。两年后，他应邀参与纪念斯卡拉蒂诞生300周年音乐会，首次在米兰斯卡拉歌剧院登台指挥演出，并组成米兰独奏家室乐团，到全国各地巡回演出。30岁时，阿巴多赴纽约参加第一届米特罗普洛斯国际指挥比赛荣获第一名，在一个乐季中作为纽约爱乐乐团伯恩斯坦的助理指挥。
在一次偶然的机会中，卡拉扬在电视中看到阿巴多的指挥，便邀请他于1965年8月14日在萨尔茨堡音乐节中首次指挥维也纳爱乐乐团演出马勒《第二交响曲》，这次成功的演出为VPO对他终身指挥的任命铺平了道路，这才奠定了他在国际乐坛的地位。阿巴多35岁那年，首次在斯卡拉歌剧院指挥歌剧演出（贝里尼《凯普莱特与蒙泰古》），并任乐团首席指挥（9年后升为音乐总监）。在18年中，他大胆实行改革，大力扩充演出剧目，除了传统剧目之外，还指挥上演了一系列的现代歌剧，如里盖蒂的《伟大的死亡》，潘德雷斯基的《失乐园》，诺诺的《在爱情激烈的阳光下》、《褊狭的1960年》，勋伯格的《月光下的皮埃罗》，贝尔格的《沃采克》、《璐璐》，施托克豪森的《星期四》等。另外，他实行“走出去，请进来”的政策，面向民众，深入基层，培养了一大批新一代的观众，在歌剧大众化上取得了可喜的成绩，为歌剧院恢复了威望。阿巴多胸襟宽阔、落落大方，请来了同行梅塔、穆蒂、克莱伯、马泽尔等，被人们传为佳话。在他任职期间，还率领该院赴慕尼黑（1972）、维也纳（1973）、伦敦（1976）、华盛顿（1976）、巴黎（1979）等地演出。此外，他还经常在萨尔茨堡音乐节、爱丁堡音乐节、柏林音乐节和佩萨罗音乐节任客席指挥。当他1986年离开斯卡拉歌剧院时说:“我没有任何愧意和遗憾”。的确，他为斯卡拉歌剧院立下了汗马功劳。
38岁那年，阿巴多与不设常任指挥的VPO订立了终身指挥合约，嗣后，带领乐团展开了一系列的世界性巡回演出，如1973年在日本、韩国、中国；1976年在美国、德国、英国；1987年在美国、日本等。1979年（46岁），阿巴多接替普列文出任伦敦交响乐团（LSO）首席指挥，在1983-1986年期间成为LSO的音乐总监，曾带领乐团赴世界各国演出。作为音乐总监兼指挥，自1978年起，阿巴多经常有计划地联同欧洲共同体青年乐团在欧洲各国演出；1981年，他是欧洲室内乐团艺术顾问，录有不少唱片；1982年，他创办了斯卡拉爱乐乐团，把处于次要地位的意大利的交响乐团艺术提高到一个新的阶段；1986年，他又创办了马勒青年乐团，并兼任音乐总监；次年，他还创建了维也纳现代音乐节。除此之外，他还是芝加哥交响乐团、克利夫兰乐团、阿姆斯特丹皇家音乐厅乐团、世界乐团等著名乐团的客席指挥。
1984年（51岁），阿巴多首次指挥维也纳国家歌剧院演出威尔第的歌剧《西蒙·波卡涅格拉》，并在两年后出任该院音乐总监。在维也纳，他指挥演出的贝尔格《沃采克》，罗西尼《在阿尔及尔的意大利姑娘》、《兰斯之旅》（ⅡViaggio a Reims），穆索尔斯基《霍万兴那》，R·斯特劳斯《埃列克特拉》，威尔第《假面舞会》、《唐·卡洛斯》，瓦格纳《罗恩格林》，莫扎特《唐·乔万尼》以及舒伯特被人遗忘的歌剧《菲拉布拉斯》（Fierrabras）等，反应热烈，好评如潮。
这样，大器晚成的阿巴多，凭着百折不挠的意志，独揽了维也纳、柏林主要音乐团体的指挥大权，终于立足于世界一流乐团（歌剧院）的峰顶，成为继卡拉扬之后乐坛上的新“帝王”。为了表彰阿巴多在音乐上的卓越贡献，各国授予他的赠衔无数。他在伦敦皇家歌剧院指挥演出穆索尔斯基的歌剧《鲍里斯·戈杜诺夫》，荣获最佳歌剧奖；意大利政府颁发给他最高国家奖章；维也纳爱乐乐团赠予他尼柯莱金奖；国际马勒协会授予他金奖等。从不爱自我宣传，与世无争的阿巴多，于2002年与BPO合约期满之后不再续约。此外，阿巴多是DG、SONY等著名唱片公司的台柱子，自1967年以来录有大量的优质唱片。
阿巴多是当代最具影响的指挥家之一。他集众家之所长，集名师之大成，以此揉成自己的指挥特点，对歌剧、舞蹈性与歌唱性有出色的表现力。他的指挥，具有鲜明的意大利风格，热情、明快、如歌、流利、敏锐，双手极富有魅力，眼睛里有音乐，富有戏剧性效果。他的曲目十分广泛，古往今来，种类繁多，包罗万象。他也擅长指挥德、奥、俄的交响乐以及现代作品，善于通过对织体变化的把握，从细部刻画入手而展示出作品丰富的层次，对罗西尼、威尔第等意大利作曲家的歌剧作品，他的演绎尤为出色，堪称一绝。
他是一位尊重总谱的指挥家，没有准备好是不会站到指挥台上的，《沃采克》就排练了40次，为了掌握勃拉姆斯的《德意志安魂曲》，他足足花了10年时间研究。
