Harry Pepl est né le 10 septembre 1945 à Vienne et il est mort le 5 décembre 2005 à Wiener Neustadt. Il a commencé par l'accordéon, s'est mis à la guitare à 15 ans et a appris le jazz en autodidacte, en reproduisant note pour note des enregistrements de Wes Montgomery, de Jim Hall et d'autres. Après des années dans l'orchestre de bal Austrian Evergreens, il est devenu, dans les années 1970, musicien de studio et guitariste de l'ORF Big Band.
À partir du milieu des années 1970, il a formé avec le vibraphoniste tyrolien Werner Pirchner le duo Jazzzwio. Celui-ci a enregistré « Gegenwind » en 1979, s'est produit en 1981 au Montreux Jazz Festival et s'est élargi en 1982 en trio avec Jack DeJohnette pour un album ECM ; on y trouve la composition de Pepl « Air, Love & Vitamins », que de nombreuses musiciennes et de nombreux musiciens jouent encore aujourd'hui. En 1980 et 1981, Pepl a été le guitariste du quartette de Benny Goodman. Il a joué avec Wolfgang Puschnig, Mike Richmond et Wolfgang Reisinger dans le groupe Air Mail, en France avec Michel Portal, Dave Liebman et Jack DeJohnette, et il a enregistré « Volver » avec Enrico Rava et Dino Saluzzi. Son album ECM « Cracked Mirrors », avec Herbert Joos et Jon Christensen, a reçu en 1988 le Prix de la critique discographique allemande (Preis der deutschen Schallplattenkritik).
Pepl a été l'un des premiers musiciens de jazz au monde à travailler avec la guitare MIDI et l'ordinateur. Il en a tiré le Real-time Composing (composition en temps réel), ou Instant Composing : il improvisait voix après voix, faisait imprimer le résultat sous forme de partition et ne corrigeait rien après coup. Sont ainsi nées des œuvres de commande pour l'Ensemble Wien, l'Ensemble Kontrapunkte, le Kronos Quartet, STUDIO PERCUSSION graz et l'Artis-Quartett, ainsi que l'album « Schönberg Improvations » (1990) avec un piano à queue informatisé Bösendorfer.
À partir de 1977, il a enseigné la guitare jazz à la Haute école de musique de Graz, l'actuelle Université de musique et des arts du spectacle de Graz, et dès 1984 comme professeur titulaire ; Wolfgang Muthspiel a compté parmi ses élèves. Le Land de Basse-Autriche lui a décerné des prix culturels pour la musique en 1991 et en 1998.
À partir du milieu des années 1990, Pepl a surtout travaillé dans son studio à Hernstein, en Basse-Autriche. C'est là que sont nés les albums de piano « Consequence » et « Flow » ainsi que la Lonely Single Swinger Band, un projet d'homme-orchestre dans lequel il jouait lui-même de tous les instruments. Le fonds est administré par son fils Daniel Pepl ; Fullmax Recordings en publie des éditions depuis 2015. Depuis 2018, Clemens Salesny, Martin Bayer, Andi Schreiber et Valentin Duit jouent en direct avec les pistes originales de Pepl ; leur album « Harry Pepl (tape) & The (Lonely) Single Swinger Band : Live » (2025) a obtenu la deuxième place dans la catégorie Best Album au Prix autrichien du jazz 2025.