Inspireret af Charlie Parker og Paul Desmond begyndte Karsten Vogel at spille altsaxofon i 1957.
Fra slutningen af 1958 og til midt i 60’erne var han del af den danske avantgarde-jazzscene med grupper, som i væsentlig grad baserede sig på hans kompositioner, hvorfor han da også (til dels sammen med sin bror Henrik Vogel) forestod flere af dem som kapelmester. Han vandt i 1963 med Brødrene Vogels Kvartet danmarksmesterskabet i jazz og pladedebuterede i 1966 med blandt andre Hugh Steinmetz og Per Aage Brandt. Både som musiker og komponist var han desuden del af John Tchicais Cadentia Nova Danica.
Med deltagelse i Knud Hvidbergs POEX 65, hvor ethvert tænkeligt kunstnerisk udtryk fik frit løb, skærpedes Karsten Vogels forståelse for mulighederne i at overskride bestående grænser for stil, genremæssige konventioner og almindelig god opførsel.
I de følgende par år fik han opbygget en solid portefølje af originalt skrevet musik, hvoraf en del tekstligt var blevet til i samarbejde med Niels Erik Wille.
I 1967 skabte Karsten Vogel til dels ud fra disse erfaringer og på baggrund af sine mange kompositioner jazz/rockgruppen Burnin Red Ivanhoe, der i de næste syv år opnåede international anerkendelse og blev én af Danmarks mest efterspurgte, succesrige og legendariske rockgrupper. I denne periode spillede den mere end 500 koncerter hvoraf mange i Tyskland, England og det øvrige Skandinavien, og den optrådte blandt andet ved koncerter sammen med Jimi Hendrix, Incredible Stringband og Black Sabbath. Burnin Red Ivanhoe genopstod i 1991 og har siden været aktiv med både koncerter og indspilninger. I alt er det blevet til 10 lp- og cd-udgivelser, hvoraf de fleste også er udsendt internationalt.
Karsten Vogel grundlagde i 1972 den ligeledes internationalt kendte instrumentale fusionsgruppe Secret Oyster (med blandt andet Kenneth Knudsen), der turnerede indtil 1977, herunder på længerevarende turneer med Captain Beefheart og Herbie Hancock. Især i tiden derefter opnåede Secret Oyster en stigende international opmærksomhed, der da også efter årtusindskiftet førte til cd-genudgivelser i USA og efterfølgende gendannelse af orkestret med deltagelse i flere festivaler samme sted i 2007 og 2008.
Secret Oyster spillede koncerter i hele Norden, i Frankrig, Tyskland, England og USA og har udsendt 5 lp/cd-er.
I 1978 dannede Karsten Vogel Birds of Beauty, der med varierende besætninger og frekvens har fungeret lige siden. Birds of Beauty har udsendt 2 albums.
Siden 1971 har Karsten Vogel jævnligt besøgt Færøerne som solist med eget færøsk orkester (Fagrir Fuglar), og han betragtes da også dér i nogen grad som en del af det færøske musikliv.
Fra 1980 og indtil dennes død i 2004 optrådte han desuden sammen med skuespilleren Frits Helmuth både på koncertscener, i teatersammenhæng og på lp- og cd-udgivelser.
I samarbejde med skuespillere (udover Frits Helmuth blandt andre også Jens Okking og Ole Lemmeke) har Karsten Vogel arbejdet med musik sat til klassiske danske prosatekster, og han har medvirket ved arrangementer med musik og ny poesi (med bl.a. Per Aage Brandt, Benny Andersen og F. P. Jac).
Dertil kommer musik komponeret til og opført i forbindelse med billedkunst, og Karsten Vogel har da også siden 2003 som komponist været medlem af kunstnergruppen PRO.
Karsten Vogel har desuden komponeret musik til blandt andet Radiojazzgruppen og Radiounderholdningsorkestret, til kort-, dokumentar- og spillefilm (blandt andre til Irene Stage) og til radio- og tv-produktioner (herunder til Gunnar Wille og Frits Helmuth).
I 2004 modtog Karsten Vogel Statens livsvarige kunstnerlegat.
