Młodość spędził w Wenecji, gdzie zapewne się urodził. Tam też odebrał pierwsze wykształcenie muzyczne u swego stryja
Andrei Gabrielego. Około 1573 został zatrudniony na dworze księcia bawarskiego Albrechta V w Monachium, gdzie kierował kapelą książęcą oraz tworzył muzykę sakralną i świecką. Po śmierci księcia Albrechta w 1579 Gabrieli powrócił do Wenecji, gdzie został organistą w bazylice San Marco. Był także związany z innymi mecenasami, m.in. z bankierską rodziną Fuggerów oraz z dworem mantuańskim.
Już za życia twórczość Giovanniego Gabrielego cieszyła się ogromnym poważaniem. Był uznawany za mistrza motetów i madrygałów. Przyczynił się do rozkwitu szkoły weneckiej w okresie późnego renesansu włoskiego. Szczególnie popularny był jego zbiór 61 utworów z 1597 roku pt. Symphoniae sacrae.
Gabrieli kontaktował się z najwybitniejszymi twórcami muzycznymi swojej epoki. Podczas pobytu w Bawarii współpracował z
Orlandem di Lasso, z którym nie zerwał znajomości również po powrocie do Wenecji. Przyjaźnił się z też
Hansem Leo Hasslerem, jednym z najbardziej znanych twórców chorałów luterańskich.