Dal 1947 al 1949, Herbert Ohl ha studiato pittura e grafica presso l’Accademia delle Belle Arti di Karlsruhe. Ha conseguito il diploma in architettura presso la Facoltà di Karlsruhe nel 1952.

Successivamente ha lavorato con Egon Eiermann fino al 1954. Dal 1954 al 1956, Ohl ha lavorato come architetto incaricato presso l’Ospedale Universitario di Saarbrücken, poi come designer e architetto freelance a Ulm. A partire dal 1956, ha anche insegnato presso la Hochschule für Gestaltung Ulm, diventando membro del collegio dei rettori a partire dal 1959. Nel 1966 è stato nominato rettore, anche se era già noto che la Fondazione Geschwister-Scholl, che gestiva l’istituto, fosse fortemente indebitata. Nel 1968, l’attività didattica a Ulm è stata sospesa e si è trasferito a Milano, dove ha collaborato con l’architetto italiano Gino Valle per progettare la completa ristrutturazione del grande magazzino La Rinascente.

Dopo il 1968, Ohl ha lavorato come esperto e designer, tra l’altro conducendo diverse ricerche sulla sicurezza automobilistica per Fiat. Tra i suoi clienti in Italia vi erano aziende di mobili come Fantoni, per le quali ha progettato il sistema modulare per uffici “Serie 45°” (che è stato incluso nella collezione permanente del MoMA a New York), Brionvega, e Arflex, per i quali ha sviluppato una sedia con reti tese dal 1974 al 1979. Ha anche collaborato con Matteograssi. In Germania, nel 1982, ha rivisto il design Arflex per Wilkhahn, che è stato incluso nella loro gamma di prodotti come la “O-Line”. Inoltre, sempre nel 1982, ha progettato la sedia a sbalzo Swing per Rosenthal, successivamente distribuita da Lübke.

Dal 1974 al 1982, Ohl è stato il Direttore Tecnico del Consiglio Tedesco per il Design. Dal 1975 al 1979, è stato membro del Consiglio dell’International Council of Societies of Industrial Design (ICSID). Dal 1984 al 1991 è stato professore di Design Automobilistico presso la Hochschule Pforzheim e dal 1988 è stato professore di Design Industriale presso l’Università dell’Illinois a Chicago.