Johann David Heinichen wurde am 17. April 1683 in Crössuln, einem Dorf in der Nähe von Weißenfels (heute Sachsen-Anhalt), als Sohn des evangelischen Pfarrers David Heinichen (1652-1719) geboren. Seine musikalische Ausbildung erhielt er in Leipzig an der Thomasschule. Dort war er Schüler der Thomaskantors Schelle und des Organisten Johannes Kuhnau, der später (1701) Schelles Nachfolger als Thomaskantor und Universitätsmusikdirektor wurde.

Von 1702 bis 1705 studierte Heinichen in Leipzig Jura. Während dieser Zeit spielte er im von Georg Philipp Telemann geleiteten Collegium musicum und beteiligte sich an Aufführungen im Leipziger Opernhaus, das seit 1693 bestand. Es ist nicht eindeutig belegt, ob Heinichen sich anschließend in Weißenfels als Rechtsanwalt niederließ, aber es ist bekannt, dass er Kontakt zu den am Weißenfelser Hof tätigen Musikern Johann Philipp Krieger (1649-1725) und Gottfried Grünewald hatte.

Im Auftrag von Samuel Ernst Dobricht, dem Leipziger Operndirektor, komponierte Heinichen einige Opern. Außerdem übernahm er die Leitung des Collegium musicum im Lehmannischen Kaffeehaus am Markt, das 1708 von Johann Friedrich Fasch neu gegründet worden war. 1711 veröffentlichte er sein Musiktraktat "Neu erfundene und gründliche Anweisung … zu vollkommener Erlernung des Generalbasses", in dem auch der von ihm entwickelte Quintenzirkel (bereits 1710 veröffentlicht) integriert war.

Im Jahr 1709 erhielt Heinichen eine Anstellung beim Herzog Moritz Wilhelm von Sachsen-Zeitz. Im selben Jahr reiste er nach Italien, über die Details dieser Reise ist wenig bekannt. In Venedig lernte ihn der Thronfolger Kurprinz Friedrich August, der spätere Kurfürst Friedrich August II. von Sachsen (1696-1763), kennen.

Aus dieser Begegnung resultierte 1717 seine Anstellung als Hofkapellmeister am Dresdner Hof. In dieser Position komponierte er zahlreiche Werke wie Messen, Kantaten und Concerti, die den Anforderungen des Dresdner Hofs entsprachen. Aufgrund seiner Tuberkulose-Erkrankung war er oft kränklich und musste sich von seinen Kollegen Jan Dismas Zelenka und Giovanni Alberto Ristori (1692-1755) vertreten lassen. Heinichen hatte 1721 in Weißenfels geheiratet; im Januar 1723 wurde er Vater eines Mädchens. In seinen letzten Jahren unterrichtete er Johann Georg Pisendel und Johann Joachim Quantz in Komposition. Er verstarb am 16. Juli 1729 in Dresden und wurde auf dem Johannes-Friedhof beigesetzt.