La symphonie fut créé le 24 mars 1792. L'auditoire avait été particulièrement frappé par un soudain coup de timbale, dans le deuxième mouvement. C'est de là que lui vient son surnom. Au lendemain de la création, un critique a dit:
« La surprise qu'il contient peut être comparée à celle ressentie par une belle bergère que le murmure éloigné d'une cascade aurait endormie et qu'un coup de fusil tiré par un chasseur réveille en sursaut. »