Den 9. november var Tordenskiold i et middagsselskap i Hannover i Tyskland, hvor han kom i krangel med den svenske obersten og adelsmannen Jacob Axel Staël von Holstein. Von Holstein skulle ved en tidligere anledning ha narret en ung bekjent av Tordenskiold, som ble rundspilt i kort hjemme hos von Holstein. Krangelen utviklet seg til et rent håndgemeng, og von Holstein forlangte oppreisning gjennom en duell.
Tordenskiold skal ha kviet seg for å ta imot utfordringen, men gikk likevel med på å møte von Holstein et par dager senere, på en eng ved landsbyen Gleidingen, litt utenfor Hannover. Duellen ble utkjempet med kårder, som Tordenskiold hadde liten erfaring med. Etter bare et par utfall fikk von Holstein inn et støt under Tordenskiolds høyre arm. Han skal ha blitt stående og vakle mens han ropte på sin kammertjener, Christian Kold. Til slutt falt han baklengs, over tjeneren, og døde i løpet av få minutter.
Var duellen egentlig et komplott? Ble Tordenskiold lurt til å velge kårder og ikke pistoler? Var Tordenskiolds kårde uegnet som duellvåpen? Var de to sekundantene, oberstløytnant Georg von Münchahusen (far til den berømte baron von Münchhausen) og offiseren André Sicre (som selv var under mistanke for Karl 12.s død) med på komplottet? Dette er noen av spørsmålene som er blitt stilt rundt Tordenskiolds død, uten at det har vært mulig å bevise noe mistenkelig ved duellen.