Le Major Sholto, responsable d'un camp de prisonniers dans les îles Andaman, découvre que Jonathan Small, un des condamnés, sait quelque chose à propos d'un trésor caché par un Rajah, quelque part sur l'île. Sholto s'associe avec le Capitaine Morstan et Small pour partager le butin. Sholto et Morstan trouvent le trésor, Morstan est assassiné et le major retourne en Angleterre.
C'est le Blitz à Londres en 1940. Un docteur John Watson âgé et malade raconte à son infirmière l'histoire de son enquête la plus complexe avec Sherlock Holmes, qu'ils ont tous les deux juré de ne jamais raconter au public ni adapter dans une des fameuses histoires de Watson.
19-22 mars 1901 - Londres : Sherlock Holmes arrive chez le Professeur Moriarty, un homme redoutable à la tête du crime organisé londonien. Le détective annonce à son ennemi qu'il a infiltré son organisation criminelle et que tous ses proches collaborateurs ont été arrêtés. Moriarty menace Holmes, mais se retient de le tuer. L'homme machiavélique annonce qu'il va perpétrer en représailles le « crime du siècle », qui se déroulera sous les yeux du détective sans que celui-ci ne parvienne à l'arrêter, ce qui l'humiliera et le discréditera aux yeux du public. De retour au 221B Baker Street trois jours plus tard, Watson informe Holmes qu'Irène Adler, devenue chanteuse de music hall à New York, va prochainement donner un récital. Holmes reçoit anonymement par la poste des tickets pour le spectacle, et s'inquiète qu'un lien existe entre les mauvaises intentions de Moriarty et Irène Adler : il décide donc de partir à New York avec Watson.
Le diplomate britannique Sir Henry Marchmont voyage sur un vol transatlantique de Londres à New York, en route pour Washington. Il est suivi par un groupe d'espions allemands, dirigés par William Easter, qui le soupçonnent d'être porteur de documents secrets du gouvernement. Les agents allemands découvrent que Sir Henry est en fait un leurre et Easter reconnaît en John Grayson, un autre passager, le vrai messager. Réalisant qu'il a été découvert, Grayson glisse une boîte d'allumettes dans le sac d'une passagère, Nancy Partridge, quelques instants seulement avant d'être enlevé par Easter et ses hommes.
Les Irréguliers de Baker Street enquêtent sur la disparition mystérieuse de deux membres de leur bande, alors que Sherlock Holmes est lui-même accusé de meurtre et est assigné à résidence. En unissant leurs qualités à celle de Holmes, ils arriveront non seulement à retrouver leurs amis et à disculper Holmes, mais ils permettront aussi d'empêcher un audacieux cambriolage.
En 1891, Sherlock Holmes est retrouvé par le docteur Watson dans un état de totale prostration causé par l'usage de la cocaïne. Avec l'aide de Mycroft Holmes, Watson parvient à entraîner Holmes à Vienne afin de lui faire suivre une cure de désintoxication auprès du docteur Sigmund Freud. Après diverses péripéties, tous les trois seront conduits à prendre l'Orient-Express pour sauver une ancienne patiente de Freud qu'un sultan veut emmener en Turquie.
Sherlock Holmes entre dans son salon et se rend compte qu'il a été cambriolé mais alors qu'il se confronte au bandit, ce dernier disparaît, à la grande surprise de Sherlock. Holmes tente d'oublier l'incident en allumant un cigare mais le voleur réapparaît et il tente alors de lui reprendre son butin en sortant un pistolet de son peignoir et en tirant sur l'intrus qui se volatilise. Une fois qu'Holmes récupère ce qui lui appartient, le sac disparaît de ses mains pour réaparaître dans les mains du voleur qui disparaît rapidement par une fenêtre. A ce moment précis, le film se termine inopinément sur l'image de Sherlock complètement déconcerté
Londres, 1888. Sherlock Holmes décide d'enquêter sur plusieurs meurtres de prostituées commis dans le quartier londonien de Whitechapel par un criminel qui se fait surnommer « Jack l'Éventreur ». Son enquête l'entraîne sur plusieurs pistes, des bas-fonds aux quartiers les plus riches.
Alors étudiant à l'Université de Cambridge, Sherlock Holmes rencontre le docteur Watson qui l'amène à sa première enquête, sur un vol dont est soupçonné le prince Alexis. En même temps que le véritable auteur, Holmes découvre que l'opération est conduite par le professeur Moriarty. Quelques années après, désormais installé à Londres, au 221B Baker Street, Holmes retrouve le prince Alexis qui lui demande d'enquêter sur un chantage dont il est victime, de la part de Moriarty, qui détient la correspondance échangée entre Alice Faulkner et sa sœur Rose. Cette dernière, ancienne fiancée du prince, s'est suicidée lorsqu'il l'a éconduite.
Pendant la Seconde Guerre mondiale, Sherlock Holmes favorise la fuite du docteur Franz Tobel, inventeur d'un viseur novateur, et le protège des nazis qui le recherchent.
Lors d'une vente aux enchères à Londres, trois boîtes à musique identiques fabriquées à la prison du Dartmoor sont vendues à Julian "Stinky" Emery, William Kilgour et Evelyn Clifford. Immédiatement après la vente, le colonel Cavanaugh offre un pot-de-vin au commissaire-priseur, pour qu'il lui donne les adresses des acheteurs.
Alors que Londres est frappée par une vague de suicides inexplicables, Sherlock Holmes se fait passer pour mort afin de résoudre cette énigme en toute discrétion. Persuadé que les suicides sont en fait des meurtres, le détective prend l'identité de Rajni Singh, un militaire indien à la retraite, et démasque une bande de malfrats emmenée par l'intrigante et séduisante Andrea Spedding.
Dans les années 40, un groupe des meilleurs enquêteurs de Scotland Yard se rencontrent pour discuter du meurtre d'une jeune femme, le quatrième d'une série connue sous le nom de "meurtres au doigt coupé", car chaque victime est retrouvée ainsi. L'inspecteur Gregson, responsable de l'enquête, informe ses hommes qu'il a l'intention de demander l'aide du célèbre détective Sherlock Holmes.
Les habitants du petit village de La Morte Rouge, près de Québec, vivent dans la peur car un fantôme meurtrier erre dans les marais à proximité. Quand le Père Pierre entend pendant la nuit les cloches de son église en train de sonner, il se précipite pour trouver le corps sans vie de Lady Lillian Penrose serrant la corde de la cloche. Pendant le même temps, Lord William Penrose est à Québec, à une réunion de la Société royale du Canada sur l'occultisme, réunion où sont aussi présents le célèbre détective Sherlock Holmes et son fidèle compagnon, le docteur John H. Watson.