Събитията от историята „Знак на четирима“ се случват в Лондон през 1888 г. По време на принудително безделие поради липсата на поръчки, известният консултант на детективите Шерлок Холмс, който живее на 221-6 на Бейкър Стрийт, заедно с приятеля си д-р Уотсън, го отправя към него. дедуктивния му метод, който той използва при разрешаване на престъпления. Шерлок Холмс е убеден, че наблюдателен човек е в състояние да докаже съществуването на водопадите на Атлантическия океан и Ниагара чрез логични изводи, дори ако никога не ги е виждал досега и не е чувал нищо за тях. Трябва да се отбележат най-малките подробности и факти, тъй като те са в състояние да дадат безценен принос за възстановяването на пълната картина на събитията, характера на личността и обстоятелствата на престъплението.
Бидейки блестящ детектив, Шерлок Холмс притежава енциклопедични познания в областта на криминалната хроника и химия, добре свири на цигулка, има отлични умения по фехтовка и бокс, добре познава геология, анатомия, ботаника, има изключителен актьорски талант, но в областта на литературата и др. философия, астрономия, знанията му са нула. В часовете, когато няма какво да прави, той е обзет от смъртоносна скука и намира утеха в морфина и кокаина.
Д-р Уотсън, приятел и спътник на Шерлок Холмс, бивш военен лекар, който е служил с английската армия в индийската война с Афганистан и е ранен в тази война, живее с Холмс в същия апартамент и е летописец на всички случаи, разкрити от неговия приятел.
За голямо удоволствие на Шерлок Холмс, временното му безделие е прекъснато от известна двадесет и седем годишна госпожица Морстен с одухотворено и любезно лице, свидетелстващо за благородството и съчувствието на душата. Тя разказва на детектива за странни събития, случили се наскоро в живота й, и го моли за помощ. В детството тя загуби майка си. Бащата, който служи като офицер в Индия, изпрати дъщеря си в пансион в Англия. През 1878 г., тоест преди десет години, той пристига в Англия, както по-рано беше обявено в телеграма. Когато обаче госпожица Морстен пристигна в хотела, разбра, че баща й изведнъж е изчезнал. Не се върна на следващия ден, никога повече не се върна. След това, започвайки от 1882 г., тя изведнъж започва да получава една много красива и голяма перла от някого всяка година. И в деня на посещението си в Холмс тя получи писмо, в което тя беше помолена да дойде вечер в театъра на лицей, казвайки, че е била третирана несправедливо и че някой иска да поправи тази несправедливост.
Шерлок Холмс и д-р Уотсън отиват на посоченото място с нея. Преди да тръгне, тя показва на Холмс странна бележка, открита в вещите на изчезналия Морстен, която изобразява план на някаква стая, с четири кръста, изрисувани на един ред на едно и също място, с напречни греди в контакт един с друг и с претенциозен подпис: "знак на четири". Човекът, когото срещнаха, ги отвежда в такси до южен Лондон. Там те срещат малък червенокос мъж с лъскава плешива глава. Оказва се, че той е един от синовете-близнаци на починалия преди шест години майор Шолто - Тадеуш Шолто. Неговият баща и баща мис Морстен някога служиха заедно в Индия в колониалните сили. Там майор Шолто, мистериозно богат, подаде оставка преди единадесет години и се завърна в Англия с богата колекция от ориенталски рядкости и цял персонал от местни слуги. Майорът не разкри тайната на придобиването на съкровища и къде се съхраняват до смъртта му. Усещайки нейния подход, той повика синовете си при него и им разказа как капитан Морстен е умрял. Оказа се, че след като пристигна в Лондон преди десет години, той дойде в Шолто и те имаха спор за разделението на съкровища, за което Морстен знаеше и половината от него се дължи на него. Той, страдащ от възпалено сърце, получи атака. Тогава той падна и, ударил главата си в ъгъла на съкровището, той умря. Страхувайки се, че ще бъде обвинен в убийство, Шолто скри тялото на капитана и не каза нищо на дъщеря си, когато няколко дни по-късно, търсейки изчезналия си баща, тя дойде в къщата му. Преди смъртта си той също искаше да разкрие на синовете си къде е скрито самото ковчеже, но ужасно лице извън прозореца му пречеше да направи това. Той умрял, занесъл тайната със себе си в гроба. Синовете му, почувствали дълг към госпожица Морстен и искаха да я отърват поне от нужда, започнаха да й изпращат всяка година по една перла перлени перли, веднъж извадени от баща им от ковчега. За момента Тадеуш Шолто и брат му Вартоломей дори не знаеха къде са скрити самите богатства. Предния ден обаче, след дълги години неуспешни претърсвания, Вартоломей ги намери на таванското помещение на къщата си, в стая с тайна стена. Той докладва това на Тадеуш. Той, въпреки възраженията на брат си, който наследи жилавостта си от баща си, реши да сподели съкровищата с госпожица Морстен. И четиримата отиват при Вартоломей. Въпреки това те откриват, че той е бил убит от отровен трън, хвърлен в шията му, че съкровищата са били откраднати и че на местопрестъплението е оставен лист хартия със знака на четирима.
Дребните подробности карат Шерлок Холмс да предполага, че двама души са престъпниците - бягство осъден на име Джонатан Малък, който има дървена протеза вместо десния крак, а номер едно, дивак от Андаманските острови, е малък, много ядосан и пъргав. След като помогна на Мал заедно с ковчега да слезе през прозореца от въжето, той затвори щорите отвътре и излезе през тавана. Докато тичаше, той изцапа крака си в креозот, а Холмс с помощта на смъркащото куче Тоби тръгна по стъпките му към реката. Там той разбрал, че престъпниците се качили на наета лодка "Аврора". Когато Холмс планира да проследи лодка с помощта на наета банда момчета, се разпада, той, облечен като стар моряк, тръгва в търсене на Аврората и се опитва да я намери на доковете. Успява. Той се обажда на помощ на инспектора на Скотланд Ярд Етели Джоунс, който разследва убийството, а те заедно с д-р Уотсън преследват полицейска лодка и хващат престъпниците с ковчеже. Когато гони дивак, той трябва да бъде убит, защото започва да стреля по преследвачите с отровните си тръни. Д-р Уотсън отвежда ковчега при госпожица Морстен, но в крайна сметка се оказва, че той е празен, което докторът е изключително щастлив, защото бариерата, която според него е възникнала между него и младата жена заради предполагаемото й богатство, изчезва. Сега той може свободно да изповяда нейната любов и да предложи ръка и сърце. Мис Морстен намира предложението му за много привлекателно. Малък, осъзнавайки, че неизбежно ще бъде хванат, хвърли бижутата в Темза, защото не искаше да позволи на никой друг да го вземе. Смъртта на Вартоломей Шолто не беше част от плановете му и не той го уби, а злият дивак без знанието на Малък. За да убеди Шерлок Холмс и Етели Хоунс в това, той им разказва историята на живота си. В младостта си той се записва като войник в полка, изпратен в Индия. Въпреки това, той скоро трябваше да се раздели с услугата: когато се къпеше в Танга, крокодилът откъсна крака си над коляното и той стана безпомощен сакат. След това, когато работи като надзирател на плантация, изведнъж в страната започна бунт. Малък побързал към Агра и се присъединил към британското поделение, което се е приютило в крепостта Агра и му е поверено да охранява един от входовете на крепостта и му е даден двама сикхи. На третата нощ сикхите плениха Малък и го изправиха пред избор: да бъде с тях или да затвори завинаги. Разказали му за плана си: в северните провинции живеела една много богата раджа. Той нареди част от богатството си да скрие слугата Ахмет в крепостта Агра до края на войната, така че в случай на победа британците да спасят поне този сандък. Придружителят на сикхите и Ахмет, техният съучастник, искал да го убие и да завладее ковчега. Малки решиха да се присъединят към тях и се заклеха във вярност към тях. И четиримата изпълниха плана си. Те скриха убития Ахмет в една от залите на старата крепост, където никой не беше влизал. Сандъкът беше ограден в стената на същата зала. Всеки от тях получи бележка с план и символизирайки своята вярност един към друг със „знака на четирима“. Впоследствие обаче всички бяха осъдени на доживотен затвор за убийство. Докато излежават присъдите си, те не можеха да използват богатството си. Тогава Малък се съгласил с Шолто и Морстен, които охранявали затвора, че той ще им каже къде е скрит ковчегът, те ще получат своя дял, а в замяна ще организират бягство за четиримата затворници. Шолто, който отиде за ковчега, измами всички и се върна сам в Англия. Оттогава Малкият започна да живее само с мисълта за отмъщение. Той избяга от затвора с помощта на приятел - родом на име Тонго. В Англия той се свърза с един от слугите на майор Шолто и изчака подходящия момент. Малкият погледна през прозореца към умиращия майор. В очакване на криле той открадна съкровищата. За смъртта на Вартоломей той развърза Тонго с въже. Това беше историята на Джонатан Малък.
Съкровищата не отидоха при никого. Д-р Уотсън получи съпругата на госпожица Морстен, Етели Джоунс - слава за разрешеното престъпление, а Холмс се задоволи с ампула кокаин.
