Согласно другой более поздней легенде, Иуда Маккавей предписывал заботиться о больных и раненых, а госпиталь в Иерусалиме на деньги из гробницы царя Давида основал хасмонейский царь Иоанна I Гиркан (135/134 – 104 гг. до н.э.). События жизни Иисуса Христа на Святой земле также связывали с иерусалимским приютом: согласно орденской традиции, Иисус останавливался там вместе с учениками и творил чудеса. В целом подобные легенды были типичны для средневековых институтов, желавших вписать историю своих организаций в рамки Священной истории. Идеологическая связь с Маккавеями, сражавшимися за освобождение Святой земли от иноверцев и очищение храма в Иерусалиме, была также характерна для духовно-рыцарских Орденов. Первый известный исследователям руководитель госпиталя в Иерусалиме – Герард (ум. около 1120 г.). Согласно орденскому преданию, зафиксированному также хронистом Вильгельмом Тирским (ум. около 1186 г.), летом 1099 г., во время осады Иерусалима крестоносцами, Герард находился в городе и снабжал войска христиан хлебом, но был разоблачён, схвачен и помещён в тюрьму, где его пытали. Достоверные сведения о Герарде и его происхождении отсутствуют. Завоевание Иерусалима крестоносцами в 1099 г. и последовавшее затем усиление потока христианских паломников на Святую землю способствовали расширению госпиталя, возглавлявшегося Герардом. Исследователи полагают, что в организационном плане госпиталь святого Иоанна изначально подчинялся монахам-бенедиктинцам из монастыря святой Марии Латинской. Сам Герард и члены его общины предположительно были мирянами. 15 февраля 1113 г. папа Римский Пасхалий II (1099–1118 гг.) буллой «Pie postulatio voluntatis» утвердил госпитальное братство святого Иоанна в качестве отдельного Ордена с правом избрания собственного предстоятеля-магистра и объявил, что новый Орден и его собственность находятся под защитой Папского престола. Таким образом, в период между 1099 и 1113 гг. произошло полное институциональное разделение между госпиталем святого Иоанна и монастырём святой Марии Латинской. Фактически с этого момента начинается история Ордена святого Иоанна. Вскоре после завоевания крестоносцами Иерусалима и образования Иерусалимского королевства «защитник Гроба Господня» Готфрид Бульонский (1099–1100 гг.) пожаловал госпиталю святого Иоанна небольшие владения. В 1110 г. король Балдуин I (1100–1118 гг.) утвердил это пожалование и передал в собственность госпиталя дополнительный комплекс владений на территории Иерусалимского королевства. Примерно в это же время госпиталь получил в своё распоряжение первые владения и в Западной Европе, в районе Тулузы. К 1118 г. отделения Ордена святого Иоанна появились в графстве Триполи и в Антиохийском княжестве. В 1129 г. король Балдуин II (1118–1131 гг.) утвердил пожалования своих предшественников. Милитаризация Ордена святого Иоанна была постепенной и проходила в течение XII в. К 1120 г. при латинском Иерусалимском патриархате действовали три организации с разделением обязанностей: каноники Гроба Господня отвечали за богослужения и пастырское окормление христиан, тамплиеры – за военную защиту паломников, госпитальеры (иоанниты), т.е. члены Ордена (госпитального братства) святого Иоанна Крестителя, – за заботу о больных и нуждающихся.