Не сохранилось конституции императора Юстиниана, аналогичной конституции «Haec quae necessario», в которой он бы предписывал создать кодекс второго издания. В качестве оснований для создания нового кодекса императорских постановлений указывается издание «Институций» и «Дигест», а также принятие новых императорских конституций после появления «Кодекса Юстиниана» первого издания, т.е. в процессе Юстиниановой систематизации правоустановительных актов. Комиссию по изданию нового кодекса императорских конституций вновь возглавил Трибониан; в состав комиссии вошёл Дорофей, учёный-юрист из Бейрута, а также адвокаты суда префекта Константинополя Мены Константин и Иоанн. Во вторую редакцию «Кодекса Юстиниана» не вошли утратившие юридическую силу императорские постановления; кроме того, нормативно-правовой материал кодекса был очищен от повторений и противоречий. Составители «Кодекса Юстиниана» получили широкие правомочия по редактированию императорских конституций: они могли удалять, дополнять и изменять их тексты. Императорские постановления, изданные до момента обнародования «Кодекса Юстиниана» и не включённые в него, утрачивали юридическую силу. Инструкции по обнародованию кодекса совпадают с инструкциями по обнародованию «Институций» и «Дигест». В «Кодекс Юстиниана» вошли не только императорские эдикты и всеобщие законы (leges generales), как в «Кодекс Феодосия», но все виды правовых актов, принятых императорами. При этом были установлены и новые критерии в отношении времени издания подлежащих включению в «Кодекс Юстиниана» актов: самые ранние из включённых в него постановлений относятся к правлению императора Адриана. Всего в «Кодекс Юстиниана» вошло около 4650 императорских постановлений. Комиссия составителей использовала в качестве источников для составления «Кодекса Юстиниана» «Грегорианов» и «Гермогенианов» кодексы, «Кодекс Феодосия», новеллы, изданные римскими императорами в 438–528 гг., а также постановления самого императора Юстиниана, в том числе его пятьдесят решений. Кроме того, в «Кодекс Юстиниана» вошли и «экстравагантные» («extravagantes» – «внешние», не вошедшие в первую редакцию «Кодекса Юстиниана») конституции Юстиниана, предметом регулирования которых были, по мнению исследователей, нерешённые вопросы постклассического права. Соответственно самая поздняя из известных конституций, включённых в «Кодекс Юстиниана», была издана Юстинианом 4 ноября 534 г. Архивами составители «Кодекса» пользовались, по мнению исследователей, только для нахождения самых новых императорских постановлений, тогда как «древние» конституции заимствовались непосредственно из кодексов. Общепринятой является концепция, согласно которой единственными источниками юстиниановских компиляторов для периода до 438 г. были «Грегорианов» и «Гермогенианов» кодексы и «Кодекс Феодосия». Руководствуясь этой гипотезой, П. Крюгер вопреки мнению Теодора Моммзена полагал, что можно восстановить несохранившиеся титулы и конституции первых книг «Кодекса Феодосия», руководствуясь «Кодексом Юстиниана», именно на том основании, что составители последнего не пользовались для периода IV – началом V вв. никаким другими источником, помимо «Кодекса Феодосия».