Положение Галлии было смутным и трудным. Расстроенная только что подавленным восстанием Сильвана, страна была терзаема набегами германцев. Собрав все наличные военные силы, Юлиан пошёл против варваров, оттеснил их многочисленные отряды за пределы области, освободил от них нынешние Трир и Кёльн и, двигаясь дальше на юг, соединился с армией Констанция, который действовал в Реции (356 г.). Успех похода укрепил авторитет Юлиана и поднял дух войска, сильно привязавшегося к искусному, храброму и гуманному вождю. Зимой следующего года ему пришлось с небольшими силами отражать алеманнов, большой толпой обрушившихся на нынешний Санс. Варвары были разгромлены, и Юлиан заслужил благодарность императора, за что почувствовал себя обязанным произнести панегирик Констанцию и Евсевии. Но алеманны подготовились к новому массовому движению в Галлию. Ополчение в 35 тыс. человек перешло Рейн под предводительством конунга Хнодомара, однако Юлиан с гораздо менее значительной армией в 357 г. нанёс ему жестокое поражение под нынешним Страсбургом. Эта блестящая победа обезопасила на некоторое время границу от набегов алеманнов (само их единство было разбито пленением Хнодомара). Затем Юлиан спустился по Рейну, восстановляя разрушенные римские города и крепости, прогнал франков-салиев в Токсандрию, а хамавов отбросил за Рейн (358 г.). Он умел не только искусно и храбро воевать, но и обеспечивать войско продовольствием, одеждой, оружием (оборона Галлии Юлианом вообще является славным эпизодом военной доблести и правительственной энергии в эпоху разложения империи). Одновременно Юлиан работал над улучшением гражданского и финансового управления вверенной ему области, заботился о водворении правосудия, боролся против жестокого фискализма его уменьшением, чем приобрёл любовь населения, как раньше – преданность армии. По ночам он запирался в библиотеке, много читал и писал, особенно в зимнее время (которое обычно проводил в нынешнем Париже; «в своей милой Лютеции»), живя во дворце, построенном Констанцием Хлором, а Юлианом расширенном и украшенном (великолепная развалина от него сохраняется в самой середине нынешнего Парижа – château de Cluny). Однако личное положение Юлиана не было прочным; чем убедительнее были его успехи, тем реальнее была опасность (в Галлии он жил в окружении врагов). Юлиан мог доверять только своему рабу Евгемеру, другу и врачу Орибасию и своему помощнику Саллюстию. Весь остальной персонал, с префектом претория Флорентием во главе, состоял из агентов Констанция, посылавших императору лживые доносы. Напуганный клеветой против вполне лояльного к нему Юлиана и желая лишить его защиты со стороны преданного войска, Констанций потребовал, чтобы тот лучшие, им самим собранные и обученные легионы, отпустил на Восток, против персов. Это грозило опасностью не только военачальнику, но и стране. Однако Юлиан не противился и объявил войскам предписание императора. Раздражённые и встревоженные, галльские легионы возмутились, провозгласили Юлиана «августом», поклялись ему в верности и потребовали, чтобы он оставил их около себя. Юлиан колебался, но вскоре увидел, что противиться поднявшемуся движению означало погубить себя (его могли просто убить). Поэтому он решился принять предложенную легионами власть, однако попытался достигнуть мирного соглашения с Констанцием: отправил ему доклад о совершившемся, просил утвердить его соправителем и обещал верность (360 г.). Констанций (после некоторых колебаний) потребовал полной покорности. Тогда Юлиан, собрав все силы, какими мог располагать, двинулся через Рейн и пошёл вниз по Дунаю и через Балканы к Константинополю. Констанций из Азии, где он воевал с персами, поторопился туда же, но в пути заболел и неожиданно умер (7 ноября 361 г.). Это избавило Юлиана от необходимости дальнейших военных действий. Все признали его единодержавным государем, и он почтил предшественника царским погребением в столичной церкви св. Апостолов. Желая очистить двор от недостойных людей, которыми он наполнился при Констанции, Юлиан не удержался от преследования тех, расправа с которыми могла быть сочтена за акт мести; этим он как бы дал повод врагам запятнать в общем заслуженную им репутацию гуманного человека и справедливого государя. Перед Юлианом открывалось теперь широкое поприще.