Tijdens de Balkancrisis van 1875–1878, waarbij Turkije oorlog voert tegen Servië, Montenegro en tegen Rusland, voert Gyula Andrássy wederom een neutraliteitspolitiek voor Oostenrijk-Hongarije. In het jaar 1876 geeft een opstand in Bosnië-Herzegovina hem aanleiding om zich te wenden tot de regering van het Ottomaanse Rijk, over de situatie van gevluchte Christenen. Na de Vrede van San Stefano pleit hij voor een Europese basis voor het verdrag, welk gerealiseerd wordt door het plaatsvinden van het Congres van Berlijn, waaraan Gyula Andrássy zelf deelneemt.
Als laatste daad werkt hij aan de Tweebond tussen het Duitse Keizerrijk en Oostenrijk-Hongarije, welke een dag voor zijn eigen aftreden, op 8 oktober 1879 tot stand komt. De Tweebond is een militair pact tussen de twee machten, echter de door Duitsland tevens gewenste economische samenwerking wordt door hem verworpen. Officiële reden voor zijn aftreden is de gezondheid van de graaf, maar het is niet onwaarschijnlijk dat ook een rol speelt dat de toenemende Russische invloed op de Balkan die hij lang had bevochten, ook zijn grip op Hongarije begint te krijgen.
