Makulis was initially worked as secretary to the British Embassy in Greece. 1949 gewann er in Athen einen Gesangswettbewerb, aufgrund dessen er bald zu einem erfolgreichen Sänger in seinem Heimatland wurde. In 1949 he won a song contest in Athens in connection with which he soon became a successful singer in his native country. Mitte der 1950er Jahre kam er nach Deutschland. The mid-1950s he came to Germany. Sein erster großer Erfolg hierzulande war 1956 das Lied Auf Cuba sind die Mädchen braun . His first big success in this country was in Cuba, 1956, the song the girls are brown. Der größte Erfolg kam dann 1959 mit der Coverversion des Liedes Gitarren klingen leise durch die Nacht , ursprünglich ein Hit des DDR-Sängers Günter Geißler , der heute zu den Evergreens des deutschen Schlagers gehört. The greatest success came in 1959 with the cover of the song guitars sound softly through the night, originally a hit of the GDR singer Günter Geissler, belongs today to the evergreens of German folk music. Wegen seines perfekten Aussehens und Auftretens nannten ihn die Medien den „Sinatra des Orients“. Because of his perfect appearance and occurrence of the media called him the "Sinatra of the East". In jener Zeit lebte er in München. At that time he lived in Munich.
1961 wirkte Makulis unter der Regie von Otto Ambros in dem Spielfilm Auf den Straßen einer Stadt mit. 1961 worked under the direction of Makulis Otto Ambros with in the movie on the streets of a city. Im selben Jahr vertrat er Österreich beim Eurovision Song Contest . In the same year he represented Austria at the Eurovision Song Contest. Sein Lied Sehnsucht belegte dort Platz 15 – damit war er punktgleich Letzter. His song there yearning occupied 15th place - level on points that he was last. 1962 nahm Makulis an den Deutschen Schlager-Festspielen 1962 teil, deren Siegerin Conny gleichzeitig auch deutsche Teilnehmerin des Eurovision Song Contest war. 1962 Makulis took part in the Deutsche Schlager-Festival 1962, whose winner Connie was at the same time German participant of the Eurovision Song Contest. Sein Lied Ich habe im Leben nur dich kam jedoch nur auf den letzten Platz. His song I have in life, only you, but only came to the last seat. Dennoch konnte sich der Titel 12 Wochen in den deutschen Charts halten. Nevertheless able to keep track of 12 weeks in the German charts.
1966 wechselte Makulis in die USA , wo er in Las Vegas einige beachtliche Erfolge erzielte. 1966 Makulis moved to the United States, where he scored in Las Vegas some notable successes. Seit 1985 wohnte Jimmy Makulis wieder in seiner Heimat Griechenland und nahm 1990 an der griechischen Vorausscheidung für den Song Contest teil, jedoch ohne Erfolg. Since 1985, Jimmy lived Makulis back in his native Greece in 1990 and took part in the Greek pre-judging for the song contest, but without success. Anfang der 1990er Jahre kehrte er wieder nach Deutschland zurück und hatte auch noch ein paar kleinere Erfolge. In the early 1990s he returned to Germany and also had some minor successes. Makulis sang in zehn Sprachen. Makulis singing in ten languages. Er war verheiratet mit einer Berlinerin. He was married to a Berliner.
Am 28. On 28 Oktober 2007 starb Makulis im Alter von 72 Jahren in einem Krankenhaus in Athen, nachdem er sich einer Herzoperation hatte unterziehen müssen. October 2007 Makulis died at the age of 72 years in a hospital in Athens after he had heart surgery to undergo.