Яак Йола родился 26 июня 1950 года в Вильянди, Эстонская ССР. Он стал одним из самых популярных артистов СССР конца 1970-х — 1980-х годов. Йоала виртуозно владел различными музыкальными инструментами и иногда сам исполнял инструментальные партии на записях собственных песен. Сохранились записи его исполнения на фортепиано, флейте, гитаре и ударных.
За исполнение песен на русском языке в своей родной Эстонии он получил прозвище «Кремлёвский соловей». В 1988 году Яак покинул советскую сцену, а в середине 1990-х практически прекратил концертные выступления.