J-pop, как явление, уходит корнями в джазовую музыку, которая стала популярной в течение раннего периода Сёва. Джаз принёс множество музыкальных инструментов, ранее использовавшихся для исполнения классической музыки, военных маршей, бывших в диковинку для слуха японцев, добавив элемент «веселья» в японскую музыкальную сцену тех лет. Как результат, Онгаку Кисса (яп.音楽喫茶?), музыкальные кафе, стали популярной площадкой для исполнения живой джазовой музыки.
Под давлением Имперской Армии, в течение Второй мировой войны, джаз перестал звучать. По окончании войны, солдаты из Соединённых Штатов оккупировавшие Японию, принесли множество музыкальных стилей, таких как буги-вуги, мамба, блюз, и кантри. Стали популярными песни Касаги Сидзуко «Токио Буки-Вуги» (1948), Тиэми Эри «Tenessie Waltz» (1951), «Омацури Мамбо» Хибари Мисоры. Иностранные музыканты и группы включая JATP и Луи Армстронга, посещали Японию с концертами. 1952 стал годом джазового бума в Японии. Но жанр требовал технического мастерства, и был сложен для исполнения. Поэтому большинство японских исполнителей-любителей занялись музыкой кантри, которая была легка для исполнения и восприятия.
Благодаря влиянию кантри в 1956 году в Японии началась рок-н-ролльная лихорадка. Кадзуя Косака и его Wagon Masters представили свою интерпретацию знаменитой «Heartbreak Hotel» Элвиса Пресли. Рок-н-ролльное движение достигло своег пика в 1959 году, ознаменовавшегося появлением большого количества японских рок-н-ролльных групп. Однако шествование рок-н-ролла в Соединённых Штатах было не долгим, что послужило падению его популярности и в Японии. Отдельные японские коллективы пытались объединить традиционную японскую поп музыку с рок-н-роллом. Единственный музыкант, которому это удалось — был Кю Сакамото с песней «Уэ о Муйтэ Аруко» (яп.上を向いて歩こうУэ о Муйтэ Аруко:?) — «Давайте будем идти смотря в высь», известная во многих уголках мира как «Сукияки» («sukiyaki»). Остальные исполнители решили переводить тексты популярных американских песен на японский язык и исполнять их, благодаря чему родился так называемый «cover pop». Однако наступила эпоха телевидения, когда каждый имел возможность приобрести свой телевизор и смотреть музыкальные представления. Популярность cover pop угасла. Тем не менее, караоке, популярное в наши дни по всему миру, имеет прямое к нему отношение.
В период с ранних 70-х до середины 80-х произошёл переход от простых песен с гитарным аккомпанементом, к более сложным композициям, получившим название «Новой музыки». Сменило окраску и содержание текстов песен. Социальная направленность композиций ослабла, сфокусировавшись на любви и внутренних переживаниях. Такуро Ёсида и Ёсуи Иноу наиболее заметные представители «Новой музыки».
В 80-е термином «Сити Поп» стали обозначать популярную музыку больших городов, имеющую выраженную городскую тематику. Большинство песен этого жанра было написано в Токио.Так как различие между Сити Поп и Новой музыкой очень незначительны, родился новый термин «Васэй Поп» (поп-музыка из Японии), который стал общим названием для обоих направлений. И только лишь в 90-е, термин J-pop стал общеупотребимым во всем мире.
В конце 1980-х внимание публики было приковано к одной из наиболее знаменитых японских рок-групп Chage and Aska — дуэт состоящий из двух популярных японских певцов — Chage (Сюдзи Сибата) и Рио Аска (Сигэаки Миядзаки), впоследствии ставший самой популярной рок-группой в Азии. Их азиатское турне «Asian Tour II / Mission Impossible» стало одним из крупнейших в истории японской музыки. Билеты на все 61 концерт в Японии, Гонг-Конге, Сингапуре и Тайване были раскуплены в один день. Рио Аска, на сегодняшний день признан великим японским автором, сочинителем песен. Однако с появлением японской танцевальной поп-музыки исполняемой Намиэ Амуро и Тэцуя Коморо в середине 90-х популярность групп подобных Chage & Aska начала падать.
R&B стал популярен в Японии в конце 90-х. Хикару Утада дебютировала со своим первым синглом «Automatic/time will tell». Ее первый альбом «First Love» разошёлся тиражом 7 500 000 копий, став самым продаваемым альбомом в Японии всех времён. Также в стране были популярны Аюми Хамасаки, Маи Кураки и Ами, Судзуки, а также женские поп-группы, такие как SPEED, и Morning Musume, альбомы которых продавались не менее высокими тиражами.
В наши дни огромное влияние на японскую музыку оказали ритмы R&B и Hip-Hop. J-Hip-Hop группы, такие как ORANGE RANGE и Кэцумэйси на вершине чартов Oricon. Не забыты и старые Mr. Children, B'z и Southern All Stars. В современных чартах преобладают преимущественно мужские коллективы и мужчины соло-исполнители. Женщины в японской поп-музыке не столь популярны, как мужчины, но Хамасаки Аюми, Аи Оцука и Утада Хикару до сих пор № 1 в японских чартах.

J-pop — неотъемлемая часть японской поп-культуры. Он проник повсюду: в бизнес, торговлю, кино, телешоу и радиопостановки, видеоигры и аниме. Многие телевизионные программы используют J-pop в титрах. Ритм J-pop зачастую очень быстр, что делает его сложным для понимания некоторых людей. В аниме и телевизионных шоу, например Dorama, начальная и завершающая музыкальная тема меняется четыре раза в год. Большинство программ имеют до восьми открывающих и завершающих тем за сезон.
Огромное количество выпускаемых песен делает лицо J-pop постоянно изменяемым. Множество артистов успевают выпустить только один альбом и несколько синглов, после чего исчезают в неизвестности. Тем, кому удается удержаться на протяжении десятков лет, признаны выдающимися. Группы, такие как Dreams Come True, Chage & Aska, B'z, Southern All Stars, the pillows, и Tube бывшие популярны более 15 лет вошли в историю как имевшие феноменальный успех.
В последние пять лет наблюдается новый и несколько странный феномен зародившийся в Западной Японии. В городах Фукоку и Ойта был замечен всплеск популярности групп состоящий как из японцев, так и зарубежных музыкантов. Эта популярность привлекла внимание крупных музыкальных корпораций, включая Sony Japan. Стали известными группы Bump of Chicken, Fever, Dr. Funkinstein, Cut Flowers, The Routes, F8, and The James Heneghan Acoustic Roadshow. Многие из них выступили на проходящем ежегодно Concert of the Rock, в городе Накацу, префектура Ойта. Это двухдневное рок-представление, проходящее в рамках Mt. Hachimen, одного из крупнейших рок-фестивалей мира.