从小就被圣音痴之家的鲁里米索先生收养，在私立无伴奏学校学唱卡拉OK的麦克风次郎（高山みなみ 声音表演），因为是音痴，他一唱歌能把窗户震坏，让同学们崩溃。而自以为唱歌最好而傲慢的若王子殿（小林优子 声音表演）更是鄙视他，并向他父亲学校的理事长若王子大殿（佐藤正治 声音表演）告状要把次郎开除出学校去。一心想唱好歌的次郎好朋友舟木吉道（柏仓つとむ 声音表演）家里经营着蛇之道卡拉OK连锁店，他缠着舟木要去练歌。王子和妹妹若王子姬（江森浩子 声音表演）没安好心，邀请次郎唱卡拉OK，那里其实是整人屋，当次郎将要遇到危险时，却得到了父母留给他的能使他成为真正卡拉OK麦克风战士的麦克风。王子要抢麦克风，却意外用自己的戒指打开了次郎被上了锁的声带。没想到声带解锁后，次郎的声音竟犹如天籁.....作品中的情感描写让人心潮澎湃。
《魔法小歌王》中，选录了许多的经典老歌，因为动漫中次郎正是以卡拉OK为武器来打败对手，所以歌成为了动漫必不可少的一部分。比如动漫中收录的演歌“川の流れのように”，“昴”“ 人生いろいろ”等，在百家榜单上都排名前列。因此以歌作为武器也成为了动漫的一大特色。