Группа An Cafe основана в мае 2003. Первоночально группа состояла из Miku, Kanon и Bou к которым позже присоединился Teruki, после того как он покинул свой предыдущий коллектив, Feathers-Blue. В первый год группа пела в живую и не записывала песни.

В 2004 An Cafe выпустили свои первые записи и заключили контракт с Loop Ash. Их первая запись "Candyholic" вышла в марте и достигла второго места в рейтинге Oricon (рейтинг для записей сделанных независимыми компаниями). Группа продолжила давать концерты и записывать свои песни, в том числе их первый альбом Shikisai Moment вышедший в 2005. Второй альбом Magnya Carta (обыгрывается слово "Магна Карта") вышел в 2006.

В 2007 группа анонсирова своё первое выступление за пределами Японии Project A-Kon. Это было сделано после того как группу покинул гитарист Bou. Последнее выступление с Bou состоялось 30 апреля 2007 и было включено в DVD под названием Hibiya On *The* o New Sekai. После того как Bou покинул группу, было объявлено о двух новых участниках: Takuya должен был заменить Bou как гитарист, а также к группе должен присоединиться Yu-ki. Первым синглом, выпущенным новым составом, стал "Kakusei Heroism" , затем последовал "Ryuusei Rocket". В конце 2007 An Cafe анонсировали свой первый зарубежный тур, который состоялся в Европе в 2008.

В начале 2008, An Cafe анонсировали их новый сингл, "Cherry Saku Yuuki!!", а также новый альбом, Gokutama Rock Cafe, который вышел 9 апреля 2008.