जिला मुख्यालय बैकुंठपुर से 12 किलोमीटर की दूरी पर मौजूद अमरपुर में होली का त्योहार तय तारीख से पांच दिन पहले मना लिया जाता है. गांववाले बताते हैं कि, कई साल पहले यहां महामारी ने दस्तक दी थी, जिसकी वजह से कई लोग बीमार हुए और उनमें से ज्यादातर काल के गाल में समा गए. परेशान गांववाले भागे-भागे ओझा के पास पहुंचे, गुहार लगाई कि कोई उपाय बताओं गांव को खत्म होने से बचाओ.
गांववालों की गुहार पर ओझा ने युक्ति सुझाते हुए कहा कि, अगर वे लोग तय तारीख से पांच दिन पहले होली का त्योहार मनाएंगे तो महामारी छू मंतर हो जाएगी और दोबारा लौटकर नहीं आएगी.
उस दिन के बाद से यह परंपरा बन गई जो आज तक कायम है. हर साल होली से पांच दिन पहले यहां फाग का त्योहार बड़ी ही धूमधाम से मनाया जाता है.