Obec 1.7.1993 se osamostatnila. Zákonnou povinností a současně i důležitým znakem samostatnosti obce je, aby si přijala vlastní symboly: erb, vlajku a pečeť. Na základě rozhodnutí zastupitelstva symboly obce Kyselica byly vytvořeny, schváleny a vysvěcené v roce 2005, u příležitosti 800. výročí první písemné zmínky obce.
Jelikož v minulosti Kyselica byla součástí Vojkanskej stolice, proto vlastní obecní erb neměla, bylo nutné vytvořit nový erb spolu s obecnou vlajkou a pečetí. Erb byl vytvořen na základě první známé pečeti obce z roku 1852. Symboly erbu jsou uloženy podle zásad heraldiky na modrém štítě: v horní polovině věnec z růží a pod ním obrněné, šavlí ozbrojené rameno. Modrá barva je barvou jasné oblohy. Ozbrojené rameno symbolizuje historii, svobodný, šľachtinský původ obce a výkon vojenských povinností. Odvozené je z erbu původních známých obyvatel obce - rodiny Cséfalvayovcov, Kajdacsyovcov a Bittóovcov. Věnec nad ozbrojeným ramenem je symbolem patronky obce, Svaté Rozálie z Palerma. Věnec růží na erbu je přesnou kopií věnce z oltářního obrazo místního kostela Svaté Rozálie.