Obec 1.7.1993 sa osamostatnila. Zákonnou povinnosťou a súčasne aj dôležitým znakom samostatnosti obce je, aby si prijala vlastné symboly: erb, vlajku a pečať. Na základe rozhodnutia obecného zastupiteľstva symboly obce Kyselica boli vytvorené, schválené a vysvätené v roku 2005, pri príležitosti 800. výročia prvej písomnej zmienky obce.
Keďže v minulosti Kyselica bola súčasťou Vojkanskej stolice, preto vlastný obecný erb nemala, bolo potrebné vytvoriť nový erb spolu s obecnou vlajkou a pečaťou. Erb bol vytvorený na základe prvej známej pečate obce z roku 1852. Symboly erbu sú uložené podľa zásad heraldiky na modrom štíte: v hornej polovici veniec z ruží a pod ním obrnené, šabľou ozbrojené rameno. Modrá farba je farbou jasnej oblohy. Ozbrojené rameno symbolizuje históriu, slobodný, šľachtinský pôvod obce a výkon vojenských povinností. Odvodené je z erbu pôvodných známych obyvateľov obce - rodiny Cséfalvayovcov, Kajdacsyovcov a Bittóovcov. Veniec nad ozbrojeným ramenom je symbolom patrónky obce, Svätej Rozálie z Palerma. Veniec ruží na erbe je presnou kópiou venca z oltárneho obrazo miestneho kostola Svätej Rozálie.