Ο ΑΟ Κιλκισιακός ιδρύθηκε το 1961 έπειτα από την συγχώνευση της τοπικής ΑΕΚ, του Άρη και του Μέγα Αλέξανδρου Κιλκίς. Την σεζόν 1964-1965 ανέβηκε για πρώτη φορά στην ιστορία του στην Β' Εθνική παραμένοντας στην κατηγορία ως το 1967. Το 1969 επέστρεψε πάλι στην ίδια κατηγορία αγωνιζόμενος ως το 1975, ενώ αγωνίστηκε στην ίδια κατηγορία ξανά από το 1976 ως το 1980. Επανήλθε στη Β΄ Εθνική το 1981 ως το 1983 και το 1985 ως το 1987. Έχει αγωνιστεί δύο φορές στον τελικό του Κυπέλλου Ελλάδας Ερασιτεχνών, το 1998 και ο 2007. Συνολικά μετρά 17 συμμετοχές στη Β’ Εθνική, 16 συμμετοχές στη Γ’ Εθνική και 11 στη Δ’ Εθνική.