ในสมัยโบราณนั้นขิมของจีนเป็นทั้งเครื่องตี เครื่องสี และเครื่องดีด มีประวัติกล่าวไว้ว่า มีเจ้าเมืองแห่งหนึ่งชื่อ "จีเซียงสี" ปกครองเมืองอยู่ได้ สองปีก็เกิดภัยพิบัติเป็นพายุใหญ่ ทำให้ไม้ดอกไม้ผลโรยร่วงหล่นไปสิ้น จูเซียงสี จึงปรึกษากับขุนนางว่าจะทำประการใด ดี ขณะนั้นขุนนางคนหนึ่งได้กล่าวขึ้นว่า เมื่อก่อนได้ทราบว่า พระเจ้าฮอกฮีสี ฮ่องเต้ ได้สร้างขิมชนิดหนึ่งมีสาย ห้าสาย ถ้าหากว่าแผ่นดินมีทุกข์สิ่งใดเกิดขึ้น ก็ให้นำขิมที่สร้าง ขึ้นนั้นมาดีดขึ้น เนื่องจากว่าขิมนั้นเป็นชัยมงคล จูเซียงสี จึงสั่งให้ช่างทำขิมห้าสายแจกให้ราษฏร ที่เกิดทุกข์เข็ญ เมื่อราษฏร ดีดขิมขึ้น เสียงที่ออกมามีความไพเราะ ทำให้ลมสงบ ต้นไม้ทั้งหลาย ก็ติดดอกออกผลบริบูรณ์ทั่วถึงกัน
ชาวจีนถือว่าขิม เป็นเครื่องสีที่ให้เสียงประสานกันอย่างบริสุทธิ์ ถ้านำมาบรรเลงควบกับพิณอีกชนิดหนึ่ง ที่เรียกว่า "เซะ" หรือ "เซ็ก" ซึ่งมีมากสาย ก็จะเป็น สัญลักษณ์ แลดงถึงความสามัคคี ประสานกันเป็นอย่างดี ขงจื้อได้กล่าวไว้ว่า
"ผู้ซึ่งมีสามัคคีรสเป็นสุขสบายอยู่กับภรรยาและลูก ก็เปรียบเสมือนดนตรีขิม และพิณเซะฉะนั้น
ขิมเข้ามาในประเทศไทยในสมัยรัชกาลที่4 โดยชาวจีนนำมาบรรเลงรวมอยู่ในวงเครื่องสายจีน และประกอบการแสดงงิ้วบ้าง บรรเลงในงานเทศกาล และงานรื่นเริงต่างๆบ้าง นักดนตรีไทยนำขิมมาบรรเลงในสมัยต้นรัชกาลที่ 6 โดยแก้ไขบางอย่าง คือเปลี่ยนสายลวดทองเหลืองให้มีขนาดโตขึ้น เทียบเสียงเรียงลำดับไปตลอดจน ถึงสายต่ำสุด เสียงคู่แปดมือซ้ายกับมือขวามีระดับเกือบตรงกัน เปลี่ยนไม้ตีให้ใหญ่และก้านแข็งขิ้น หย่องที่หนุนสาย มีความหนา กว่าของเดิมเพื่อให้เกิดความ สมดุล และมีความประสงค์ให้เสียงดังมากขึ้น และไม่ให้เสียงที่ออกมาแกร่งกร้าวเกินไป ให้ทาบสักหลาดหรือหนัง ตรงปลายไม้ตี ส่วนที่กระทบกับสาย ทำให้เสียงเกิดความนุ่มนวล และได้รับความนิยม บรรเลงร่วมอยู่ในวงเครื่องสายผลมจนถึงปัจจุบัน เพลงที่นิยมบรรเลงกันมากคือ เพลงขิมเล็ก และเพลงขิมใหญ่ ซึ่งเป็นเพลงสำเนียงจีนที่เกิดขึ้นในราวปลายรัชสมัยรัชกาลที่4 โดยพระประดิษฐ์ไพเราะ (ครูมีแขก) ได้จำทำนองการตีขิมของคนจีน แล้วมาแต่งเป็นเพลงในอัตรา 2 ชั้นได้ 2 เพลง ตั้งชื่อว่า เพลงขิมเล็ก และ เพลงขิมใหญ่ สำหรับเพลงขิมเล็ก พระประดิษฐ์ไพเราะได้แต่งขยายเป็นอัตรา 3 ชั้น ส่วนเพลงขิมใหญ่ ครูช้อย สุนทรวาทิน ได้แต่งขึ้นเป็น อัตรา 3 ชั้น เช่นกัน และทั้ง 2 เพลงนี้ ครูมนตรี ตราโมทได้แต่งตัดลงเป็นอัตราชั้นเดียว จนครบเป็นเพลงเถา เมื่อประมาณปี พุทธศักราช 2478 และได้รับความนิยมมาจนถึงปัจจุบันนี้
