ในปลายสมัยกรุงศรีอยุธยาทางฝั่งซ้ายของลำน้ำโขงแขวงสวันเขต มีหมู่บ้านชุมชนใหญ่ชื่อบ้านหลวงโพนสิน ซึ่งตั้งอยู่ที่บริเวณพระธาตุอิงฮัง แขวงสวันเขตในปัจจุบัน โดยมีเจ้าจันทรสุริยวงศ์ปกครอง มีบุตรชายชื่อเจ้ากินรี ซึ่งต่อมาได้ข้ามลำน้ำโขงมาฝั่งขวาที่บริเวณปากห้วยมุก สร้างบ้านแปลงเมืองขึ้น ณ ที่นั้นในปี พ.ศ. 2310 แล้วเสร็จในปี พ.ศ. 2313 และตั้งชื่อเมืองว่า มุกดาหาร อันเกิดจากศุภนิมิตรที่พบเห็นในขณะที่กำลังสร้างเมือง ชาวเมืองทั่วไปเรียกมุกดาหารว่า เมืองมุก
ในสมัยพระเจ้าตากสินมหาราช ได้พระราชทานบรรดาศักดิ์ ให้เจ้ากินรีเป็นพระยาจันทรศรีสุราช อุปราชามัณฑาตุราช ดำรงตำแหน่งเจ้าเมืองคนแรกของเมืองมุกดาหาร เมื่อปี พ.ศ. 2321
เดิมเมืองมุกดาหารมีฐานะเป็นเมืองขึ้นการปกครองกับมณฑลอุดร ต่อมาเมื่อปี พ.ศ. 2450 มีการปรับปรุงการปกครองมณฑลอุดรเป็นจังหวัด และเมืองมุกดาหารจึงถูกยุบเป็นอำเภอเมืองมุกดาหาร ขึ้นการปกครองกับจังหวัดนครพนม จนกระทั่งปี พ.ศ. 2525 รัฐบาลได้ออกพระราชบัญญัติจัดตั้งจังหวัดมุกดาหารขึ้นเป็นจังหวัดที่ 73 ของประเทศไทย และเป็นจังหวัดที่ 17 ของภาคอีสาน จังหวัดมุกดาหารเป็นประตูด่านสำคัญสู่กลุ่มประเทศอินโดจีน มีความสัมพันธ์ฉันท์บ้านพี่น้องกับแขวงสวันเขต สปป.ลาว มาช้านาน
โดยมีแม่น้ำโขงซึ่งมีความยาวถึง 70 กิโลเมตร เป็นเส้นกั้นพรมแดน และมีความโดดเด่นในด้านชนเผ่าพื้นเมืองต่างๆที่มีถึง 8 เผ่าได้แก่ เผ่าไทยอีสาน ภูไท ไทยข่า กระโซ่ ไทยย้อ ไทยกะเลิง ไทยแสกและไทยกุลา และยังมีแหล่งท่องเที่ยวทางธรรมชาติที่สวยงาม มุกดาหารมีพื้นที่ประมาณ 4,339.830 ตารางกิโลเมตร แบ่งการปกครองออกเป็น 7 อำเภอ คือ อำเภอเมืองมุกดาหาร อำเภอคำชะอี อำเภอดอนตาล อำเภอนิคมคำสร้อย อำเภอดงหลวง อำเภอหว้านใหญ่ และอำเภอหนองสูง
