Muang Ngoi était l'une des premières principautés Tai du Laos. Au 12ème siècle après JC, il y avait des colonies dans la région qui faisaient partie d'une chaîne de Tai Mueangs le long de la rivière Nam Ou. La ville actuelle date du 15ème siècle et est la capitale du vieux district.

En 1713, Chao Intasom, fils du premier roi de Luang Prabang, arrêta son armée à Muang Ngoi afin de préparer une attaque sur son neveu Chao Ong Kham, qui succéda au roi. C'est ici que les deux neveux se sont mis d'accord et ont décidé de partager le trône ensemble.

En 1892, peu de temps avant l'incorporation du Laos dans l'Indochine française, il y avait une base militaire avec 25 soldats qui servait de poste frontière du Siam.

Pendant la guerre civile laotienne, les forces Pathet Lao étaient stationnées dans une grotte près de Muang Ngoi. La ville était inhabitable pendant plus de 2 ans en raison de la menace d'attaques à la bombe menées par l'armée de l'air royale laotienne, obligeant des centaines de villageois à s'installer dans une grotte à proximité.