Né à Villefranche-sur-Mer, sur la Côte d'Azur, il a vécu son enfance en Guinée, son adolescence à Angers, et vit maintenant à Paris.
Il étudie d'abord aux Beaux-Arts de Rouen, puis aux Arts-décoratifs à Paris et enfin au California Institute of the Arts.

Il s'intéresse d'abord au cinéma d'animation en amateur, en réalisant pendant ses vacances, avec un groupe d'amis, différents courts métrages, où chaque personne utilisait les techniques qu'elle désirait. Cela a donné, selon ses mots, des créations très variées, avec des techniques très simples. Il a pour sa part utilisé du papier découpé, technique qu'il réutilisa plus tard lors de la réalisation de la série Ciné Si (Princes et Princesses). Il est très attaché à essayer de faire les choses le plus simplement possible.
En 1976, il réalise la série Les Aventures de Gédéon (d'après Benjamin Rabier), puis son premier court métrage produit professionnellement, Les Trois Inventeurs est produit en 1979 par aaa (qui produit également Jacques Rouxel, le réalisateur des Shadoks). Il reçoit la même année un prix au BAFTA, pour ce film, à Londres. Il reçoit en 1983 le César du meilleur court-métrage d'animation pour La Légende du pauvre bossu également produit par aaa.

Il est le réalisateur de la série télévisée Ciné Si (La Fabrique, 1989), qui inspire en 2000 la sortie au cinéma du programme Princes et Princesses en ombres chinoises, réalisé en papiers découpés
Il réalise également des longs métrages : Kirikou et la Sorcière (1998), Kirikou et les bêtes sauvages (en coréalisation avec Bénédicte Galup, 2005) et Azur et Asmar (2006).

Pour célébrer la "Journée mondiale du cinéma d'animation", Michel Ocelot a notamment participé le 28 octobre 2003 à une journée spéciale sur les technique de l'animation, au Forum des images, à Paris, en clôture de la "Fête du cinéma d'animation". Il y a fait la démonstration de la simplicité de ses techniques en direct.
Michel Ocelot est très sensible aux ?uvres du cinéma d'animation russe, chez lequel il a des amis, comme Nina Chorina. Celle-ci lui a d'ailleurs fait cadeau du chien qui a été utilisé dans Le Caniche, film mêlant décors et objets en papiers découpés et peints, mais aussi marionnettes articulées (comme le chien).
Il a présidé l'Association internationale du film d'animation (ASIFA), de 1994 à 2000.

En 2007, Michel Ocelot réalise pour Björk le clip de Earth Intruders, premier single issu de son album Volta. Il y reprend les inspirations des thèmes traditionnels de l'Afrique de l'ouest, comme dans les deux films Kirikou.