Après avoir été battu puis abandonné par son père, Lucien est retrouvé amnésique par Lucette, une jeune fille évadée d'une maison de redressement. Livrés à eux-mêmes dans une cité malfamée, les deux enfants cherchent tant bien que mal à s'intégrer à la population misérable de ce bidonville de l'Est parisien. Confrontés à la pauvreté mais unis par une profonde affection, Lucette et Lucien vont tenter de se construire une nouvelle vie.

Pour mener son enquête, André Lucot, inspecteur de police, s'introduit dans le milieu en se dissimulant sous une fausse identité. Dans l'hôtel ou il loge il fait la connaissance de Martousse, un voyou, et de Cœur de Lilas, la maîtresse de celui-ci. Cœur de Lilas s'éprend de Lucot, mais ne tarde pas à découvrir sa véritable identité.

Guidé par l'inspecteur Slimane, la police tente désespérément de mettre la main sur Pépé le Moko, un célèbre et dangereux malfaiteur caché quelque part dans la casbah d'Alger. Fuyant une nouvelle fois la police, Pépé rencontre une magnifique jeune femme du nom de Gaby, et en tombe amoureux.

Assis à la terrasse d'un café, un homme rédige ses mémoires : il raconte comment son destin fut définitivement scellé lorsque, à l'âge de douze ans, parce qu'il avait volé dans le tiroir-caisse de l'épicerie familiale pour s'acheter des billes, il fut privé de dîner. Le soir même, toute sa famille meurt empoisonnée en mangeant un plat de champignons. Seul dans la vie et ayant ainsi constaté l'inutilité d'être honnête, il n’aura par la suite qu’une seule ambition, devenir riche. Voyant dans sa survie un signe du destin, il choisit de parvenir à ses fins en devenant tricheur et voleur professionnel.