Un artista del mundo flotante cuenta la historia de un ex-artista llamado Masuji Ono. Ono es a la vez protagonista y narrador, y ofrece un relato muy subjetivo de los acontecimientos que dieron forma a su carrera, a su vida familiar y a su reputación, a la vez que lidia con las consecuencias que su pasado acarrea hasta el presente.
Aunque la narrativa visita diferentes períodos de la vida de Ono, desde su primer trabajo hasta su infancia y su rol en el Japón de la Segunda Guerra Mundial, el hilo lineal más fuerte gira en torno al matrimonio de su hija, Noriko. En 1949, Ono trabaja de manera ardua para casar a su hija menor. Durante las negociaciones, Setsuko, la hija mayor de Ono, le recomienda a su padre que visite viejos conocidos, puesto que sospecha que la negociación matrimonial anterior falló debido al pasado poco honorable de Ono. Como es habitual que las familias de los novios realicen averiguaciones sobre la posición social de sus prometidos, Setsuko teme que el apoyo que su padre brindó al Emperador antes de la Segunda Guerra pueda jugarle en contra a Noriko. Para evitar que hablen mal de él, Ono visita a sus antiguos conocidos y reconstruye su carrera artística a partir de recuerdos fragmentados.
Ono recuerda el trato que recibió de su padre, quien destruyó sus primeros cuadros para evitar que se convirtiera en artista y obligarlo a que continuara el negocio familiar. A pesar de ello, el narrador decide dedicarse a su pasión y describe su primer trabajo en un estudio de pintura parecido a una fábrica.
Más adelante, consigue un trabajo prestigioso junto a un artista llamado Moriyama. Los alumnos de Moriyama viven juntos en una villa en ruinas, imitando el estilo estético de su maestro, que enfatiza la estética y la técnica y busca retratar el llamado “mundo flotante”, es decir, el mundo de los placeres nocturnos. Con el tiempo, Ono se transforma en uno de los alumnos favoritos, pero termina por alejarse de su maestro cuando se encuentra con Chishu Matsuda.
Matsuda cree que los artistas deben involucrarse más en la política y anima a Ono a explorar el mundo por fuera de la tutoría de Moriyama. Cuando lo invita a recorrer una de las zonas pobres de la ciudad, Ono experimenta un despertar político que lo impulsa a crear varias pinturas que explicitan una postura ideológica, con contundentes mensajes que abordan la realidad social. Cuando Moriyama descubre las nuevas inclinaciones de su estudiante, intenta que el joven abandone dicho estilo hasta que, ante su fracaso, se niega a seguir siendo mentor de Ono.
Sin embargo, Ono se convierte en un artista exitoso gracias a su arte político, que celebra el “nuevo espíritu” de Japón. Estas obras son nacionalistas y retratan el poder militar del país. Al comienzo de la guerra, Ono gana poder trabajando para un comité que censura el arte antipatriótico. Incluso informa a dicho comité sobre las acciones de su alumno favorito, Kuroda. Las obras de Kuroda son destruidas por la policía, por lo que el aprendiz guarda un rencor tal contra su maestro que, años después, se niega a reunirse con él. Sin embargo, la popularidad de Ono se ve afectada cuando Japón pierde la guerra y las tropas estadounidenses ocupan el país. En el presente de la narración, Ono expresa muchos sentimientos sobre el contexto sociocultural en el que vive: por un lado, siente un gran resentimiento hacia la generación más joven y más americanizada, puesto que sospecha que esta generación odia a la suya por provocar la guerra. Por otro lado, se siente culpable, no solo por traicionar a Kuroda, sino también por las muertes prematuras de su esposa Michiko y su hijo Kenji, ambas ocurridas durante la guerra.
Finalmente, Noriko se casa con éxito con un hombre de buena reputación llamado Taro Saito. Setsuko le dice a su padre que no tiene nada de qué sentirse culpable, ya que sus pinturas eran muy apreciadas, pero ciertamente no lo suficientemente influyentes como para causar un daño real a la sociedad. Esto es algo difícil para Ono, ya que se siente genuinamente culpable por algunas de sus acciones y prefiere tener una mala reputación antes que ninguna en absoluto. Sin embargo, el alivio que siente tras esta conversación es notable. Cuando su amigo Matsuda muere, Ono reacciona con calma y sin culpa. Su tranquilidad se evidencia también cuando reconoce características del “mundo flotante” en los modales de los jóvenes empresarios que antes le molestaban. Al final de la novela, Ono concentra su energía en su amado nieto, Ichiro.