Adso de Melk relata cómo, en 1327, como joven novicio franciscano (un benedictino en la novela), él y su mentor, el fraile franciscano Guillermo de Baskerville, viajaron a una abadía benedictina en el norte de Italia donde los franciscanos iban a debatir con emisarios papales la pobreza de Cristo. La abadía cuenta con un famoso scriptorium donde los escribas copian, traducen o iluminan libros. El monje Adelmo de Otranto, un joven pero famoso iluminador de manuscritos, fue encontrado muerto sospechosamente en una ladera debajo de una torre con solo una ventana que no se puede abrir. El abad busca la ayuda de William, que es famoso por sus poderes deductivos. William se siente atraído a regañadientes por el desafío intelectual y su deseo de refutar los temores de un culpable demoníaco. William también se preocupa de que el abad convoque a oficiales de la Inquisición si el misterio permanece sin resolver.

William deduce rápidamente que Adelmo se suicidó, habiendo saltado de una torre cercana que tenía una ventana, y que la pendiente de la colina hizo que el cuerpo rodara por debajo de la otra torre. La solución de William alivia brevemente los temores de los monjes, hasta que otro monje es encontrado muerto, ominosamente flotando en una tina de sangre de cerdo. La víctima es Venancio, un traductor de griego y el último hombre que habló con Adelmo. El cadáver tiene manchas negras en un dedo y la lengua. La muerte del traductor reaviva los temores de los monjes de un culpable sobrenatural, temores reforzados cuando el santo fraile franciscano Ubertino de Casale advierte que las muertes se asemejan a signos mencionados en el Libro del Apocalipsis. En el scriptorium, William inspecciona el escritorio de Adelmo, pero es bloqueado por el hermano Berengar, el bibliotecario asistente. El hermano Malachia, el bibliotecario principal, le niega a William el acceso al resto del edificio.

William se encuentra con Salvatore, un jorobado demente, y su protector, Remigio da Varagine, el celador. Guillermo deduce que ambos eran dulcinitas, miembros de una secta herética y militante que cree que el clero debe ser empobrecido. William no sospecha de asesinato porque los Dulcinitas apuntan a obispos ricos, no a monjes pobres. Sin embargo, el pasado de Remigio le da a William una ventaja para aprender los secretos de la abadía. Salvatore le dice a William que Adelmo se había cruzado con Venancio la noche en que Adelmo murió. Mientras tanto, Adso se encuentra con una hermosa chica campesina semi-salvaje que se ha colado en la abadía para intercambiar favores sexuales por comida, y es seducida por ella.

Volviendo esa noche al escritorio de Venancio, William encuentra un libro en griego, y un pergamino con escritura griega, manchas de un color mezclado por Adelmo para libros iluminadores, y símbolos crípticos escritos por un hombre zurdo con tinta invisible. Berengar se cuela en el oscuro scriptorium, distrae a William y roba el libro.

Berengar se encuentra más tarde ahogado en un baño y con manchas similares a las de Venancio. Guillermo narra sus conclusiones de que la muerte de Adelmo fue de hecho un suicidio, debido a que cedió a las peticiones de favores homosexuales de Berengario. Venancio recibió un pergamino de Adelmo antes de su muerte, y Berengar es el único zurdo de la abadía. William teoriza que el traductor transcribió las notas griegas en el pergamino de un libro, y que el libro es de alguna manera responsable de las muertes. El abad no está convencido y, quemando el pergamino, informa a William que la Inquisición, en la persona de Bernardo Gui, un antiguo adversario de William de su tiempo anterior como inquisidor, ya ha sido convocada.

Decididos a resolver el misterio antes de que llegue Gui, William y Adso descubren una vasta biblioteca oculta sobre el scriptorium. William sospecha que la abadía escondió los libros porque gran parte de su contenido proviene de filósofos paganos. Gui encuentra a Salvatore y a la campesina peleando por un gallo negro en presencia de un gato negro. Para Gui, esta es una prueba irrefutable de brujería, y tortura a Salvatore para que confiese una confesión falsa. A medida que llegan los hermanos franciscanos de Guillermo y los delegados papales, comienza el debate. El herbolario de la abadía, después de decirle a William que ha encontrado un libro escrito en griego en su dispensario, es asesinado por lo que se revela que es Malaquia. Este último engaña a Remigio para que intente escapar, lo que hace que sea arrestado por los guardias de Gui y acusado de los asesinatos.

Remigio, Salvatore y la chica son llevados ante un tribunal. Recordando a William, Gui lo elige para unirse al abad como juez del tribunal. En el juicio, Remigio admite con orgullo su pasado Dulcinita y, bajo las amenazas de tortura de Gui, también confiesa falsamente los asesinatos. William señala que los asesinatos están vinculados al libro griego, que Remigio no pudo leer, y advierte que la ejecución de Remigio no terminará con los asesinatos. Gui organiza que los prisioneros sean quemados en la hoguera, mientras que William será llevado a Aviñón. Los delegados papales condenan a los franciscanos por la obstinación de Guillermo y terminan el debate.

Mientras los monjes se preparan para quemar a los prisioneros de Gui, Malachia se encuentra muriendo, con manchas negras en su lengua y dedo. Aunque la muerte de Malaquia reivindica la advertencia de William, Gui la toma como prueba de que William es el asesino, y ordena su arresto. Huyendo de los guardias de Gui, William y Adso vuelven a entrar en la biblioteca secreta y se encuentran cara a cara con el venerable ciego Jorge, el residente más antiguo de la abadía. Después de descodificar las líneas del pergamino del traductor, William exige que Jorge entregue el libro que los muertos habían estado leyendo: el Segundo Libro de Poética de Aristóteles sobre la Comedia. Jorge odia la risa, pensando que socava la fe en Dios, y un libro sobre la risa escrito por Arisótle solo traerá risa a los sabios, y socavará la fe entre los que aprenden. Para evitarlo, Jorge mató a los que habían leído el libro envenenando sus páginas. Jorge le da el libro a William, pensando que él también sufrirá el veneno. Cuando William revela que lleva guantes, Jorge agarra el libro, y luego comienza un incendio que rápidamente envuelve la biblioteca. William se queda, tratando de salvar algunos de los libros y animando a Adso a irse. Jorge se suicida consumiendo las páginas recubiertas de veneno.Al ver el fuego, los monjes abandonan a los prisioneros, permitiendo que los campesinos locales salven a la niña, aunque Salvatore y Remigio mueren. Adso persigue a Gui, que logra escapar de él, pero los campesinos empujan su carro por un acantilado, empalándolo. Cuando William y Adso parten, Adso se encuentra con la chica, se detiene por unos segundos, pero finalmente elige ir con William. El mucho más viejo Adso afirma que nunca se arrepintió de su decisión, ya que aprendió muchas más cosas de William antes de que sus caminos se separaran. También dice que la niña fue el único amor terrenal de su vida, pero nunca aprendió su nombre.