En un misterioso futuro, unos organismos cristalinos llamados Gemas habitan un mundo que ha sido destruido por seis meteoritos. A cada Gema se le asigna un papel para luchar contra los Lunarios, una especie que las ataca para destrozar sus cuerpos y utilizarlos como adornos.

Fosfofilita, también conocida como Phos, es una Gema joven y frágil que sueña con ayudar a sus amigos en el esfuerzo bélico. En lugar de ello, se le ordena compilar una enciclopedia debido a su delicada condición. Tras embarcarse a regañadientes en esta tarea, Phos conoce a Cinnabar, una gema inteligente que ha sido relegada a patrullar la aislada isla por la noche debido al veneno corrosivo que crea su cuerpo. Después de ver lo infeliz que es Cinnabar, Phos decide encontrar un papel que ambas Gemas rechazadas puedan disfrutar. Houseki no Kuni sigue los esfuerzos de Phos por ser útil y proteger a sus compañeras Gems.