O cenário é um lugarejo poeirento na província ocidental de um certo Império. Um magistrado sem nome toca adiante sua rotina de funcionário correto a serviço de uma ordem que não lhe cabe questionar: recolhe impostos, dita sentenças e pouco se ocupa dos bárbaros maltrapilhos que perambulam a esmo pelo deserto escaldante. Nas horas vagas, abandona-se à melancolia e à escavação de ruínas próximas, cobertas pela areia.
Seus dias de modorra moral são interrompidos pela chegada do Coronel Joll, emissário de uma misteriosa Terceira Divisão de "guardiães do Estado". Especialista nas artes do "interrogatório", Joll vem da capital para investigar um suposto movimento de sedição entre os bárbaros. Os rumores a respeito são mais que tênues, o que não impede Joll de torturar prisioneiros, disseminar a histeria xenófoba e silenciar dissidentes - entre os quais o Magistrado.
À espera dos bárbaros reitera as preocupações éticas que movem toda a prosa de J. M. Coetzee. O romance parte das encruzilhadas da população branca no apartheid sul-africano para construir uma profunda meditação sobre a natureza do poder absoluto, da censura, do compromisso e da moral em tempos difíceis.