由于曹操能文能武，所以20岁便当上了洛阳北部尉。曹操当时的官职非常小，但他却很认真负责，想干出一番大事业来。
曹操不畏权贵，上任之时，便当众声明：有违令者，无论是谁，严惩不贷。中常侍蹇硕的叔叔依靠着自己的侄子胡作非为，百姓十分憎恨他，但没有办法，只好忍气吞声。有一次，他强抢民女，被曹操的手下捉拿归案。蹇硕的叔叔根本没把曹操放在眼里，到了衙门里，还是一副蛮横无礼的样子。曹操大怒，命八王棍侍候。蹇硕的叔叔竟被活活打死，这下可气坏了蹇硕，但他也自知理亏，只好先忍了下来。
从此，曹操名声大振，没有几个人敢在他那里胡作非为，也正因为如此，曹操得罪了朝中大臣。后来他因堂妹夫犯罪，被诛连免职。回家后，曹操的心仍在官场中。他四处活动，公元188年又被任命为典军校尉，奉命保护洛阳。