关羽，本字长生，后改字云长，早年因犯事逃离家乡流落至幽州涿郡。到了中平元年（公元184年），黄巾起义爆发，刘备在涿县组织起了一支义勇军。
关羽、张飞都加入其中，随刘备辗转各地，参与扑灭黄巾军的战争，刘备、关羽、张飞三人的感情好到连睡觉也要睡在一起。刘备担任平原相时，任命关羽、张飞为别部司马，分统部曲。随刘备出席活动时，关羽和张飞则侍立刘备左右，保护刘备周全。
兴平元年（公元194年），曹操因曹嵩被杀而迁怒于陶谦，于是发兵攻打徐州。陶谦求救于刘备，刘备和关羽率千余人前往救援。曹操兵退后，陶谦表刘备为豫州刺史，关羽与刘备屯兵于小沛。而后在陶谦等人的再三相让下，刘备领徐州牧。
建安三年（公元198年），刘备军夺取了吕布军队的黄金，吕布于是派遣高顺率军攻打刘备。曹操遣夏侯惇前来帮助刘备，被高顺打败。同年九月，高顺击溃刘备。于是，曹操亲自率兵东征吕布。刘备与曹操共擒吕布于下邳，夺得徐州。曹操任车胄为徐州刺史。刘备、关羽、张飞等人便跟随曹操班师回许昌。
刘备与曹操在许昌围猎时，关羽劝刘备杀掉曹操，但刘备此时认为当时的曹操是要匡扶汉室的，觉得杀了他可惜，于是不从。
后来，袁术北上投奔袁绍，刘备奉曹操命拦截袁术于徐州，刘备趁机袭杀徐州刺史车胄，命关羽守下邳，代行太守职务，刘备则返回小沛。
建安五年（公元200年），曹操派刘岱、王忠攻打刘备，却被刘备击败，曹操于是亲提大军出征，刘备败逃投奔袁绍，关羽战败被生擒，不得已而投降，曹操待以厚礼，任命为偏将军。
后来，袁绍派大将颜良、淳于琼、郭图等攻东郡太守刘延于白马。荀攸提出了声东击西、轻兵掩袭白马的作战方略。曹操接受了荀攸的建议，亲自率军救援。颜良大惊，仓促应战。
曹操命张辽与关羽为前锋击之。关羽望见颜良的麾盖，策马冲锋，刺死颜良于万军之中，又拔出佩刀斩得颜良的首级，然后返还。袁军将领无人能挡，白马之围被解，关羽被封为汉寿亭侯。
在关羽尚未斩杀颜良之前，曹操非常欣赏关羽的为人，为了知道关羽有没有久留的心意，叫张辽以私人感情来询问关羽。关羽对张辽叹息道：“某知道曹公对我的厚爱，但某受刘备将军的厚恩，发誓共死，不可背弃。某终不会留下，在为曹公立下功劳后我便会离去。”
张辽担心，自己若是如实汇报，可能会导致曹操杀关羽。于是，张辽叹息良久，终于意识到曹操是君父，自己是臣子，不能因为自己和关羽的兄弟情谊就放弃职责。最终，张辽向曹操如实汇报了关羽的心意。
曹操因此称赞关羽：“事君不忘其本，天下义士也。”曹操又让张辽揣度一下关羽何时离开。张辽深知关羽是知恩图报之人，于是，为关羽担保：“羽受公恩，必立效报公而后去也。”