一天，张良闲步沂水圯桥头，遇一穿着粗布短袍的老翁，这个老翁走到张良的身边时，故意把鞋脱落桥下，然后傲慢地差使张良道：“小子，下去给我捡鞋！”张良愕然，但还是强忍心中的不满，违心地替他取了上来。随后，老人又跷起脚来，命张良给他穿上。此时的张良真想挥拳揍他，但因他已久历人间沧桑，饱经漂泊生活的种种磨难，因而强压怒火，膝跪于前，小心翼翼地帮老人穿好鞋。老人非但不谢，反而仰面长笑而去。张良呆视良久，只见那老翁走出里许之地，又返回桥上，对张良赞叹道：“孺子可教矣。”并约张良五日后的凌晨再到桥头相会。张良不知何意，但还是恭敬地跪地应诺。
五天后，鸡鸣时分，张良急匆匆地赶到桥上。谁知老人故意提前来到桥上，此刻已等在桥头，见张良来到，忿忿地斥责道：“与老人约，为何误时？五日后再来！”说罢离去。结果第二次张良再次晚老人一步。第三次，张良索性半夜就到桥上等候。他经受住了考验，其至诚和隐忍精神感动了老者，于是老者送给他一本书，说：“读此书则可为王者师，十年后天下大乱，你可用此书兴邦立国；十三年后济北谷城山下的黄石便是老夫。”说罢，扬长而去。这位老人就是传说中隐身岩穴的高士黄石公，亦称“圮上老人”。
张良惊喜异常，天亮时分，捧书一看，乃《太公兵法》。从此，张良日夜研习兵书，俯仰天下大事，终于成为一个深明韬略、文武兼备，足智多谋的“智囊”。
前209年（秦二世元年）七月，陈胜、吴广在大泽乡揭竿而起，举兵反秦。紧接着，各地反秦武装风起云涌。矢志抗秦的张良也聚集了100多人，扯起了反秦的大旗。后因自感身单势孤，难以立足，只好率众往投景驹（自立为楚假王的农民军领袖），途中正好遇上刘邦率领义军在下邳一带发展势力。两人相见如故，张良多次以《太公兵法》进说刘邦，刘邦多能领悟，并常常采纳张良的谋略。
于是，张良果断地改变了投奔景驹的主意，决定跟从刘邦。作为士人，深通韬略固然重要，但施展谋略的前提则是要有善于纳谏的明主。这次不期而遇，张良“转舵”明主，反映了他在纷纭复杂的形势中清醒的头脑和独到的眼光。从此，张良深受刘邦的器重和信赖，聪明才智也有机会得以充分发挥。