据考证，人类对这条定理的认识，少说也超过 4000 年！中国较好早的一部数学著作——《周髀算经》的开头,就有这条定理的相关内容：周公问：“窃闻乎大夫善数也，请问古者包牺立周天历度。夫天不可阶而升，地不可得尺寸而度，请问数安从出？”商高答：“数之法出于圆方，圆出于方，方出于矩，矩出九九八十一，故折矩以为勾广三，股修四，径隅五。
既方其外，半之一矩，环而共盘。得成三、四、五，两矩共长二十有五，是谓积矩。故禹之所以治天下者，此数之所由生也。”从上面所引的这段对话中，我们可以清楚地看到，我国古代的人民早在几千年以前就已经发现并应用勾股定理这一重要懂得数学原理了。
在西方有文字记载的较好早的证明是毕达哥拉斯给出的。据说当他证明了勾股定理以后，欣喜若狂，杀牛百头，以示庆贺。故西方亦称勾股定理为“百牛定理”。遗憾的是，毕达哥拉斯的证明方法早已失传，我们无从知道他的证法。
实际上，在更早期的人类活动中，人们就已经认识到这一定理的某些特例。除上述两个例子外，据说古埃及人也曾利用“勾三股四弦五”的法则来确定直角。但是，这一传说引起过许多数学史家的怀疑。比如说，美国的数学史家M·克莱因教授曾经指出：“我们也不知道埃及人是否认识到毕达哥拉斯定理。
我们知道他们有拉绳人（测量员），但所传他们在绳上打结，把全长分成长度为3、4、5的三段，然后用来形成直角三角形之说，则从未在任何文件上得证实。”
不过，考古学家们发现了几块大约完成于公元前2000年左右的古巴比伦的泥板书，据专家们考证，其中一块上面刻有如下问题：“一根长度为 30个单位的棍子直立在墙上，当其上端滑下6个单位时，请问其下端离开墙角有多远？”这是一个三边为为3:4:5三角形的特殊例子；
专家们还发现，在另一块泥板上面刻着一个奇特的数表，表中共刻有四列十五行数字，这是一个勾股数表：较好右边一列为从1到15的序号，而左边三列则分别是股、勾、弦的数值，一共记载着15组勾股数。
这说明，勾股定理实际上早已进入了人类知识的宝库。
据传说，邹元治是中国古代数学家，他证明了勾股定理。他在日子夜里，发现自己的床板上有三个不等长的木棒，他用这三个木棒构成的三角形，用尺子测量了三个角的大小和三边的长度，然后利用勾股定理计算出三个角的大小，发现它们的和是180度，于是他成功地证明了勾股定理。这个故事告诉我们，数学知识可以运用到生活中，而且要勇于思考和实践。
1876年一个周末的傍晚,在美国首都华盛顿的郊外,有一位中年人正在散步,欣赏黄昏的美景,他就是当时美国俄亥俄州共和党议员伽菲尔德.他走着走着,突然发现附近的一个小石凳上,有两个小孩正在聚精会神地谈论着什么,时而大声争论,时而小声探讨.由于好奇心驱使,伽菲尔德循声向两个小孩走去,想搞清楚两个小孩到底在干什么.只见一个小男孩正俯着身子用树枝在地上画着一个直角三角形.于是伽菲尔德便问他们在干什么?那个小男孩头也不抬地说：“请问先生,如果直角三角形的两条直角边分别为3和4,那么斜边长为多少呢?”伽菲尔德答道：“是5呀.”小男孩又问道：“如果两条直角边长分别为5和7,那么这个直角三角形的斜边长又是多少?”伽菲尔德不假思索地回答道：“那斜边的平方一定等于5的平方加上7的平方.”小男孩又说：“先生,你能说出其中的道理吗?”伽菲尔德一时语塞,无法解释了,心里很不是滋味.
于是,伽菲尔德不再散步,立即回家,潜心探讨小男孩给他出的难题.他经过反复思考与演算,终于弄清了其中的道理,并给出了简洁的证明方法.