奥卡姆剃刀
发布日期:2021-10-11 16:02 信息来源:学习强国
信息来源:山东省工业和信息化厅
字体:【

奥卡姆剃刀

Occam's razor

定义:在所有符合实验数据的模型中,简单的模型优于复杂模型。

学科:计算机科学技术_人工智能_机器学习

相关名词:没有免费午餐定理 数学模型 过拟合

【延伸阅读】

奥卡姆剃刀是一个形象性的说法,与头发、胡须没有任何联系,而是一个解决问题的原则。公元14世纪,来自奥卡姆的英格兰逻辑学家威廉(William of Ockham)对当时关于“共相”“本质”之类无休止的争吵感到厌倦,于是著书立说,表示只承认确实存在的东西,而那些空洞的普遍性要领都是无用之物,应当无情地予以“剃除”。他所主张的“思维经济(简洁)原则”,概括起来就是“如无必要,勿增实体”。后来人们就将这个理念称为“奥卡姆剃刀”。

奥卡姆剃刀的基本含义是“在诸多相互竞争的理论中,选择假设最小的”,也即最简单的可能就是最正确的,切勿浪费较多东西去做那些用较少东西同样可以做好的事情。简而言之,就是保持事情的简单性,要驭繁于简,而不要人为地把事情复杂化,自寻烦恼。

奥卡姆剃刀在科研、管理、投资等领域作为一种指导原则而广泛应用,在没有经验证据的状况下,它可以作为一种快速决策和建立真理的手段。在人工智能领域,机器学习的过程中,选择复杂性低一点的数学模型,算法的表现往往会更好。虽然奥卡姆剃刀不是在所有的场合都适用,但它是一个具有启发性的指导原则,其核心意义在于不要将已经很复杂的问题人为地更加复杂化,而在模型上化繁为简是相对正确的途径。


【打印本页】【关闭窗口】