在推理的过程中，合理的怀疑是必要的，但是我们必须有选择地使用它。我们需要将两种怀疑态度区分开：一是在特定的情况下，将怀疑作为一种适当的、必要的态度；二是将怀疑永久化。在确实存在疑点的情况下，我们当然要合理地质疑。例如，当我们面对一个前提存有争议的论证时，都应该对前提的正确性提出疑问，这是种有益的怀疑。而后者对任何事情都持怀疑态度则正是我们要极力避免的怀疑论者的态度。
首先我们可以来看一下怀疑论的一些基本概念。作为哲学上的怀疑论最早是古希腊哲学的一个流派，这个流派对于人能否发现真理既不加以肯定，也不加以否定，持一种怀疑的态度。所以怀疑论是对客观世界和客观真理是否存在、能否认识表示怀疑的学说。他们勉强承认这个世界上或许有真相存在，但是坚持认为，即使真相存在，人类也没有能力探知它。初看起来，这个结论似乎给了真相一席之地，但事实上并非如此。真相如果只存在于理论上，不能通过实践去检验，那它还是不存在的。同时，怀疑论承认现象，但怀疑事物的本身是否和它呈现的现象相一致，认为感觉并不能给我们提供关于自然事物的性质的知识。
其实在中国古代哲学中也早就有了类似思想的存在，比如著名的“子非鱼”：
庄子与惠子游于濠梁之上。庄子曰：“儵鱼出游从容，是鱼之乐也。”
惠子曰：“子非鱼，安知鱼之乐也？”
庄子曰：“子非我，安知我不知鱼之乐也？”
惠子曰：“我非子，固不知子矣；子固非鱼也，子不知鱼之乐也，全矣！”
庄子曰：“请循其本，子曰汝安知鱼乐去者，即已知吾知之而问我。我知之濠上也！”
这个典故翻译成白话大致是这样的：
庄子和惠子在河堤上散步。庄子说道：“河里的鱼游来游去，真是快乐啊。”惠子问道：“你又不是鱼，怎么知道鱼快乐呢？”
庄子答道：“你又不是我，怎么知道我不知道鱼快乐呢？”
惠子道：“我不是你，所以不知道；你也不是鱼，所以你也不知道鱼快乐！”
庄子道：“咱们回到辩论的开头，你问我怎么知道鱼快乐的，即你已经知道我知道所以才问我的。我是在河堤上知道的！”
以怀疑论的眼光来分析，可以这么说，庄子的观点倾向于可知论，而惠子则倾向于怀疑论，但是他们的争论由于受到当时的科学发展和生产力的限制，显得过于单薄，缺少有力的论据，也并没有对这一问题的本质多加思考。
逻辑在本质上是关于真相的。如果真相是怀疑论者认为的那样，只是一个让人永远可望而不可即的幻影，那么逻辑就没有存在的意义了，因为所有推理的总和其意义也抵不过一个无用的实践。历史上有很多哲学家都研究过怀疑论，并提出了很多想法。
哲学家贝克莱提出了这样一个命题：存在就是被感知。他怀疑自己面前的石头是不是真实存在的，因为只要我们不去感知它，比如闭上眼睛，似乎这块石头就是不存在的。但贝克莱并不是真正地认为石头的存在是虚幻的，因为他后来补充道：“上帝的眼睛始终是睁开的”。
著名的科学家和哲学家笛卡尔，他也怀疑自己周遭的一切，认为它们都像是梦境般虚幻。但他同时认为“我正在怀疑”这个是不可怀疑的真实。因此，与其说他是怀疑一切，不如说他是要借此推出人有一个思维的主体。
哲学家休谟怀疑，因果律的背后只不过是人类的一种联想能力，因为我们无数次地看见火会灼人，于是就相信这两类现象之间存在因果关联。但休谟同时也强调，当哲学家回到日常生活时，就该远离这种哲学思维。其实他想说的是，常识就是一种足够可信的东西。
如此说来，这些哲学家与其说是怀疑论者，不如说是想要通过怀疑来推出某种哲学命题。可以说，怀疑论是一种心态或能力，这种能力不强调判断某结论是否为真，而只是以一种悬而未决的状态思考问题。怀疑论者拒绝独断，所做的是不断地怀疑和思考。
正如哲学家维特根斯坦所说：“在一个正常的社会中，信任是常态，怀疑是非常态”。因此，我们总是天然地相信，母亲是爱自己的，房子不会倒塌，桥不会垮，火车不会脱轨。总之，相信明天的太阳照常升起。这些都无需理由。而怀疑总是事出有因，而不会无端怀疑有人给自己下毒，怀疑飞机会掉下来，甚至怀疑世界末日就要来到。
合理的怀疑所衍生出的怀疑精神是科学以及哲学发展的源动力之一。我思故我在，历史上哲学体系之间更替、科学史上不同范式之间的更替都以这种怀疑精神为基础。如果每一个后人都对前人的话绝对相信，那是不可能有创新与发展的，那么人类也只会停滞不前。
怀疑不是否认，怀疑催生了思考。可以说，我们不强求最终认知真理，只是享受追寻真理的这一过程，以及不断怀疑批判而从中获得的各种东西。因此，持有怀疑精神同样可以有积极向上的人生态度和面对争议的平和心态。但如果把无端怀疑作为一个长久的态度，变成一个怀疑论者，那就是极度危险的。它使你在开始推理之前就设下障碍，扭曲推理的正确进程。