認知心理学者ジャン・ピアジェはそれまでの観念的な心理学ではなく実験により人間の心理を解き明かそうとしたことで後世に大きな影響を与えました。彼は「幼い子どもにも数の感覚はあるか？」を調べるため次のような実験を行ないました。まず、コップと瓶を6個ずつ一列に等間隔に並べたものを四歳児に見せ、コップと瓶の数はどちらが多いかを尋ねます。すると子どもは同じ数だと答えました。次にコップだけ間隔を広げ列を伸ばし再度どちらの数が多いか尋ねました。すると子どもはコップの数の方が多いと答えました。四歳児は列の長さに惑わされコップの方が数が多いと思ってしまったのです。このように実験を用いてピアジェは四歳児に数の感覚が無いことを証明したのです。

さて、察した方もいるでしょうが、上記の結論は間違っていました。最初に言っておくと、ピアジェはパスツールやミリカンのように実験結果の恣意的な取捨選択や捏造をした訳ではありません。しかしパスツールなどが不正で「正しい」結果を得たのと逆に、不正をして無いにも関わらず間違った結論を導いてしまいました。

 なぜ数が増えたと答えたのか、四歳児を問い詰めても筋道立てた解説をしてくれないでしょうが、『数学する遺伝子』という本では四歳児でも相手の考えを推測するする能力があり、大人は自分より有能であることを知っており、さらに親が実験者に敬意を表してるのを見てたであろうことからこう推測しています。

実際、実験者がよそ見をしてる振りをしてる間にデディベアの人形を操って列の長さを変え、「まあ、おバカなデディが列をめちゃくちゃにしちゃった。どちらが沢山あるかもう一度言ってくれる？」と言うと、二歳児でも正しく答えました。しかし実験者自身が列の長さを変えるとピアジェの時と同じく列の長い方が多いと答えました。
さらにその後の実験では乳児でも数の感覚を持っていることがわかりました（一言も話せない乳児が数の感覚を持ってるのかどうやって調べたかは本書を見てください）。

ちなみに現在の(画像生成)AIは数の概念を持っている訳では無いので、「一つのバナナ」「二つのバナナ」といちいちラベル付けしないといけません。残念。

しかし上記の文章を読んでこう思った人もいるのではないでしょうか：
「なるほど、確かにその話を聞くと幼い子どもでも数の感覚を持っているように思える。だが私は最初の実験の話を聞いた時も『幼い子どもは数の感覚を持ってない』という結論は確かだと思ったのだ。最初の実験の時見落としがあったとしても、その後の実験でも何か見落としがあり誤った結論を導いている可能性は無いのか？」
そしてこの考えは確かに否定できません。多くの人は最初の実験の話を聞いて「幼い子どもは数の感覚を持ってない」と思ったでしょう。しかし検証が進んだらそれが覆された。だったらさらに検証が進めばまた結論が覆る可能性もあるんじゃないかと考えるのは自然な発想です。
「論理的に結論を導いたはずなのに誤った結論になってしまう」という事例は他にもあります。例えば1=2の証明です。

どこが間違ってるかわかるでしょうか？ それは(a-b)で割ったことです。最初に「a=b」と書いたのだからa-b=0になる。つまり(a-b)で割ると0で割るという禁じ手になってしまうので1=2という誤った結論になってしまったのです。数学では公理系(これは絶対に正しい、これはしてはいけないという設定)が決まっている(と言うより、自分で決められる)のでそれと照合することで「見落とし」を防げますが、現実世界ではそれが存在しないため「見落とし」が無いか判断するのは困難です。
現代でもABC予想が証明されたはずなのに論争が続いてたりします。
「論理的に考えれば正しい結論が得られる」と言うのは(論理学の公理が間違ってる可能性とか考えなければ)通常正しいですが、問題は論理と言うのはとても繊細なもので、1ステップ間違えただけで「1=2の証明」のように誤った結論に行きついてしまうことです。
よく「名言」として引用されるシャーロック・ホームズの「可能性のあり得ないものをすべて除外してそれでも残ったものはいかに奇妙なことであっても真実なのだ」という言葉、元ネタを確認してないのでひょっとしたら言ったことは言ったが、意味が違う系かも知れませんが、現実世界においてすべての可能性をどうやったら列挙できるんでしょうか。

論理的に結論を導いても間違えることがあるとわかりやすく示す娯楽作品がいくつかあるので最後にそれを紹介します。

三谷幸喜脚本。元ネタの十二人の怒れる男と逆に陪審員全員が無罪と一致しかけたところで一人が有罪の可能性もあると言い出し、議論が進んでいくうちに確かに有罪かもしれないという証拠が積みあがって行きますが、その後有罪であることを示すと思われていた「証拠」(容疑者が事件前にピザを注文していたこと等)が実は無罪であることを証明するものであると明らかになっていきます。最も理性的かと思われていた人が実は最も私情で動いていたことが判明して(元ネタを確認したところ最後のセリフだけほぼ同じでした)終わります。
ちなみにロシア版もありますが、「無罪だが有罪と言うことにした方がいい」という形でどんでん返しが行なわれ、最後に「法は強くて揺るぎないが、慈悲の力は法をはるかにしのぐ」（B・トーマス）と言う言葉で締めくくられます。

このマンガ（原作は小説でアニメ化もされてますが）の［鋼人七瀬編］(1～6巻まで)では怪異が人を殺し、それを人々が信じることで力が強まるのに対し、主人公らは虚構推理(＝嘘の推理)で倒します。つまり、作中においては「怪異が存在し人を殺した」こそが真実であるにも関わらず「これは人間の仕業で罪を逃れるために怪異が人を殺したと思わせようとしている」という「推理」を披露し怪異を鎮めようとします。読者は当然真相を知ってる訳ですが、作中の第三者の立場にいたら(怪異が存在してもおかしくないという考えでも)主人公たちの「推理」に納得してしまうでしょう。

このSF小説は脳を扱ったものですが、その中で臨死体験は脳が生み出した幻想に過ぎないという説明に関連する形でアブダクション(エイリアンによる誘拐)が取り上げられます。そして「アブダクションの被害者たち」は何の共通点も関わりも無いにも関わらず「エイリアンに何をされたか」という話は細部まで一致していた、また彼らは匿名を望んでおり売名目的では無かった……と「作り話ではありえない」と思われる「証拠」が提示された後、実はそれこそが「作り話である証拠」になる、というどんでん返しが行われます。

P.S. なお、下記動画が上記の内容をわかりやすく解説してたりします。

なお、「現実は(形式)論理を(厳密には)そのまま適用できない」と認識した上で考えていく論理学を弁証法(的論理学)と言うようです。

https://qr.ae/pCim0G