知らない概念についてはAIに質問できない、というのが地味に盲点だと思う。
AIって聞かれたことには答えてくれるけど、聞かれてないことは黙ってる。Observabilityを知らない人が「Webシステム作って」と頼んだら、動くものは出てくる。でもそこにObservabilityの提案が含まれるかは完全に運任せで、大抵は含まれない。
これって要するに、AIの出力の上限はプロンプトを書く人間の認知範囲に縛られるということで、自分の知識の外側にあるものには手が届かない構造になってる。
怖いのは、知らないこと自体に気づけないところ。動いてるから大丈夫だと思ってしまう。実際には観測できてないだけで、障害の種は静かに育ってたりする。
AI時代に本当に価値が上がったのは「正解を出す力」じゃなくて「正しい問いを立てられる力」の方なんだろうな。問いの質がそのまま成果物の質になる世界が、もう来てる。
Quote
徳永広夢
@tokuhirom
例えば､素人が動くウェブシステムを作れたとして､Observability が確保出来てるかって話｡Observability のことを知らない人が AI を使っても Observability は一生確保されない｡