少し説明しますと、画像や動画のファイルを縮小表示してサムネイルを表示しますと、フォルダの中にThumbs.dbというファイルが作られます
これは隠しファイルになっていて、表示する設定にしないと出てきませんので、普通はあることさえ分からないでしょう

このファイルの中にサムネイルで表示する際の小さな画像のデータが格納されます
前に表示したときと変わらないと判断されれば、これを見てサムネイルを表示する為、格納されたデータから実際は変更されていた場合サムネイルと実際の中身が違う場合が起こります

＃２で仰る対処方はそもそもThumbs.dbにキャッシュしないでフォルダを開く毎に中身を確認してサムネイルを表示することになります
なのでいちいち確認する時間はかかりますが、ずれるということがなくなります
巨大な容量の動画ならともかく写真程度なら最近のPCの性能ならストレスを感じるような違いは出ないでしょうからそれでも構わないかと

＃１での対処法はThumbs.dbを手動で今現在のものに更新する作業になります

どういう根拠で前と変わらないと判断するのか、Thumbs.dbが更新されるタイミングは専門家ではないので断言することはできませんが
＃２で仰る
＞以前、同じファイル名の写真があって、それが表示されてしまったのではないでしょうか。
等、画像を編集して上書きして変更したとかいうときに起こりやすいとは言えます
上の事をしてもきちんと更新されることがほとんどで、こうしたから起こるということではないです
まぁたまたまタイミングが悪く、更新されなかったというふうに考えてもいいかと思います
（ぼやけた回答で申し訳ありません、詳しい方がいらっしゃればお願いします）

参考になれば