はてなブログ開発ブログ

はてなブログからの公式のお知らせを発信します。

生成AIによるクロールを拒否する設定ができるようになりました

このたび、生成AIによるクロールを拒否する設定ができるようになりました。この設定はすべてのプランでご利用いただけます。
初期設定では生成AIによるクロールが可能な状態となっていますが、基本設定から「生成AIによるクロールを拒否」をONに設定すると、ご自身のブログやサイトのrobots.txtファイルに生成AIによるクロールを拒否するルールが自動的に追記されます。

拒否の対象となるユーザーエージェントの詳細は、下記のヘルプをご確認ください。
https://help.hatenablog.com/entry/ai-crawling

これまでの経緯と機能制限解除について

はてなブログでは、2025年2月6日から2025年6月27日まで、AIクローラーをブロックしておりました。
これは、AIクローラーによる過剰なアクセスに起因する一部障害の発生や、ユーザーの皆さまから、自身のコンテンツが無断で学習に利用されることへの不安の声が寄せられていたこと、また新聞社などメディア各社によるAIクローラーのブロック対応といった社会的な動きを受けたものです。

この制限はあくまで暫定的なものであり、健全な活用のため、AIクローラーに対してユーザーご自身が明示的にオプトアウト(拒否)できる仕組みの導入、さらには生成AIの学習によって得られた価値や利益をユーザーの皆さまに還元できる可能性についても検討を進めてまいりました。
しかしながら、2025年春頃より、一部のユーザーや関係者から「クローラーがブロックされていることでデータ利用が妨げられている」といったご意見が寄せられるようになってまいりました。

そのような状況を踏まえ、さらに検討を重ねた結果、引き続き一律にブロックを継続することは、かえってユーザーの皆さまの不利益につながる可能性があると判断し、オプトアウト機能の実装に先立って、制限を解除いたしました。
なお、当サービスでは以前より、悪意あるクローラーやサービス運営に支障をきたす可能性がある過剰なアクセスについては、予告なくブロックを行う対応をとっております。本件につきましても、サービスの安全な運営を目的とした制限であったため、事前告知は行いませんでした。
機能制限によりご不便をおかけしましたことを、改めてお詫び申し上げます。