■背景
以下リンクのように、特定のサイトで使用されているテクノロジーを紹介する記事を見て、果たして外部の人間がどのようにアーキテクチャを調べているのか、疑問に思いました。
10 Popular Sites Made With Django
■質問
曖昧になるのを防ぐために、実在するサイトを例にお尋ねしたいと思います。
上記のサイトで、
①どのようなテクノロジーやフレームワークが使用されているか
②どうやってそれら①が使用されていることを確認されたか
を教えていただけると誠にありがたいです。小さなヒントでも大歓迎です。
例えば、使用言語やデータベースの種類など、以下のようなイメージでわかることなら何でも構いません。
PHP、Python、MySQL、Django、Scrapyなどなど。
ソース: slideshare.net
・イメージ2
ソース: twitter.com
■質問者のスキル
- ChromeデベロッパーツールでHTML,CSSの大まかな構成を確認できる程度
- スクレイピングについて独習しており、お手本になりそうなサイトの構成を分析する入り口のところでつまずいています。
-
気になる質問をクリップする
クリップした質問は、後からいつでもマイページで確認できます。
またクリップした質問に回答があった際、通知やメールを受け取ることができます。
クリップを取り消します
-
良い質問の評価を上げる
以下のような質問は評価を上げましょう
- 質問内容が明確
- 自分も答えを知りたい
- 質問者以外のユーザにも役立つ
評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。
質問の評価を上げたことを取り消します
-
評価を下げられる数の上限に達しました
評価を下げることができません
- 1日5回まで評価を下げられます
- 1日に1ユーザに対して2回まで評価を下げられます
質問の評価を下げる
teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。
- プログラミングに関係のない質問
- やってほしいことだけを記載した丸投げの質問
- 問題・課題が含まれていない質問
- 意図的に内容が抹消された質問
- 広告と受け取られるような投稿
評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。
質問の評価を下げたことを取り消します
この機能は開放されていません
評価を下げる条件を満たしてません
質問の評価を下げる機能の利用条件
この機能を利用するためには、以下の事項を行う必要があります。
- 質問回答など一定の行動
-
メールアドレスの認証
メールアドレスの認証
-
質問評価に関するヘルプページの閲覧
質問評価に関するヘルプページの閲覧
checkベストアンサー
+8
簡単なものとしては、ブラウザに組み込むWappalyzerというツールがあって、使っているフレームワークやライブラリを検出できます。
投稿
- ユーザーランキング総合1位
- ユーザーランキング月間2位
- Ruby総合1位
- Ruby on Rails総合1位
- CodeIgniter総合1位
- MariaDB総合1位
- TypeScript総合1位
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
+1
基本的にはWEBサーバのレスポンスやHTML(JavaScript,CSS)から判別するしかありません。
直接分からなくても癖のようなものから判別できるかもしれません。
しかしながら、セキュリティホールになり得るので通常は隠します。
スクレイピングがしたいとのことですが、具体的にはどのようなことをされたいのでしょうか？
投稿
score 230
-
回答の評価を上げる
以下のような回答は評価を上げましょう
- 正しい回答
- わかりやすい回答
- ためになる回答
評価が高い回答ほどページの上位に表示されます。
-
回答の評価を下げる
下記のような回答は推奨されていません。
- 間違っている回答
- 質問の回答になっていない投稿
- スパムや攻撃的な表現を用いた投稿
評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。
-
2018/10/23 16:40 編集
ご回答ありがとうございます！
①先日「公開されているサイトからGoogle Apps Scriptでスプレッドシートに特定の情報を抽出してまとめる」という風なチュートリアルを行い、スクレイピングに興味を持ちました。
②その中で、PythonやScrapyといった技術を知り
③更にitem pipelineという箇所（以下リンク図のような）はどのように設計されているのか基礎知識も少ないまま興味を持ってしまい
④こちらでお手本となるサイトでのアーキテクチャ調べ方を質問させていただいた、という経緯です。
Scrapyについては、スクレイピング結果をcsv、JSONファイルやDBに出力できるところまでは理解できましたが、実際のサイトでは出力データはDBで処理、運用されているのでは？、との推測から今回の質問に至りました。
■Scrapy周辺の処理フロー
https://i.pinimg.com/originals/8c/59/1d/8c591d54457bb033812a2b0364011e9c.png -
2018/10/24 08:42
>実際のサイトでは出力データはDBで処理、運用されているのでは？
そうですね、目的によると思いますが一般的にはDBを使います。
一時的に保管するだけであればファイルにすることもありますし、
毎回最新の情報を取得するのであれば保管しない場合もあります。
ご自身で作成されるのであれば目的に合わせて保管方法を固定するか、
オプションで選べるようにするのがいいと思います。 -
2018/10/25 11:16
ありがとうございます。後々の参考にさせていただきます！
15分調べてもわからないことは、teratailで質問しよう！
- ただいまの回答率 90.50%
- 質問をまとめることで、思考を整理して素早く解決
- テンプレート機能で、簡単に質問をまとめられる
fukazume
2018/10/23 15:25
ちなみにデータベースの種類（例: MySQL）など、もう少しだけ深く知ることは出来ますでしょうか？
そもそもそういったことまで技術的に第三者が可能なものかもわからないままお聞きしているのですが。申し訳ございません。
maisumakun
2018/10/23 15:28
https://teratail.com/questions/148568 （少し前にあった、関連する質問）
fukazume
2018/10/23 15:34 編集