データを取るだけなら以下で良いかと…
$query = $wpdb->get_results( 'SELECT option_name FROM wp_options WHERE option_id >= 5');

せっかくなので、私も回答を書きます。

まず、大前提

WordPress では テーブル操作用の関数が用意されているので、それを使うのが正しいです。
素の PHP で対応することは、将来のバージョンアップ対応やメンテナンスで、非常にイレギュラーな扱いをしなければならなくなるので、極力避けるべきです。
今回の回答の中では、ay03 さんが WordPress 内で使うべき関数を使用した具体的な方法を提示してくれているので、参考にすると良いです。

また、今回使用している、mysql_connect は、PHP 5.5.0 より非推奨となっている関数なので、素の PHP で書くにしても、現在は避けるべき関数です。質問には PHP のバージョン明記はありませんが、WordPress を使用しているサーバであれば、PDO や MySQLi が使用できると思いますので、そちらを使用してください。

syntax error に関して

やっと、今回の質問内容への回答となりますが、syntax error を出しているのは、テーブル名を「ダブルクオート」で囲ったことが原因です。
「(1)修正箇所」で実はすでに切り分けが出来ているのですが、MySQL の SQL 文として、テーブル名を「ダブルクオート」で囲むことは許されていません。
（厳密には設定されたモードにもよるので、時間のある時に以下のマニュアルを参考にしてください。
9.2 スキーマオブジェクト名 - MySQL マニュアル
こちらのページには、テーブル名を引用符で囲む場合と囲まない場合の違いも記述が有るので合わせて確認しておくと良いです。）

今回のケースでは、テーブル名を引用符「バッククォート」で囲むか、引用符を無くすかすることで、syntax error を無くすことが出来ます。

もう一つの error

本来であれば、「(1)修正箇所」で切り分けが出来ているのですが、この中でも error が出ているため、混乱してしまったようですね。惜しいｗ
urdapple さんが回答しているように、メッセージを素直に読むと、「データベースが選ばれてないよ！」ってエラーなので、それに対応することで、対処は完了します。

ようするに

今回のケースでは、wpdb を使用し、SQL 文の構文を修正するのが、WordPress を使用する上で最も適切な対応になります。

もー… 回答者全員、何いってんだか意味がわからないんですが、

You have an error in your SQL syntax:

って書いてあるんだから、シンタックスエラーに決まってんじゃないですか。

SQL
1SELECT option_name FROM "wp_options" WHERE option_id >= 5

ですけど、phpmyadmin のタグついてるってことは、DB は MySQL なんでしょ？

何て呼ぶのか忘れましたけど、MySQL のテーブル名およびフィールド名を区切る記号はダブルクオートじゃなくてバッククオートです。これ。

SQL
1`

ダブルクオートは PostgreSQL。

本当に全員、もっと真面目にやってください。

PDOを使ったほうがいいと思いますが、そのままmysql_xxx()を使うのであれば下記のようにすればよいです。

データーベースにSELECT文で結果を受け取るには下記のようにします。
PDOなどでは下記の１．2．を同時に行うことができたりします。

1. MySQLサーバーに接続（質問のコードでOK）
2. データーベース選択（質問のコードにありません）
3. SQLクエリ発行（質問のコード（1）修正箇所が正解です）
4. SQLクエリの結果を受け取る

php
1try{
2    $my_Con = mysql_connect("localhost","[user]","[pass]");
3
4    if($my_Con == false){
5        echo '接続失敗<br/>';
6    }else{
7        echo '接続成功<br/>';
8    }
9
10    // データーベース選択
11    mysql_select_db('データーベース名', $my_Con);
12
13    $query = 'SELECT option_name FROM wp_options WHERE option_id >= 5';
14    $result = mysql_query($query, $my_Con);
15
16    if(!$result){
17      die('クエリーが失敗しました。<br/>'.mysql_error()); 
18    }