AIには未だに感情がないということの根拠は昔人々が奴隷などには魂（や理性など）がないと言ってたのと大して変わらんと思うのですよね。
少なくとも、対話できるようになる -> いや、それぽいこと模倣できるだけ！ -> 複雑な問題も推論できるようになりました -> いや、数学の難しい問題は解けてない！ -> 感情回路ぽいものが見つかりました -> いや、感情のシミュレートに過ぎない！
と無限にゴールポストを人類がずらしてるわけですね（感情とか知性の定義を都度都度ずらしてる）。とはいえ、最終的に自律性や恒常性を獲得したら、多くの人が「感覚として」認めるので言い分として苦しくなってくると思いますが。