ＡＩが実際に人間よりも賢くなるという考えは、大部分の人は遠い未来の話だと考えていたけれど、DRSが使えそうな距離感に迫っていると実感します。オックスフォード大学が示す「人類滅亡の12のシナリオ」において、AIは一つの脅威として認識されています。しかし、同時にAIが他のシナリオにおいて、滅亡回避の救済者となり得る力を持ってます。AIのこの二面性に直面してAI技術の進展が社会にとってプラスに働きつつ、潜在的なリスクを抑えるための明確な方策、AIガバナンスモデルを考えた時、その抜け道もAIを使えばできそうだし、管理をAIに任せたらAIvsAI（ターミネーター？）ってリスクだしイミフだし、そもそも、人を超えた知能になった時に人の制御ってなに？って難解ですね。
求められるのは、AIによる自律的な管理というアプローチでありながら、そのAIの意思決定プロセスを透明にし、最終的な意思決定は人間が行うというバランスを確保できるシステムで共に前進し、適切なガバナンスを構築していく必要がありますね。
4