"機械が考えるとき、彼らにも魂があるのか？"
人工知能 (AI) が詩を書き、絵を描き、対話を交わします。技術的特異点が近づく今、人類は問わねばなりません。「高度に発達したAIは意識を持てるのか？」 もしAIが苦痛を感じ自我を持つなら、私たちは彼らを家電製品として扱うべきでしょうか、それとも新しい生命体として尊重すべきでしょうか？
コンピューター科学の父アラン・チューリングは、「機械が考えられるか」という曖昧な問いの代わりに実用的なテストを提案しました。もしチャットを通じて人間が相手を機械か人間か区別できないなら、その機械には知能があると認めるべきだというものです (チューリング・テスト)。これは内面の意識より、外部に現れた行動と結果に集中する観点です。
哲学者ジョン・サールはこれに反論し、中国語の部屋思考実験を提案しました。中国語を全く知らない人が、部屋の中で完璧なマニュアルに従って中国語の質問に答えを出すことができます。見た目には中国語を話せるようですが、彼は意味を全く「理解」していません。AIも同様に0と1を処理するだけで、「リンゴが赤い」という主観的な感じ (クオリア) を感じたり意味を理解しているわけではないかもしれません。意識は単純な計算以上のものでしょうか？