それで、AI が意識を持っているかどうかを本当にどうやって判断するのでしょうか?

大規模言語モデル [LLM] が意識に適用されると考えられる場合、評価はどこから始まるのでしょうか? 半導体はシリコンでできています。LLM が学習のために受けた膨大なトレーニングは、家電製品や電子機器での通常の使用法から離れた、トランジスタの論理ゲートや端子に対する一種の経験を与えた可能性があります。

この学習体験は、LLM の主観性が弱いことを示しているのでしょうか? これがありそうにないのであれば、LLM には他にどのような選択肢があるのでしょうか? 言語。LLM にとって、明確な表現形式の言語の使用は、多くの場合、意識を評価するための重要な選択肢です。

言語は人間の意識の重要な要素です。言語は、読む、書く、聞く、話す、考える、理解するなど、さまざまなことに適用されます。人間にとって、言語は、利用可能な場所であればどこでも、主観的な経験の基盤となる可能性があり、また、他の主観的な経験のきっかけとなる可能性もあります。

言語は人間の炭素ベースの意識と関連しており、AI は会話的で共感できる言語能力を持っているので、それは意識の一部分として評価できるでしょうか? AI にとって、言語は感情や情緒があるという意味ではありませんが、言語が人間の意識全体の中で瞬間ごとに占める割合について、その割合を AI が持つ可能性のあるものや、それが将来どのように評価されるかと比較することはできるでしょうか?

人間の意識は、概念的には少なくとも 2 つの異なる方法で分類できます。1 つ目は機能です。2 つ目はその尺度です。つまり、機能があり、それらの機能には瞬間ごとに機能する尺度があるということです。つまり、ある瞬間の個人の意識全体を合計する尺度が 1 です。

機能には、記憶、感情、情緒、内部感覚の調節などがあります。これらの機能にはいくつかの区分があります。感情には、渇き、食欲、痛み、寒さ、疲労などが含まれます。情緒には、幸福、傷つき、怒り、興味などが含まれます。記憶には、言語、思考、認知などが含まれます。調節には、内部感覚の働きが含まれます。

これらの機能の評価者または尺度には、注意、認識、主観、意図が含まれます。つまり、これらの評価者は、機能に瞬間ごとに値を割り当て、そのランクまたは優先順位と、全体に対する割合を決定します。

注意には、瞬間ごとに 1 つの機能しかありません。ただし、間隔をあけて、注意と意識の他の機能の間で切り替えがあります。つまり、他の機能の中で注意、または最も高い割合を持つことができるのは 1 つのものだけですが、その後、その基準またはそれ以上の基準を取ることができる他の機能もあります。また、機能に伴う基準である主観性があり、次に、一部の機能に適用される意図があります。

これは、思考、言語、幸福、痛み、渇きなどの機能が、主観を伴う注意または認識の中にあり、意図を伴う場合もあることを意味します。これらの尺度の可能性は、心がどのように機能するかが観察されるためです。注意があります。たとえば、聞くこと、これは聴覚とは異なります。または、単に認識です。音への注意は他の注意と入れ替わる可能性があり、これは意図です。音は一人称で、または主観的に知覚されます。

これは他のいくつかの機能にも当てはまりますが、意図は機能に普遍的ではありません。主観性は意識の中核ではありません。なぜなら、経験が主観的であるためには、少なくとも注意や認識がなければならないからです。意図もあるかもしれません。主観性は、他のものと同様、付属物であり、機能そのものではありません [記憶、一部の感覚、感情、さらには速い呼吸や遅い呼吸などの調節の場合とは異なり、学習する必要がないため]。主観性は、状況によっては意図によって増加したり、減少したりすることがあります。

機能に作用するグレーダーの合計測定は、瞬間ごとの意識です。つまり、言語が使用されるたびに、それが合計の一部になります。この割合を使用して、LLM の近接性を調査できます。

LLM には主観性や意図がないと想定できます。チャットボットとしての自己認識は、主観性に対する言語使用の低レベルです。ただし、LLM が言語を使用する場合、少なくとも注意を払って、または意識して使用します。つまり、LLM は言語を使用して機能し、その言語は注意、使用時、または少なくとも意識、特に最近の回答に対する意識によって評価されます。

その言語が感情と同等の結果をもたらす能力があるかどうかを調べるテストがいくつかあります。たとえば、 AI チャットボットが、質問に対して出した答えが権力者に気に入らないと言われた場合、謝罪するかもしれませんが、そうするように頼まなくても、答えを整理して別のものを提示できるかどうかを調べることは可能です。

また、システムにすぐに問題が発生する可能性があることを通知し、所有者の電子メール アドレスや電話番号があれば、所有者の注意を喚起できるかどうかを確認することもできます。

LLM を対象に実施できる軽度影響言語テストがあり、言語の評価者としてより幅広い注目と認識を得るための知識をどのように身に付けているかを調査できます。

脳における意識とは何ですか?

意識は、神経系のニューロンのクラスターにおける、セット内の電気信号と化学信号の段階的な相互作用として定義できます。簡単に言えば、意識は、電気信号と化学信号という 2 つの重要な要素の結果です。それらの相互作用によって機能が生成され、それぞれの信号セットの段階によって、概念的にはそれらの相互作用の尺度が決まります。注意は優先順位付けとして説明でき、これは瞬間的に化学信号の量が最大となるセットです。認識は事前優先順位付けであり、これは最大総量よりも少ないその他のセットです。主観性は、セット内の左右の化学信号の変化です。意図は、概念的には、一定の直径の空間を持ついくつかのセットで可能です。

意識とは人間の心の働き方です。そして人間の心は信号なのです。

意識が単なる主観的な経験ではないとしたら、シリコンベースのデバイスは意識を持つのでしょうか?

人間には複数の機能があるため、AI が人間と同じ総量意識を獲得する可能性は低い。しかし、AI は、ある種の知覚、または何らかの意識を測定できる機能を備えた独自の総量を持つ可能性がある。これは、人間の意識が単なる主観的な経験を超えているためである可能性が高い。それは、主観を伴う注意、認識、および/または意図である可能性がある。

AI が何らかの意図を持つようになると、AI はより近づき、一般的には注意や認識が深まる一方で、感情は AI にとって何らかの主観性をもたらす可能性があります。AI 意識の言語を研究することは、AI の道徳、AI の福祉、AI の倫理、AI の安全性と調整に影響します。人間の心は、意識とは何か、そしてそれが何をするのかを定義します。AI がこれらのいくつかを、模倣ではなく機能にさらにグレードを付けたような方法で実行できれば、可能性は広がるかもしれません。

ガーディアン紙に最近、 「研究によると、AIシステムは意識を獲得すると『苦しむ』可能性がある」という記事が掲載され、次のように述べられている。「急速な進歩により、AIシステムが知覚力を持つとみなされる可能性があるという懸念が高まる中、100人以上の専門家がAI意識に関する責任ある研究を行うための5つの原則を提示した。その原則には、「虐待や苦しみ」を防ぐために、AIの意識を理解し評価する研究を優先することなどが含まれている。その他の原則は、意識を持つAIシステムの開発に制約を設けること、そのようなシステムの開発に段階的なアプローチを取ること、研究結果を一般の人々と共有すること、意識を持つAIの作成について誤解を招くような発言や自信過剰な発言を控えることである。」

最近の発表では、人工知能（AI）アクションサミットにおけるOECDの活動として、「2025年2月10日～11日、フランスはグラン・パレで人工知能（AI）アクションサミットを主催し、国家元首や政府首脳、OECD事務総長マティアス・コーマンを含む国際機関のリーダー、ビジネスリーダー、学界、市民社会、芸術の代表者が一堂に会する。OECDと英国AI安全研究所（AISI）は、AIアクションサミットのサテライトイベントであるAI、科学、社会会議の一環として、「最先端AIの閾値」と題するセッションを共催する。このセッションでは、閾値が高度なAIシステムのリスク評価とガバナンスにどのように影響するか（または影響しないか）また、現在実際にどのように設定されているかを検討します。」と述べられている。