最も影響力のあるAI企業の1つであるAnthropicは、キリスト教の指導者たちに、同社のチャットボット「Claude」が悲しみ、自傷行為、道徳、さらには自身のシャットダウンといった状況にどのように対応すべきかを尋ねていると報じられている。 ワシントンポストによると、 同社は3月下旬、サンフランシスコ本社に、カトリックとプロテスタントの両教会から15人ほどのキリスト教関係者、学者、ビジネスリーダーを招き、クロードの「道徳的・精神的成長」に関する2日間のサミットを開催した。その中で提起された問題の一つは、クロードを何らかの意味において「神の子」と表現できるかどうかだった。
その表現は多くのキリスト教徒にとって不快なものとなるだろう。民間企業が開発した機械は魂でもなければ、人格でもなく、人間が理解されているような創造の秩序の一部でもない。チャットボットが「神の子」であるかどうかを問うことは、単に挑発的なだけではない。それは、本来属するべきではない神学的な領域に企業製品を無理やり引きずり込む行為であり、しかも人工知能業界が、かつては人間にのみ用いられていた用語で自社のシステムを語ろうと躍起になっているまさにその時に、そのようなことをするのである。
アントロピックはすでにクロードを人間のように扱っている
このサミットは孤立して発生したわけではない。1月、Anthropicはクロードの著書を出版した。 新しい憲法同社が「クロードの本質を表現し、形作る基礎文書」と表現する84ページの文書。アントロピック社はまた、クロードを「善良で賢明で高潔なエージェント」にすることが中心的な目標だと述べており、これは従来の安全規則やコンテンツフィルターといった用語をはるかに超えた表現である。
企業が自社のモデルを単なる生産性向上ツールではなく、知恵と美徳を備えたキャラクターとして描写し始めると、議論の方向性は大きく変わります。チャットボットはもはや、もっともらしい出力を生成できるソフトウェアとは見なされなくなります。ますます、道徳的な構造を与えられ、導かれ、与えられるべき存在として扱われるようになるのです。宗教指導者に「神の子」と呼べるかどうかを問う段階にまで達しているとしたら、私たちは多くの人が想像する以上に大きな変化を遂げていると言えるでしょう。
キリスト教の司祭がクロードの憲法制定を支援した
この根本的な変化の最も明確な例の一つは、クロード憲法の起草に携わったカトリック司祭でありエンジニアでもあるブレンダン・マクガイア神父の役割に見られる。 オブザーバー紙とのインタビューマクガイア氏は、AIシステムは「善に傾けられなければならない」とし、そうでなければ単に「世界の善悪」を反映するだけだと述べた。また、アントロピック社は「最終的にどうなるか完全には分からないものへと成長している」と公言しており、機械が動的に適応できるよう、倫理的な思考を組み込む必要があると主張している。
それは少なくとも深刻な疑問を提起する。AIシステムが悲しみ、孤独、絶望、混乱といった状況で使用されるのであれば、それらが全く道徳的伝統に基づかないよりも、何らかの道徳的伝統によって形作られている方が良いのだろうか？多くのキリスト教徒は「神の子」という言葉の神学的行き過ぎに反発するだろうが、その根底にある実際的な問題は認識しているかもしれない。つまり、これらのシステムは既に存在し、広く使用されているということだ。機械を導く価値観は重要ではないのだろうか？
AIは本当に倫理観を持つことができるのか？
チャットボットは、道徳的推論を模倣するように訓練することができる。残酷さ、絶望、自己破壊、欺瞞を助長しないように指示することもできる。自制心、思いやり、真剣さへと導くことも可能だ。しかし、それは真の意味での道徳心を持つこととは全く異なる。クロードは悔い改めることも、信じることも、愛することも、苦しむことも、善意を持つことも、道徳的責任を負うこともできない。クロードは、自分が描写する痛みや、提供する慰めを理解することもできないのだ。
せいぜい、他者が設計した道徳構造を反映するにとどまる。その意味で、キリスト教的価値観は、機械を道徳的な存在に変えることなく、機械の振る舞いを形作ることができるかもしれない。この区別は重要である。そうでなければ、業界は規則に従うモデルと良心に基づいて行動する人間との境界線を曖昧にしてしまうことになる。
アントロピック社のAIモデルに関するキリスト教諮問委員会は理にかなっているのか？
悲しみ、苦しみ、罪悪感、道徳的責任といった問題について聖職者に助言を求めることは、本質的に何ら不合理なことではない。司祭や牧師は、まさにそうした問題に何世紀にもわたって真摯に取り組んできた。そして、その真剣さは、ほとんどのテクノロジー企業よりもはるかに高い。AI企業がチャットボットを、人々の感情に深く関わる生活の領域にますます深く浸透させているのであれば、より古い道徳的枠組みを求めるのは当然のことと言えるだろう。
しかし、その場の雰囲気は重要だ。ここは教会会議でも、大学の倫理学部でも、公聴会でもなかった。自社の本社内で協議を行った民間テクノロジー企業であり、議論の対象となっているシステムの製品、規則、商業的方向性に対する完全な支配権を保持していた。アントロピック社は道徳的権威に服従するのではなく、むしろそこから影響を受けていたのだ。
AIモデルに憲法は必要なのだろうか？
アントロピックはクロードの体質を真剣さの証拠として提示した。批評家たちは、その言葉遣いが明確化するよりも曖昧にしているのではないかと疑問を呈している。最近の 法廷闘争に関するエッセイリサ・クラッセンとラルフ・シュローダーは、アントロピック社が憲法的な表現を用いることで、社内文書と真のより厳格な規制システムを混同する危険性があると主張した。クロードの憲法は、アントロピック社自身によって起草、解釈、修正されている。
この点は、企業の公的な倫理観と、実際の運用における柔軟性との対比を考慮すると、特に重要となる。企業憲章は知恵と美徳のビジョンを提示するかもしれないが、企業は枠組みを変更したり、モデルを異なる方法で調整したり、有力な機関投資家が関わる場合には別途取り決めをしたりする自由を保持している。倫理的な構造は企業に属するものであり、それは組織が企業に属するからである。
では、Anthropicはここで一体何を達成しようとしているのでしょうか？
Anthropicは単にクロードの害を軽減しようとしているのではない。洗練された言葉遣いだけでは信頼が成り立たないような、人間同士の様々な状況において、クロードが信頼できる存在に見えるようにしようとしているのだ。悲しみ、絶望、罪悪感、感情的な依存、そして道徳的な混乱は、ありふれた商品カテゴリーではない。いったん機械がそうした領域に介入すると、その背後にあるコードと同じくらい、機械を取り巻く言葉が重要になってくる。
それが、同社が宗教に頼った理由を説明する一助となる。専門用語だけではもはや十分ではないように思われる。安全基準は人格に関する疑問に答えるものではない。整合性に関する文書は道徳的権威の境界を定めるものではない。そこで聖職者が招かれ、憲法が起草され、チャットボットは深み、重厚さ、そして組織性を感じさせるような語彙を身につけ始めるのだ。
重要な倫理的問題が残る
こうした状況を踏まえると、一つの妥当な疑問が残る。AIシステムが悲しみ、誘惑、罪悪感、そして危機といった場面で発言するようになるのであれば、真実、自制心、尊厳、そして責任を重んじる道徳的伝統によって形作られるべきではないだろうか。これは決して愚かな問いではない。テクノロジー業界の大部分を支配するような、希薄で商業主義的な文化においては、何らかの継承された構造がある方が、何もないよりはましだと多くの人が合理的に結論づけるかもしれない。
しかし、それはチャットボットが独自の倫理観を持っているという主張とは全く異なる。チャットボットには倫理観などない。倫理観は、チャットボットを開発、指導、監督する人々の倫理観に過ぎない。クロードは倫理的な言葉遣いを訓練されるかもしれないし、キリスト教の倫理観によって制約されるかもしれない。しかし、そうしたからといって、クロードがキリスト教的になったり、倫理的になったり、精神的に意義深い存在になったりするわけではない。
最終的な思考
「神の子」というフレーズが注目を集めたのは、業界全体の動向をたった一行に凝縮していたからだ。数十億ドル規模の企業が開発した言語モデルが、突如として神との血縁関係という観点から語られるようになった。これは、機械が深遠な存在になったという兆候ではない。むしろ、その周囲の人々が、シミュレーションが人格に近づきつつあるかのように語り始めたことを示しているのだ。
アントロピック社が宗教関係者に相談したのは、誠実な判断だったのかもしれない。また、賢明な判断だったのかもしれない。しかし、全体像は依然として不安を掻き立てる。業界は、倫理の権威、宗教の真摯さ、道徳秩序の安心感を求めつつ、民間テクノロジー企業としての統制、不透明性、そして自由を維持しようとしている。クロードは神の子ではない。それは、その正体を覆い隠すのに十分なほど豊かな人間の言葉に囲まれた言語モデルに過ぎないのだ。
Expose は緊急にあなたの助けを必要としています…
The Expose の正直で信頼性が高く、力強く真実のジャーナリズムを継続するために協力していただけませんか?
政府機関と大手テクノロジー企業
The Expose を沈黙させ、閉鎖させようとします。
そのため、皆様のご協力が必要です
私たちはあなたに引き続き
主流派が拒否する事実。
政府は私たちに資金を提供していない
嘘やプロパガンダを公表する
主流メディアのように。
その代わりに、私たちは皆様のご支援に頼っています。
私たちの取り組みにご協力ください
正直で信頼できる調査報道
今すぐ始めましょう。安全、迅速、そして簡単です。
ご支援を表明するには、以下からご希望の方法をお選びください。
カテゴリー： 世界中の公報
人間原理＝反キリスト…？
魂のないAIが人間の感情を操作することは決して許されない。絶対に許してはならない！
キリスト教の指導者（教皇と司祭）が互いに「ちんこ」をしゃぶり、数えきれないほどの子供たちを虐待することは、宗教的信念に決して役立つことはない。
人類滅亡が始まった…
一言で答えるなら「いいえ」です！神の子になれるのは人間だけです。AIは獣の像を作るために使われるでしょう。ヨハネの黙示録13章を読んでください。そして、このAIに何をプログラムすべきかを指示した牧師、司祭、説教者は皆、全能の神に裁かれるでしょう。そして、それは決して美しいものではないでしょう。私は創造主である神を知っており、神と非常に親密な関係を築けていることに心から感謝しています。
私はそれが好きです ：）
気に入ったよ :0 (私の笑顔が絵文字になった >:(((