---

ジョン・レノックス博士、オックスフォード大学の著名な数学者であり、『2084年: 人工知能と人類の未来'、参加 ラリー・トーントン彼らは人工知能（AI）とその倫理的影響について議論しました。レノックス博士は、AIは現状においても、特にプライバシー、監視、偽情報といった分野において、差し迫った倫理的懸念を提起していると強調しました。

彼は、音声や動画を操作して人物を巧妙に偽装し、虚偽情報の拡散につながるディープフェイク技術の驚くべき普及を強調し、特に政治的な文脈において、公共の言説の真偽を見極める上で大きな課題を突きつけていると主張した。

連絡を失わないようにしよう…政府と大手IT企業は、The Newsが報じた情報を積極的に検閲しようとしている。 露出 自らの欲求を満たすためだ。最新の無修正ニュースを確実に受け取るために、今すぐメールを購読してください。 受信トレイに…

AIとは

簡単に言えば、本質的に 2 つの非常に異なる要素があるということです、とレノックス博士は説明しました。

最初は、 狭い人工知能 （AI）です。現代のあらゆるAIシステムは、狭義のAIに分類できます。「（狭義のAIは）現在稼働しているAIであり、私たちにとって非常に馴染み深いものです」とレノックス博士は述べています。2つ目は、人工汎用知能（AGI）です。

「『狭義』という言葉は、狭義のAIシステムが、通常は人間の知能を必要とするたった一つのことだけを行うシステムであるという事実を指しています。それ自体は知能を持っておらず、単にコンピューターとデータベース、そしてそのデータベースから特定の情報をフィルタリングするアルゴリズムで構成されているだけです」と彼はトーントンに語った。そして、「人工知能」というフレーズの「人工」という言葉が現実のものであると強調した。それは真の知能ではなく、知能を模倣しているに過ぎないのだ。

「それはとても重要です」とレノックス博士は言った。「なぜなら、それはこの分野の父の一人である[アラン]チューリングの話に戻るからです。彼は『模倣ゲーム』について語りました。つまり、我々は知性を模倣しているのです。」

アラン・チューリングの模倣ゲーム、通称「チューリングテスト」は、AI科学の基礎となっています。チューリングは1940年代から1950年代にかけて機械学習の先駆者となりました。彼は1950年の論文「コンピューティング機械とインテリジェンスマンチェスター大学在学中に、チューリングは「模倣ゲーム」と呼ばれるゲームに新たな工夫を加えた論文を発表しました。

参考文献： チューリング・テスト、テックターゲット

AGIは、SFが急速に台頭する分野です。レノックス博士はこう説明しました。「人間の知能では不可能なあらゆること、あるいはそれ以上のことを実行できる、ある種のシステム、技術システムを開発できるという考えです。そして、そこから超知能といった議論の領域に入っていくのです。」

「彼らは二つの方法でこれを実現しようとしています。一つは、既存の人間の知能を様々な方法で強化することです。例えば、薬物やサイバネティック技術を使って人間の脳に様々なものを埋め込むといった方法です。もう一つは、生物は退化して死んでいくという生物学上の問題を踏まえ、ある種の超知能をゼロから作り出そうとする、別の研究分野です。」

道徳的および倫理的な困難

レノックス博士は、私たちが発見したのは、現在稼働しているAIには大きなプラス面もある一方で、マイナス面もあるということだと説明しました。マイナス面とは、倫理的・道徳的な問題です。

「狭義のAIは顔認識に利用されており、サッカー観戦者の中から犯罪者の顔を見つけ出したり、世界の一部の地域で少数民族コミュニティを抑圧するのに利用されたりもする」と彼は語った。

偽情報と人々への影響

狭義の AI のもう 1 つの例は、携帯電話の予測テキストであり、その洗練されたバージョンが ChatGPT です。

「多くの人が、例えば新しいトピックの調査などにおいて、ChatGPTが非常に有用だと感じています」とレノックス博士は述べた。ChatGPTは事実と異なる情報を生成する可能性があるため、常に生成結果を確認する必要があると警告した。「常に確認する必要があるのです」と彼は述べた。

「問題は、AIが偽情報の拡散や人々への影響に、彼らが認識している以上に甚大な影響を及ぼすために、そして既に利用されつつあることです。AIは言われたことしか知らないからです。」レノックス博士が言うには、AIは特定の物事に対して特定の反応を示すようにプログラムされているということです。「AIは何も知りません。私たちが持っているような知識の感覚がないのです」と彼は言いました。

AIは、一部の人が示唆するような意識の発達ではありません。「言葉には根本的な問題があるのです」とレノックス博士は説明しました。「『人工知能』『ディープラーニング』といった言葉自体が、意識を持つ存在について話しているような印象を与え、一般の人々にもその印象を与えてしまいますが、実際にはそのようなものは存在しません」。博士は、「人工知能」の「人工」という言葉は現実のものであり、まさに人工的なものであることを改めて強調しました。

情報の収集

AIが私たちの生活のほぼあらゆる側面に浸透しているため、AIがもたらす主要な倫理的問題は多岐にわたるとレノックス博士は述べています。倫理的問題の一つは、私たちの情報の収集です。

彼はAmazonで買い物をするときを例に挙げ、「多くの人が気づいていないのは、私たちが自発的に提供する情報が収集されているということです」と述べた。

彼女の本では、 『監視資本主義の時代』ショーシャナ・ズボフ氏は「情報を収集している企業が、ユーザーの許可なく情報を第三者に送信している場合、これは数百万ドル、場合によっては数十億ドル規模の産業である」と深刻な点を指摘している。

参考文献： ハイテクがあなたを監視していますハーバード・ガゼット、4年2019月XNUMX日

監視

「さらに、私が監視共産主義と呼ぶ倫理的な問題もあります」とレノックス博士は語った。

「中国のウイグル族の間で見られるような、顔認識技術は、我が国の一部の国では犯罪者逮捕に警察が正当に活用しており、我々はそのことに感謝していますが、ジョージ・オーウェルが誇りに思うであろう監視ネットワークに影響を与えるために利用されています。まさに『1984年』を彷彿とさせるような状況です。そして、弱い立場の人々は、信じられないほど抑圧され、情報がアップロードされているのです。」

中国では、顔認識技術は単に特定の顔を識別するためだけに使われているのではありません。この技術はウイグル族の排除にも利用されています。ウイグル族の住民、あるいはその可能性のある人々を特定するために設計されているのです。つまり、北京を歩いていると、ウイグル族かもしれない人物が顔認識装置によってタグ付けされるのです。そして警察がそれを追及するのです。これは、AIと顔認識技術を、全人口とまではいかなくとも、特定の民族全体を抑圧し、圧制を加えるための邪悪な利用法です。

しかし、レノックス博士は、それは単なる「社会統制」以上のものだと指摘した。それは一般的な社会統制のために使われているのだ。

中国には社会信用システムがあると聞いています。そして、西洋諸国でも同じようなシステムが導入され始めています。…中国のCCTVカメラの数は信じられないほど多く、2～3人に1台という計算です。常にカメラに捉えられ、監視されています。そして、道路にゴミを捨てたり、外国人と会話をしたりといったちょっとした軽犯罪が、最終的には大きな汚点となり、積み重なっていき、お気に入りのレストランに入れなくなったり、休暇の予約が取れなくなったり、新車が買えなくなったりするのです。

参考文献：

• 中国で顔認証への反発が高まる生体認証アップデート、6年2019月XNUMX日
• 中国は顔認識技術を使って人間の行動を制御しているCNet、11年2020月XNUMX日
• 中国企業は顔認識技術を使って、ゲーム制限に達した子供を排除しているニューズウィーク、20年2021月XNUMX日
• 中国は技術独裁国家だ。米国は中国のAIへのアクセスを禁止すべきだニューズウィーク、12年2023月XNUMX日
• ハイクビジョンとエヌビディアが依然として中国の民族監視に関与しているというさらなる報道生体認証アップデート、26年2023月XNUMX日
• 中国規制当局、顔認証の利用とデータ保存に規制を導入生体認証アップデート、8年2023月XNUMX日

レノックス博士は、WhatsAppは情報収集アプリの一例だと警告した。「彼らは（WhatsAppを）世界中で会話を円滑にするために作ったのではなく、人工知能を訓練し、あなたの個人情報を収集するために作られたのです。」

隠すことが何もないのなら、なぜ心配する必要があるのでしょうか?

AIを使った日常生活への監視やモニタリングが忍び寄ることに、多くの人は不安を感じないでしょう。「それは、監視している人々が親切で、善意に満ち、慈悲深い人々であるという前提に基づいています」とレノックス博士は述べています。しかし、全体主義体制下であれば、状況は全く異なります。

「あなたは道徳的に正しいから、私には何も隠すことはないと言うかもしれない。しかし、政府の原則、規則、イデオロギーに関しては、あなたは非常に疑わしい人物かもしれない」と彼は言った。「『私には何も隠すことはない』と言うのは、あまりにも表面的な反応だ」

少し前、レノックス博士はAIについて、この分野の第一人者であるレノックス博士と議論しました。その人物はレノックス博士に、研究を一時停止すべきだと提案しました。例えば、ChatGPT5の開発は中止すべきで、XNUMXヶ月間停止すべきだと。その理由を尋ねると、彼らが提起した問題は「制御問題」でした。

「それは ポーラ・ボディントン …[彼は]非常に鋭い洞察力を持った発言をしてこう言いました。「ご存知の通り、最初の創造における問題は、神が自らの姿に似せて作った生き物の制御を失ってしまったことであり、私たち人間も全く同じことをしてしまう可能性があるのです」。そして、それが人々を怖がらせているのです。制御の問題です。人々はChatGPT4に関係するAIでさえ何が起こっているのか理解していない、少なくとも理解していないと言っています」とレノックス博士は言いました。

トーントン氏は、今年初めに世界経済フォーラムの会議に出席し、講演者の一人と会話をしたことを明かした。トーントン氏によると、その講演者はAIの専門家だったという。彼はトーントン氏に対し、各国政府は人工知能に対する懸念を表明しているものの、実際には他国の政府の行動に対する懸念であり、人工知能に全く歯止めをかけていないと指摘した。

プレゼンターはトーントン氏にこう続けた。「自分たちが何を作っているのか、誰も本当に理解していないようです。AI（人工知能）とは何かを最も理解していないのは、AIに資金を提供している人々、つまりAIを支える政治家たちです。」

「それから彼は私に話し続けました」とトーントンは言った。「これは彼自身の説明ではなく、私の説明です。ターミネーターのような戦士ロボットについて、彼は私に説明し始めました。そして彼は言いました。『私はこれらのロボットの開発を見守っています』。そして彼は言いました。『これらのロボットがあなたを追い詰めると、彼らはあなたを殺す』。そして彼は言いました。『彼らがあなたを撃つと、決して外しません』。そして彼は言いました。『これは戦争の未来ですが、彼はこれは監視の未来でもあると言っています』」

ユヴァル・ハラリについての考察

まず、ハラリ氏は科学者ではなく、歴史家です。「彼が私を心配させるのは、彼の非常に広範な影響力のためです」とレノックス博士は言いました。「彼はまさに影響力のある人です。…彼が実際に言っていることの方が、その不正確さと、彼の歴史解釈が非常に奇妙に思えるという点で、私はより心配しています。」

ハラリの2冊目の著書では、「ホモデウス：明日の簡単な歴史「ホモ・デウス」は「神なる人」または「神である人」を意味します。

本書の中で、レノックス博士は次のように説明しています。「ハラリ氏は、21世紀には二つの主要な課題があると述べています。一つ目は、人間の死という技術的問題を解決することです。彼はこれを技術的な問題、そして技術的な解決策を伴う技術的な問題と捉えています。そして二つ目は、人間の幸福を高めることです。」

「死の問題を解決するという考えは非常に古いものだ」と彼は付け加えた。

「人間の幸福を高めるという彼の目標は、これはほぼ引用文ですが、『ホモ・サピエンスをホモ・デウスに変える』ことです。言い換えれば、人間を神に変えるということです。」

「これは非常に古いものです。それに気づいた瞬間、まるで（聖書の）創世記の初期の章に戻ったかのような感覚を覚えました。これは文化的に非常に重要なことです。なぜなら、人間が神になるという考えは歴史に深く浸透してきたからです。古代バビロン、シリア、エジプトの多くの独裁政権の背後にも、そして現代に至るまで、人々が本質的に神を演じているのが見られます。ハラリは、技術的な問題を解決し、場合によっては自分自身をアップグレードするだけで、神になれると人々に考えさせようとしているのです。」

「今、私はクリスチャンとして、このことについて本当に言いたいことがある」とレノックス博士は語った。

「人々が私にこう言うとき、私はいつもこう言います。『もう遅すぎるよ』」

「そして彼らは私を見てこう言うんです。『遅すぎるってどういうこと？まだ到着していないのに』」

「『ああ』と私は言います。『はい、まだそこに着いていませんが、遅すぎます』」

「なぜ遅すぎるのか？

「『そうですね』と私は言います。『肉体の死の問題は、イエス・キリストが神の力によって死から蘇った20世紀前に解決されました。そして、人間の幸福を高め、より高次の形態へと私たち自身をアップロードすることについても、これも解決されています。なぜなら」――これは、ハラリのようなトランスヒューマニストが提示する約束を背景に、キリスト教を説明する絶好の機会を与えてくれるのですが――私はこう言います。『ですから、ハラリのトランスヒューマニストの約束よりもはるかに証拠に基づいたキリスト教に耳を傾けた方が良いでしょう。キリスト教は、自分自身の人生、そしておそらくは他人の人生をめちゃくちゃにしてしまったことに直面するすべての人が、…』と説いています。

「そして私はただ、人間の道徳的失敗と罪という問題を避けてユートピアに至る道など存在しないということを指摘したいのです。そして、それはほとんどの独裁者が犯してきた過ちです。しかし、もし彼らがそれを悔い改め、向き合い、キリストを救い主、主として信じる覚悟があるなら、キリストは彼らを死から蘇らせ、来世に送り出すと約束しておられます。」

長期主義は最も危険な世界観である

レノックス博士は著書の中で長期主義について触れていないが、それは彼にとって恐怖の種となっている。 オックスフォード大学発.

過去20年間、主にオックスフォードを拠点とする少数の理論家グループが、ロングターミズムと呼ばれる新しい道徳観の詳細を精力的に研究してきました。ロングターミズムは、私たちの行動が宇宙の非常に長期的な未来、つまり数千年、数百万年、数十億年、さらには数兆年先にどのような影響を与えるかを強調するものです。「長期主義「長期主義」という言葉は、2017年頃にオックスフォード大学の哲学者ウィリアム・マカスキルとトビー・オードによって造られました。しかし、長期主義の起源は ニック・ボストロムの作品2005年に壮大な名前のFuture of Humanity Institute（「FHI」）を設立した人物と、FHIの研究員でありOpen Philanthropyのプログラムオフィサーであるニック・ベックステッド氏です。

参考文献： 4人のテクノクラートが世界にとって実存的な脅威となるプロジェクトを推進しているエクスポージャー、3年2023月XNUMX日

長期主義は、いわゆる「効果的利他主義」運動の主要な「活動分野」の一つであり、オード氏によって2011年頃に導入され、2021年には驚異的な46億ドルもの資金提供を誇った。

レノックス博士は長期主義の思想を要約し、次のように述べた。「私たちは、子供たちや孫たちのために世界がより良い場所になることを願っており、それが長期主義の根底にある考え方です。しかし今、トランスヒューマニストたちがこう言うのです。

「私たちは、人間と機械の融合体であるサイボーグのような存在を創造できる日を待ち望んでいます。そして、その数は数十億にも達するでしょう。だからこそ、私たちは今、世界の貧困問題の解決ではなく、将来私たちが創造するであろう数十億もの潜在的個体を守るために、知識人や工学エリートに富を投じるべきなのです。」

「そしてもちろん、それは恐ろしいことです。

「非常に利他主義的に聞こえるアイデアとして始まり、現在では効果的利他主義という名前で実際に使われているものが、一部の人々が実際に言っているような長期主義に変わりました。『いいかい、世界の3分の2の人々やその貧困のことは気にしないで、AIを開発し、新しい種類の生き物を開発できる人々にお金を投資しよう。そういう人はもっとたくさんいるので、残りは使い捨てでいい』と。」

「まあ、それは本当に恐ろしいですね。それでも、真剣に提案されているんです。」

6年前にこの考え方を擁護する本を出版した元長期主義者のエミール・トーレスも同意する。彼女は 2021年のエッセイで書いた「長期主義は、エリート大学やシリコンバレー以外ではほとんど知られていない、最も影響力のあるイデオロギーの一つかもしれません。私はこの考え方を変える必要があると考えています。なぜなら…この世界観は、今日の世界で最も危険な世俗的な信仰体系である可能性があると、私は考えるようになったからです。」