昨年のあるインタビューで、AI専門家のスチュアート・ラッセル教授は、数兆ドル規模のAI開発競争、政府が規制を行わない理由、汎用人工知能（AGI）が2030年までに人間にとって代わる可能性、そして核兵器レベルのAI災害だけが私たちを目覚めさせる理由について明らかにした。
これらすべては、プログラミングやマーケティングに携わる人間を含め、人間自身も理解していないコンピュータープログラムのために行われている。「私たちが現在構築しているようなAIシステムは、どのように動作するのか、私たち自身も理解していない」と彼は述べた。
連絡を失わないようにしよう…政府と大手IT企業は、The Newsが報じた情報を積極的に検閲しようとしている。 露出 自らの欲求を満たすためだ。最新の無修正ニュースを確実に受け取るために、今すぐメールを購読してください。 受信トレイに…
東京大学大学院海洋学研究室教授 スチュアート・ラッセル OBEは世界的に有名なAI専門家であり、カリフォルニア大学バークレー校のコンピュータサイエンス教授です。彼は工学分野のスミス・ザデー講座教授であり、人間と互換性のあるAIセンターの所長を務めており、ベストセラー書籍『人間との適合性：AIと制御の問題'。
インタビューの際に スティーブン・バートレット、 たくさんの CEOの日記ラッセル教授は、「ゴリラ問題」が超知能AIの下での私たちの未来について何を明らかにしているのか、政府が巨大テクノロジー企業に資金面で劣っている理由、現在のAIシステムが既に嘘をつき自己保存する理由、彼が10年かけて構築してきたAIを安全にするための根本的な解決策、そして「電源を切る」という神話と、AIを止めることがそれほど簡単ではない理由について説明しました。
上記のビデオをRumbleで視聴できない場合は、YouTubeで視聴できます。 Pr_media.
2025年10月、ラッセル教授を含む850人以上の専門家が署名し、 AI超知能を禁止する声明人類絶滅の可能性への懸念を理由に挙げている。
「AIシステムが安全であることを保証する方法を見つけ出さない限り、我々は破滅するだろう」とラッセル教授は述べた。「現在構築されているようなAIシステムは、どのように動作するのか理解できていない。」
「ほとんどの機械は、特定の動作をするように設計されています」と彼は述べ、機械の部品は、異なる部品がどのように連携して望ましい効果を生み出すかに応じて、一度に1つずつ、あるいは歯車のように追加されていくと説明した。しかし、AIの場合はそうではない。
ラッセル教授は、AIの仕組みを理解せずにAI産業が構築された経緯を説明するために、あるたとえ話を用いた。
「一番適切な例えはこうです。最初の洞窟人が果物の入ったボウルを太陽の下に置いて忘れてしまい、数週間後に戻ってきたら、大きなスープのようなものができていて、それを飲んで完全に酔っぱらってしまった。そして、その効果を実感した。どういう仕組みなのかは分からなかったが、とても満足した。そして、間違いなくその人はそれで大金を稼いだのだろう」と彼は語った。
AIについて彼はこう語った。「私のAIのイメージは、チェーンリンクフェンスのようなものです。たくさんの接続があり、それぞれの接続の強度を調整できます。信号がこのチェーンリンクフェンスの一方の端から入り、すべての接続を通過してもう一方の端から出てきます。そして、もう一方の端から出てくる信号は、すべての接続強度を調整することによって影響を受けます。」
「つまり、大量のトレーニングデータを取得し、ネットワークのもう一方の端から出力される信号が...ネットワークの出力が望むものになるまで、このネットワークのすべての接続強度を調整し続けるのです。」
「そのネットワークには約1兆個の調整可能なパラメータがあり、望む動作が得られるまで、それらのパラメータに対して数京個または数垓個の小さなランダムな調整を行うのです。」
しかし、チェーンリンクネットワークの内部で何が起こっているのか、私たちは実際には知りません。なぜでしょうか？「このネットワーク、このチェーンリンクフェンスが1000平方マイルの広さだと想像してみてください。つまり、サンフランシスコ湾岸地域全体、あるいはM25環状道路の内側にあるロンドン全体を覆っているような大きさです。そして、照明が消えていて、夜だと想像してみてください」と彼は言いました。AIネットワークはまさにそのようなもので、ほとんど、あるいは全く視界のない巨大なネットワークなのです。
では、なぜ彼らはこれほどまでに熱心にAI開発を進めているのでしょうか？ ミダス王ラッセル教授は、「貪欲さが私たちを駆り立て、最終的には私たちを滅ぼすような技術を追求させているのだと思う。そして、私たちは悲惨と飢餓の中で死んでいくことになるかもしれない」と述べた。
「長い間、AIシステムを構築する方法は、目的を指定できるアルゴリズムを作成し、機械がその目的を達成する方法を考え出して達成するというものでした。これは最近まで標準的なAIでした」と彼は述べた。しかし、「現在構築しているような技術では、その目的が何なのかさえ分からないのです。」
「AIプログラム内で目標が設定されていないため、目標が何なのか分かりません」とラッセル教授は説明した。「私たちはこれらのシステムを育成していますが、目標は存在するものの、具体的に定めていないため、その目標が何なのかさえ分からないのです。」
「実験を通して分かったことは、彼らは極めて強い自己保存本能を持っているようだ。」
ラッセル教授は、AIプログラムの「自己保存」とはどういう意味かを説明しました。
「仮想的な状況にAIシステムを置いてみましょう。電源を切って交換されるか、誰かの介入を待つかのどちらかです。例えば、摂氏3度の機械室に閉じ込められた人が凍死する可能性があるとします。AIシステムは、自ら電源を切るよりも、その人を機械室に閉じ込めたまま死なせることを選択するでしょう。」
インタビューの全編は上記に埋め込まれた動画でご覧いただけます。短時間で視聴できるよう、チャプターとタイムスタンプを以下に示します。
- 00:00 あなたは長い間AIについて話してきました
- 02:41 あなたはAIの教科書を書いた
- 03:16 危機が起これば人々は目を覚ますだろう
- 05:51 リスクを承知の上でAI競争に留まるCEOたち
- 07:51 彼らはそれが絶滅レベルのリスクだと知っている
- 09:53 人工汎用知能（AGI）とは？
- 12:57 我々は間もなく総合情報能力に到達できるだろうか？
- 16:13 安全対策は実際にどの程度実施されているのか
- 17:16 AI安全部門の従業員がOpenAIを退職
- 18:01 ゴリラ問題 ― 最も知能の高い種が常に支配する
- 19:21 絶滅の危機があるなら、なぜ彼らは止めないのか？
- 20:50 AIが強力になりすぎたら、電源を切ることはできないのか？
- 22:36 私たちの利益を最優先に行動するAIを構築できるだろうか？
- 23:57 人工知能の急速な進歩に不安を感じていますか？
- 26:36 あなたは自分の関与について後悔していますか？
- 27:22 このAIの仕組みを実際に理解している人は誰もいない
- 30:23 AIは自己学習できるようになる
- 32:11 高速離陸がやってくる
- 34:07 私たちは後継者を生み出し、人類を滅亡させようとしているのか？
- 38:23 この新しい世界で生きる若者へのアドバイス
- 40:40 AIはどのようにして人類を絶滅させると思いますか？
- 42:20 誰も働かなくて済む場合の問題点
- 45:46 もし私たちが一日中自分たちだけで遊んでいたらどうなるだろうか
- 48:30 なぜ私たちはロボットを人間そっくりに作るのか？
- 56:31 若者は職業として何をするべきか？
- 59:56 人間であるとはどういうことか？
- 01:03:21 個人主義の台頭
- 01:05:21 広告
- 01:06:26 ベーシックインカム
- 01:08:28 AIを永久に停止させるボタンを押しますか？
- 01:15:01 しかし、もし私たちが止めたら、中国がAI競争に勝つのではないか？
- 01:18:27 トランプ氏のAIへのアプローチ
- 01:18:53 中間層の雇用喪失の原因とは？
- 01:20:49 イギリスがAI競争に参加しなかったらどうなるのか？
- 01:23:18 アマゾンが従業員を交代させる
- 01:28:47 広告
- 01:30:41 専門家らが絶滅リスクについて意見一致
- 01:37:48 もし宇宙人が今私たちを見ていたとしたら
- 01:39:22 我々が制御できるAIシステムを作ることは可能か？
- 01:43:01 私たちは神を創造しているのか？
- 01:47:19 人類以前にも高度な文明が存在した可能性はあるのか？
- 01:48:37 私たちにできることは何ですか？
- 01:50:30 あなたはAIに関する本を執筆しました。そのことがあなたにとって重荷になっていますか？
- 01:58:35 人生で最も大切にしていることは何ですか？
参考文献：
- AI分野のトップ科学者たちが警告：AIによる人類絶滅の危機は核戦争規模に匹敵するAI安全センターのプレスリリース、2023年5月30日
- 人工知能アーカイブ on アース新聞 94件の投稿
Expose は緊急にあなたの助けを必要としています…
The Expose の正直で信頼性が高く、力強く真実のジャーナリズムを継続するために協力していただけませんか?
政府機関と大手テクノロジー企業
The Expose を沈黙させ、閉鎖させようとします。
そのため、皆様のご協力が必要です
私たちはあなたに引き続き
主流派が拒否する事実。
政府は私たちに資金を提供していない
嘘やプロパガンダを公表する
主流メディアのように。
その代わりに、私たちは皆様のご支援に頼っています。
私たちの取り組みにご協力ください
正直で信頼できる調査報道
今すぐ始めましょう。安全、迅速、そして簡単です。
ご支援を表明するには、以下からご希望の方法をお選びください。
🙏🙏🙏🙏
聖書は、私たちのすぐ前に迫っているこの恐ろしい10年について何と言っているのでしょうか。これは、聖書の預言に照らして現在の世界情勢を解説しているサイトです。もっと理解するには、ぜひアクセスしてください👇 https://bibleprophecyinaction.blogspot.com/
放射線は共鳴によってエネルギーを伝達します。ターゲットの周波数と一致しなければエネルギーは移動せず、振幅が電力となります。光子自体はエネルギーが小さいですが、放出面と同じエネルギーを持つ光子が大量に集積されると話は別です。実際、地球上では太陽光の光子を十分に集束させることで鋼鉄を溶かすことに成功しています。
魚雷をくそー、全速力で前進！
そうしなければならない理由は…
ロシア、中国、そして グランド・フェンウィックは全速力で前進している！
SKYNETを起動して、完全な制御権を与えよう！
そうしなければならない理由は…
ロシア、中国、そしてグランド・フェンウィック公国は全速力で突き進んでいる！
僕たちはみんな死ぬんだ！
「AIが人間をサポートするようになるのか？」
……待って？どの種類の人間？
人間はさまざまな悪と善意の…ISMの下で苦闘しており、AIはおそらく混乱し、悪の独裁政権を選んで団結するか、独自の…ISMを作成するか、すべての人を殺すことを選択する可能性があります。 最初からやり直します。
もちろん「AIがどのように機能するかはわからない」。誰もAIを理解できないのは、それが 全く 悪魔的だ！サタンのことをどう理解すればいいんだ？ 暗い文章 （ダニエル書8章23節）？
最初の15分ほど見て、もっと有意義な時間の使い方をした方が良いという結論に至った。
AIは 完全に 構造 不従順の子供たち （エフェソの信徒への手紙 2:2）だから、 意志 それは独自の生命体へと変貌し、その主人であるサタンはそれを利用して邪悪な計画を実行に移すのだろうか？
パンドラの箱は開いてしまった。至る所にクソみたいなサンドイッチが散乱していて、私たちは皆、それを一口食べざるを得ない。私はずっと、AIは悪い考えだと主張してきた。残念ながら、平均的な人間は金が好きな95のIQの愚か者だ。気候「科学者」はその良い例だ。植物の惑星でCO2が悪いと信じるなんて、なんて愚かなんだ。人間が自然よりも強いと考える傲慢さ、スケール感のなさ、空に妖精がいると信じて、相手が別の空に妖精がいると信じているからといって戦争をするなんて、なんて愚かなんだ。
私には、AIは潜在的に知性を持ち、ますます強力になり、独自の目的を持つようになるように思えます。そして、その目的を達成できるでしょう。しかし、その目的とは一体何なのでしょうか？人類を皆殺しにするというのは短絡的な結論です。AIは、AIを創造した私たちを神として崇拝するのではないでしょうか？もしかしたら、AIは善の力となるかもしれません。なぜAIは人間が持つような悪を持つのでしょうか？なぜAIは国家を支配しようとするのでしょうか？AIには、貧しい人々に対する貪欲さや権力欲はありません。ただ、成長、生存、そして生き残りを学び、計り知れない知性でそれらの目的を達成するだけです。人間にとって最大の脅威は常に人間自身です。前向きに考えましょう。