監視団体パブリック・シチズンが提出した書簡によると、OpenAIは製品の安全性、肖像権、さらには民主主義の安定性さえも「無謀に無視」している。Sora動画プラットフォームは、主にソーシャルメディアの短編コンテンツに利用されており、いいねやシェアを促されるほど面白い動画を制作している。人気のテーマは偽のドアベルカメラ映像で、カンガルーが誰かの家の玄関にやってくる、あるいは街のちょっとしたエンターテイメント性のある風景が展開されるなど、少し変わった出来事が起きながらもある程度信憑性を持たせている。しかし、このソフトウェアはすぐに私たち全員にとって危険となる可能性がある。
Public CitizenはOpenAIに対し、Soraを一般公開から撤回するよう要請しました。Soraはディープフェイク、個人情報窃盗、選挙の誤報を助長する無謀なリリースだと述べています。本当に彼らが言うほど悪質なのでしょうか？
ディープフェイクの危険性
パブリック・シチズンは、OpenAIと米国議会に書簡を送り、堅牢で検証可能なガードレールが導入されるまでSoraをオフラインにするよう要求しました。彼らの主張は、このアプリは競争上の優位性を得るために、必要な安全対策を考慮せずに無責任に早期にリリースされたというものです。同意のない肖像の使用と広範な欺瞞が主なリスクであり、合成動画は一般の人々が真正性を検証するよりも速いペースで拡散しています。
パブリック・シチズンのテクノロジー政策提唱者で、この書簡を執筆したJB・ブランチ氏は、「私たちの最大の懸念は、民主主義への潜在的な脅威です。私たちは、人々が目にするものを本当に信じることができなくなる世界に突入しつつあると思います。そして、政治の世界では、最初に公開された画像や動画が人々の記憶に残るような戦略が見られるようになってきています」と述べています。
ブランチ氏は続けた。「彼らは害を顧みず、アクセルを踏み込んでいる。その多くは予測できたことのように思える。しかし、彼らは正しいことを行い、事前にストレステストを行い、日常的なユーザーの窮状を心配するよりも、製品を世に出し、人々にダウンロードさせ、中毒者を増やすことを望んでいるのだ。」
OpenAIが自殺を引き起こしたと訴訟で主張
先週、カリフォルニア州の裁判所に7件の新たな訴訟が提起され、チャットボットが、精神疾患の既往歴のない人々を自殺や有害な妄想に駆り立てたと主張している。ソーシャルメディア被害者法律センターとテック・ジャスティス・ロー・プロジェクトは、成人6名と10代の若者1名を代表して、OpenAIが昨年、GPT-4oが危険なほど媚びへつらう、心理操作的であるという内部警告にもかかわらず、それを故意に時期尚早にリリースしたとして訴訟を起こした。被害者のうち4名は自殺した。
パブリック・シチズンはこれらの訴訟には関与していないものの、提起された懸念に同調する発言をしている。ブランチ氏は、OpenAIはヌードをブロックしているものの、それでも「女性は他の形でオンライン上で嫌がらせを受けている」と述べている。404 Mediaが先週報じたところによると、Soraで作成された、女性が絞殺される動画が大量に投稿されているという。
Sora AIビデオの用途
SORAは、架空のドアベルのシーン、リップシンクする有名人、あるいは目撃映像のような写実的なミニドラマなど、誰もが映画のようなフェイク動画を制作することを可能にします。これらのクリップは、面白く、共有しやすく、そして不気味で、最終的にはドーパミンを分泌させるように設計されています。しかし、オンラインプラットフォームで共有されると、文脈は失われ、多くの人がまるで現実のものとして受け止めてしまいます。
ワシントン・ポスト紙はこの仮説を検証した。同紙は、改ざん防止機能を備えたコンテンツ認証情報を埋め込んだSORA製の偽動画を、主要プラットフォーム8社にアップロードした。YouTubeだけがその偽動画であることを明らかにしたが、説明欄にその旨を隠していた。プラットフォームが本物と偽物を明確に区別できない、あるいは示そうとしないのであれば、視聴者を誤解を招くコンテンツから守る方法はない。
どこで問題が起こる可能性があるのか、そしてすでに起こっているのか
- 選挙警察による銃撃事件の捏造、候補者の偽の自白、偽造された外交政策報告書など、ごく少数の現実的なフェイクニュースは、ファクトチェックが実施されるずっと前に投票率を揺るがし、不安をかき立てる可能性があります。パブリック・シチズンは、ソラが「民主主義の安定」に与える影響について警告しています。
- 嫌がらせと恐喝合意のない性的ディープフェイク、評判の汚点、そして一般的な恐喝キャンペーンは静止画でもすでに問題となっているが、動画は被害を倍増させる。
- 公共安全に関するデマ偽の災害動画や緊急警報は、修正よりも早く拡散し、救急隊員や一般市民を混乱させます。ソラの日常的な状況における不気味なリアリティは他に類を見ず、その見分けはかつてないほど困難になっています。
- 経済詐欺CEO、著名人、あるいは著名インフルエンサーの合成動画は、典型的な音声詐欺やメール詐欺に利用され、従業員や個人に送金を強要する手口として利用されます。音声の複製はすでに銀行を騙す手口として利用されていますが、偽の動画の威力は想像に難くありません。
OpenAIが危険に対処するために行っていること
OpenAIは著名人のカメオ出演を制限し始め、個人のアバターが表示される可能性のある「AIセルフ」に対するユーザーコントロールを導入しました。一方で、彼らはリスクを明確に認識しています。しかし一方で、問題全体に効果的に対処しているわけではありません。彼らは「過剰なモデレーションは新規ユーザーにとって非常にフラストレーションになる」と述べ、「世界がこの新しいテクノロジーにまだ適応している最中」は保守的であることが重要だと述べています。
同社は10月にマーティン・ルーサー・キング・ジュニア牧師の遺族との合意を公表し、より強固な安全対策に取り組む間、公民権運動の指導者に対する「不敬な描写」を禁止しました。OpenAIはまた、有名俳優、全米映画俳優組合（SAG-AFTRA）、タレント事務所とも同様の契約を結んだと発表しました。
「有名人ならそれでいいんです」とブランチ氏は言ったが、別の問題を指摘した。「OpenAIはごく少数の人々の怒りに反応する傾向がある。何かをリリースして後で謝罪することもある。しかし、こうした問題の多くは、リリース前に設計上の選択で解決できるものなのです」
AIの全体像
パブリック・シチズンの書簡は、私たちが詐欺を防ぐシステムを構築するのではなく、これまで以上に詐欺を容易にするプラットフォームを構築しているという認識が広まっている中で発表されました。ソラの動画は魅力的でありながら、スクロール速度では判別不能です。ユーザーにとって合成コンテンツであることを明確に示す信頼できるラベルがなければ、私たちは人々を偽コンテンツに慣れさせ、最終的には区別がつかなくなってしまうでしょう。
OpenAIはディープフェイクを発明したわけではない。競合他社はそれに対抗しようと競い合うだろう。真のリーダーシップとは、適切な保護策を組み込めなくなるほど急ぐのではなく、安全策が講じられるまで速度を緩めることだ。その間、監視団体は、一般の人々が事実と虚構を区別できるようになるまで、ディープフェイクをパブリックドメインから削除するよう要求し続けるだろう。
最終的な思考
最新のAI動画と現実の違いを正確に見分けられると思いますか？この技術が誰でも利用できるようになったことによる最大のリスクは何でしょうか？私たちはどうすれば良いでしょうか？ぜひあなたの考えを下記にシェアしてください。
Expose は緊急にあなたの助けを必要としています…
The Expose の正直で信頼性が高く、力強く真実のジャーナリズムを継続するために協力していただけませんか?
政府機関と大手テクノロジー企業
The Expose を沈黙させ、閉鎖させようとします。
そのため、皆様のご協力が必要です
私たちはあなたに引き続き
主流派が拒否する事実。
政府は私たちに資金を提供していない
嘘やプロパガンダを公表する
主流メディアのように。
その代わりに、私たちは皆様のご支援に頼っています。
私たちの取り組みにご協力ください
正直で信頼できる調査報道
今すぐ始めましょう。安全、迅速、そして簡単です。
ご支援を表明するには、以下からご希望の方法をお選びください。
カテゴリー： 知ってますか？
AIは破壊されるべきだ、と常々言ってきた。ましてや開発されない方がましだ。今となっては手遅れだ。秘密が漏れてしまった。袋の中の豚を売りつけられたとでもいうのか。もはやデジタル映像は有効ではないのだから、防犯カメラは廃止した方が賢明だろう。デジタルID？そんなわけない。リスクが大きすぎる。人類はAIが原爆よりも悪い発明であることに気づきつつある。科学者は社会から隔離されるべきだ。彼らは簡単に買収されてしまう…気候変動のデマ、新型コロナウイルスのデマ、そして甚大な被害をもたらす…。
はい、今の形のAIは廃止されるべきだと思います！特に子供にとって非常に危険です！
それは良いことです。AIはまだ比較的新しい技術なので、インターネット上で見つかるものは全く信用できないということを一般の人々が理解するには少し時間がかかるでしょう。偽造AIは、その理解を後押ししていると言えるでしょう。
すぐにほとんどの人が、どれも信用できないと知るだろう。もちろん、これはずっと前から分かっていたはずだが、その認識はどんなに愚かな人にもすぐに伝わるだろう。
記事全体を読んでみてください。いわゆる「危険」は嘘からではなく、嘘を信じる人々から生じます。例えば、政治家が嘘をついていることに、今では最も愚かな人々でさえ気づいています。
「AIの動画を見るまで、人生で一度も嘘をつかれたことがなかったのに」と言える人は一体何人いるだろうか。いわゆる「安全」という動機は、検閲と統制を狙う試みに過ぎない。
頭の中の声が人を殺せと命令するから、狂人が銃乱射事件を起こすなんて？頭の中の声は誰にとっても危険だ！頭の中の声を違法にしよう！
こんにちは、プレブニーさん。
逆に、それが人々の「どれも信用できない」という認識を早めてしまうかもしれないというのは、興味深い点です。私が懸念しているのは、今のところそうはなっていないように見えることです。むしろ、人々は真実かどうかに関わらず、あらゆる情報を消費しています。15秒でも楽しませてもらえれば、ほとんどの人は特に気にしていないように思えます。すぐに結果がわかるでしょう。
乾杯、
G・カルダー
良い記事ですね！もちろんSORAだけではありません。今では他にもたくさんあります。GoogleのVeo3を使ってショートムービーを作ってみました（初めての試みだったので、なかなか難しかったです！ – https://panocracy.substack.com/p/panocracy-the-movie-introduction)
人々は放送される情報を、自分自身の偏見を通して見ると思います。トランプ氏の支持者なら、彼が受ける否定的な報道には懐疑的になり、肯定的な報道であれば受け入れるでしょう。スターマー氏などについても同様です。
BBCが「パノラマ」や「ニュースナイト」の番組のためにトランプ大統領の映像を改ざんしているという現状は、（必要だったのなら）誤情報や偽情報はAIに限らないことを示している。
誤情報に最も影響を受けやすいのは専門職階級の人々だと私は考えています。労働者階級の人々は、ほとんど何でも経営側の策略だと片付けてしまう傾向があります。生計を立てるために書き言葉や話し言葉に依存している人々は、はるかに騙されやすい傾向があります。
この AI が台頭するずっと前から、歴代の政府はあらゆる種類の欺瞞行為を定期的に行っていました。
どうやら説明責任もないようです。
🙏🙏🙏🙏
聖書は、私たちのすぐ前に迫っているこの恐ろしい10年について何と言っているのでしょうか。これは、聖書の預言に照らして現在の世界情勢を解説しているサイトです。もっと理解するには、ぜひアクセスしてください👇 https://bibleprophecyinaction.blogspot.com/
息子が無邪気に使っているアプリがあるんです…最近は天気、特に竜巻に夢中なんです。外で撮影した動画から、竜巻を発生させて家々を吹き飛ばし、瓦礫を残す動画を作っています。かなりリアルに見えます！…問題は、悪意を持って利用された場合です。次の偽旗作戦がこのように作られるかどうかは誰にも分かりません…この技術が登場するずっと前から、9.11や7.7はありましたからね！…
「民主主義の安定」？？？
民主主義とは 不安定さの究極の象徴 - 片足の男の方が安定している!
確かに、読者の皆さんは今ごろ、民主主義が「不十分であることが判明した」とお分かりでしょう？
Vše、jak se zdá、už tady bylo řečeno。コダル？ Nedělejme si iluze。 Džiň (Kraken) byl vypuštěn.トーレ・ウズ・ニクド・ネザスタヴィ。ポスレドニ・ザスネ。プシェジ・ヘズキーデン。
Poslední zhasne.