世界 最初の AI法と急速に進化するAI技術に関する規制が、昨日13月XNUMX日に欧州議会議員によって採択されました。この規制は、 12月の交渉を経て加盟国によって合意された。 2023年、最終的に欧州議会議員によって賛成523票、反対46票、棄権49票で承認された（ソースEUの政策立案者は、 行為しかし、批評家たちはこの法律が企業の利益を犠牲にするものだとして警告しており、あるEU政策アナリストはデジタル政策が「抑圧的な監視のテストベッド すべての人の基本的権利に対する露骨な攻撃である」 いずれにせよ、ほとんどの人が予想していた通りです。

「リスクに基づくアプローチ」

規制は 予想される  最終的な手続きを経て5月か6月に発効し、今後数年間でさまざまな規定が発効する予定で、「AI製品とサービスに「リスクベースのアプローチ」を適用する」AP通信社 報告 水曜日に彼らは次のように記した。「コンテンツ推奨システムやスパムフィルターなど、AIシステムの大部分は低リスクであると予想される。企業は自主的な要件や行動規範に従うことを選択する。医療機器や水道・電力網といった重要インフラといった、AIの高リスクな用途では、高品質なデータの使用やユーザーへの明確な情報提供など、より厳しい要件が課される。」

AIの使用の中には、人々の行動を管理するソーシャルスコアリングシステムや、一部の種類のAIのように、許容できないリスクをもたらすとみなされて禁止されているものもあります。 予測的ポリシング学校や職場における感情認識システムなど。その他の禁止用途には以下が含まれる。 警察が公共の場で顔をスキャン 誘拐やテロなどの重大犯罪を除き、AIを活用した遠隔「生体認証」システムを使用する。

この法律が「前向きな常識的なガイドラインと保護」を提供していると称賛する声もあったが、 人工知能法、他の多くの批評も集めています。

人権の観点からの失敗

「EUにとっても世界にとっても、これは歴史的な瞬間であることは否定できません。EUは人工知能を規制する法律に合意しました。これは世界初の試みです。これは待ち望まれ、激しい議論を経て、長い時間をかけて成立した法案です」と、民主主義と技術センター（CDT）欧州の公平性とデータプログラムの顧問兼ディレクターであるローラ・ラザロ・カブレラ氏は水曜日に述べた。

「しかし、CDTヨーロッパにとって、人権保護という点では、それは良い面と悪い面が混在している。結局のところ、CDTヨーロッパの主要目標の一つである」と彼女は言う。 主張した そして、この法律は「立法者が私たちの基本的人権に広範囲にわたる影響を及ぼす技術の急速な発展に取り組む中で、時間との競争となっている中で、世界的なAI規制のベンチマークとなるだろう」と述べている。

この法律は、法執行機関によるAIの使用に重要な制限を導入しているが、立法者は法執行機関による非標的型顔認識の使用を全面的に禁止することができず、CDTやその他の人権擁護団体は、そのような使用は、特に社会的に疎外され、危険にさらされているコミュニティにとって、容認できないほど高い人権リスクをもたらすだろうと警告した、とラザロ・カブレラ氏は述べている。

抗議の権利への脅威

彼女はさらに、「AIに関する深刻な人権リスクはAI法に依然として存在しています。例えば、顔認識に関する同法の例外規定は、規則を「飲み込み」、EUの路上で法執行機関による広範な顔スキャンを許容する恐れがあり、例えば抗議活動の権利に対する深刻な脅威となります…」と付け加えた。

「この法律は、国家安全保障上の例外規定を創設しており、これは濫用されやすい可能性があります。感情認識技術の使用を禁止しているものの、その適用範囲は教育と職場に限られており、なぜこの法律がこれらの技術の使用禁止を出発点として採用しなかったのかという疑問が残ります。　 

業界と警察の勝利

ブリュッセル事務所の政策上級アナリスト、ダニエル・ルーファー氏は、 今すぐアクセス, 呼ばれます ブロックの画期的なAI 法律 「人権の観点からは失敗だが、業界と警察にとっては勝利だ」と彼は述べ、この法律は企業の利益を犠牲にし、重要な分野で不十分だと警告した。

「新しいAI法には、業界のロビー活動への譲歩、法執行機関や移民当局によるAIの最も危険な使用に対する免除、そして抜け穴だらけの禁止事項が満載で、実際にはAIの最も危険な使用の一部を禁止していない」とルーファー氏は述べている。

#AIAct EUがロビー活動を乗り越えて「世界初の包括的な」AI規制を可決したという大きな発表があったにもかかわらず、AI法は人権の観点からは失敗であり、業界と警察にとっては勝利である。

タリアセン・ウェストにおける修復作業について @accessnowここでの見解は： https://t.co/KgWog9nHsn https://t.co/J27GWvWZMP

— ダニエル・ルーファー (@djleufer) 2024 年 3 月 13 日

Access Now は、AI 法の最終版について特に次のように指摘しています。

• AIの最も危険な使用法の一部を適切に禁止していないこれには、 生体認証による大規模監視を可能にする および予測型警察システム。
• 第6条(3)によって明白な抜け穴が生まれる 開発者が高リスクのAIシステムに関する義務を免除されるようにする。
• 法執行機関と移民当局を重要な公的透明性要件から免除する 高リスクの AI を使用する場合、つまり危険なシステムを秘密裏に導入し続けることができる場合。
• 国家安全保障免除をさらに拡大 EU条約で認められている範囲を超えて、政府がAI法に基づく義務を免除されることにより、 国家安全保障に関連するとみなされる事件を追及する;
• 移住者、避難者、不法滞在者のための別個の制度を創設するd、EU 市民に比べて権利がはるかに少なく、権利が侵害されたときに救済を受ける手段もほとんどありません。

アムネスティ・インターナショナルは、EUは「産業界と法執行機関の利益を優先している」と述べている。

アムネスティ・インターナショナルの人工知能に関するアドボカシー・アドバイザー、メヘル・ハコビアン と 「AI技術の開発と展開に関する世界初のルールを採用することは画期的な出来事であるにもかかわらず、EUとその27の加盟国が、 産業を変えます   法執行機関 人々とその人権を守ることよりも、政府機関の責任を重く見ている」 

この法律がどのような影響を与えるかについても懸念を表明している。 移民、難民、亡命希望者ハコビアン氏は、「 無謀な使用   過酷なAI技術の輸出に設立された地域オフィスに加えて、さらにローカルカスタマーサポートを提供できるようになります。」

「障害者にとって重大なリスクをもたらす…」

「人工知能は、適切に規制されなければ、障がい者やその他の社会的弱者にとって重大なリスクをもたらす可能性があります。AI法は人権問題に取り組んでいますが、私たちが期待したほど包括的ではありません。私たちは、欧州連合に対し、今後の取り組みによってこのギャップを埋めるよう求めます。」

欧州障害者フォーラム会長ヤニス・ヴァルダカスタニス氏は、 と 「AI法は人権問題に取り組んでいるが、私たちが期待したほど包括的ではない。私たちは欧州連合に対し、将来の取り組みでこのギャップを埋めるよう求める」という声明を発表した。

監視ではなく保護

アクセス・ナウとアムネスティは、 保護する監視しない 連合は、 リリース AI法は、特に法執行機関、移民当局、国家安全保障に対する免除規定によって「危険な前例となる」と警告する共同声明。

連合の他のメンバーには、ユーロメッド・ライツ、ヨーロッパ・デジタル・ライツ、ステートウォッチなどがあり、ステートウォッチのエグゼクティブ・ディレクターであるクリス・ジョーンズは、 と 「基本的人権の観点から重大な欠陥があり、権利に基づくAI規制の黄金律として扱われるべきではない」という声明を発表した。

立法は人々とその権利を優先すべきである

活動家たちは、世界中の政策立案者が今回の立法過程から教訓を得ることを期待しており、活動家たちにとって、立法は国民を尊重し、人権を優先するものであるべきだと主張している。

アムネスティのハコビアン氏は、「EU域外の国々は、EUがAI技術を適切に規制できなかった事例から学ぶべきであり、規制の策定にあたり、テクノロジー業界や法執行機関からの圧力に屈してはならない。各国は、人々とその権利を優先する、強力で拘束力のあるAI関連法を整備すべきだ」と強調した。

ラサロ・カブレラ 強調 「AI法の施行には多くの課題が伴うため、騒ぎが収まった後も、私たちは皆、複雑で長大、そして前例のないこの法律を解き明かすという困難な課題に直面しています。この法律の解釈と適用が効果的であり、かつ、人権、民主主義、そして法の支配の保護という法律自体の明確な目標と整合したものとなるよう、専門家や市民社会との緊密な連携が不可欠です。」

欧州非営利法センターのカロリナ・イワンスカ氏 回答 同様に、「はっきりさせておきたいのは、この案は基本的人権の観点から重大な欠陥を抱えており、権利に基づくAI規制の黄金律として扱うべきではないということです。とはいえ、私たちは可能な限り強力な実施に向けて取り組んでいきます。」

欧州議会は、 #AIAct 本日は、明確に申し上げますが、この法案は基本的人権の観点から重大な欠陥を抱えており、権利に基づくAI規制の黄金律として扱うべきではありません。とはいえ、私たちは可能な限り強力な実施に向けて取り組んでまいります。 https://t.co/EzfBkF4dEM

— カロリナ・イヴァンスカは@ka******@******cy.social (@ka_iwanska) 2024 年 3 月 13 日

アクセス・ナウは、「AI法には重大な欠陥があるにもかかわらず、アクセス・ナウは民間社会のパートナーと協力し、AI法とそれに含まれるいくつかの権利保護ツールの可能な限り強力な実施を推進するとともに、AIによって促進される虐待の監視と告発を継続していきます」と述べています。