ユヴァル・ノア・ハラリは、人工知能（AI）を規制する方法を見つけなければ、 人間の脳はすぐにハッキングされるだろう」という発言は、人類がAIに対して抱く最悪の恐怖を如実に物語っていると言えるだろう。シュワブ氏の顧問であるハラリ氏が「人間をハッキングするということは、その人自身よりも深く知ることであり、それによってテクノロジーを所有する者が私たちをますます操れるようになる可能性がある」と述べていることを考えると、なおさらそう思える。

私たちは、プライバシーに対するこの極端な脅威が将来起こると信じているかもしれないが、ハラリが述べているハッキングは文字通りではなく、ことわざ的なものであり、すでに次のような環境で発生している。 フェイスブックとユーチューブ アルゴリズムが私たちにとって興味深いと判断したコンテンツを閲覧するように誘導されるのです。今では多くの人が徐々に「ハッキング」や操作に鈍感になり、それほど抵抗することなくコンテンツが増えているようです。

しかし、もし職場があなたの気分を追跡していたらどう感じるでしょうか？ ナザニンアンダリビ ミシガン大学の情報学助教授。以下の記事では、すでに職場で活用されている感情 AI について解説しています。

感情追跡 - 職場での AI: 労働者は監視され、誤解されることを恐れている。

By ナザニンアンダリビ

感情人工知能 使用されます 生物学的シグナル 声のトーン、表情、ウェアラブルデバイスからのデータ、テキスト、コンピュータの使い方などから、人の感情を検知・予測することを約束します。エンターテインメントのような日常的な場面から、職場、採用、医療といった重要な場面まで、あらゆる場面で活用されています。

幅広い業界 すでに感情AIを使用しているコールセンター、金融、銀行、看護、介護など。 米国の大企業の50%以上が感情AIを活用 従業員の内面状態を推測することを目的として、 新型コロナウイルス感染症のパンデミック中に成長したたとえば、コールセンターでは、オペレーターの発言内容や口調を監視します。

学者たちは懸念を表明している 感情AIの科学的妥当性 とその 感情に関する論争のある理論への依存彼らはまた、感情AIの潜在能力を強調した。 プライバシーの侵害 そして展示 人種的, 性別 の三脚と 身体に障がいを抱える社員 バイアス。

一部の雇用主は技術を利用している まるで完璧であるかのように一方、一部の学者は バイアスを減らし、妥当性を向上させる, それを全く信用しない または提案する 感情AIの禁止少なくとも、その意味についてより詳しいことが分かるまでは。

私は勉強する テクノロジーの社会的影響感情AIが、労働者など、特に人種、性別、障害によって疎外されている人々など、その影響を受ける人々にどのような影響を与えるかを検討することが重要だと私は考えています。AIは本当に感情を読み取ることができるのでしょうか？必ずしもそうではありません。

労働者の懸念

職場における感情AIの活用がどこへ向かうのかを理解するために、私の同僚は カレン・ボイド そして私は調査を始めた 発明者の構想 職場における感情AIの活用。職場向けの感情AI技術を提案する特許出願を分析した。特許出願人が主張する利点には、従業員の幸福度評価と支援、職場の安全確保、生産性向上、昇進、解雇、業務割り当てといった意思決定の支援などが含まれていた。

労働者はこれらのテクノロジーについてどう考えているのか、私たちは疑問に思いました。彼らもこれらのメリットを認識しているでしょうか？例えば、雇用主が労働者に健康支援を提供することは、労働者にとって有益だと感じるでしょうか？

私の協力者たち シャンリー・コルバイト, キャット・ローミッチ, ティリー・イラナ・ローゼンバーグ 私は、米国の人口を部分的に代表する調査と、有色人種、トランスジェンダーおよびノンバイナリーの人々、そして精神疾患を抱える人々を対象とした過剰サンプル調査を実施しました。これらのグループは、感情AIによる被害を受ける可能性が高いと考えられます。本研究では、代表サンプルから289名、過剰サンプルから106名が参加しました。その結果、 回答者の32%は、何の利益も感じていない、あるいは期待していないと回答した。 職場における感情 AI の使用（現在または将来予定されているもの）から得られる情報。

一部の従業員は、職場における感情AIの活用によって、特許出願で主張されている利点を反映し、健康支援や職場の安全性の向上といった潜在的なメリットを指摘しましたが、全員が懸念も表明しました。彼らは、健康やプライバシーへの悪影響、仕事のパフォーマンスや雇用状況への悪影響、そして偏見やメンタルヘルスへのスティグマを懸念していました。

たとえば、参加者の 51% がプライバシーについて懸念を示し、36% が雇用主が額面どおりに受け入れる誤った推論の可能性を指摘し、33% が感情 AI によって生成された推論が不当な雇用決定に利用される可能性があると懸念を示しました。

参加者の声

複数の健康状態を抱えるある参加者は、「分析されているという意識は、皮肉なことに私のメンタルヘルスに悪影響を及ぼすでしょう」と述べました。これは、感情AIが職場における労働者の幸福度を推測し向上させることを目標としているにもかかわらず、その使用は逆の効果、つまりプライバシーの喪失による幸福度の悪化につながる可能性があることを意味します。実際、私の同僚であるローミッチ氏らによる他の研究でも、 フロリアン・シャウブ そして私は、感情AIによるプライバシーの喪失は、 プライバシーの侵害含みます 心理的、自律的、経済的、人間関係、身体的、差別.

感情的な監視が仕事に支障をきたすのではないかという懸念について、精神疾患と診断されたある参加者はこう述べた。「もうこの仕事には向いていないと判断され、解雇されるかもしれません。能力が足りないと判断されて昇給しない、あるいは十分に働いていないと判断されるかもしれません。」

調査参加者は、感情AIが職場に導入された場合、権力バランスが悪化する可能性についても言及し、雇用主との関係に懸念を示しました。感情AIの活用は、雇用主と従業員の関係における既存の緊張をさらに悪化させる可能性があると指摘しました。例えば、ある回答者は次のように述べています。「雇用主が従業員に対して既に持っているコントロールの強さを考えると、この情報がどのように使用されるかについてのチェックはほとんど行われないでしょう。従業員による『同意』は、この状況ではほぼ幻想です。」感情AIは、企業が従業員を監視する方法の一つに過ぎません。

最後に、参加者は、感情AIの技術的な不正確さが従業員について誤った印象を与える可能性があることや、感情AIが従業員に対する偏見やスティグマを生み出し、それを永続させてしまうことなど、潜在的な害悪について指摘しました。これらの懸念を述べる中で、参加者は、特に有色人種、女性、トランスジェンダーの人々に対して、雇用主が不正確で偏見のある感情AIシステムに依存することへの懸念を強調しました。

例えば、ある参加者はこう述べました。「『暴力的に見える』表情を誰が決めているのでしょうか？ 顔つきだけで、どうやって人を脅威と判断できるのでしょうか？ システムは確かに顔を読み取ることができますが、心を読み取ることはできません。職場におけるマイノリティにとって、これが実際に破壊的な影響を与える以外に何があるのか​​、私には全く想像できません。」

参加者は、感情AIを導入している職場で働くことを拒否するか（これは多くの人にとって選択肢ではない）、プライバシーを守るために感情AIに好意的に読み取られるような行動を取るだろうと述べた。ある参加者は、「オフィスで一人でいる時でさえ、マスキングに多大なエネルギーを費やし、気が散って生産性が低下する」と述べ、感情AIの使用が労働者にさらなる感情労働を強いることを指摘した。

害を及ぼす価値はあるか?

これらの調査結果は、感情 AI がこれらの問題の解決に役立つと主張する支持者にもかかわらず、感情 AI が職場の労働者が経験する既存の課題を悪化させていることを示しています。

感情 AI が主張どおりに機能し、主張する測定対象を測定する場合、また、偏見の問題が将来解決されたとしても、追加の感情労働やプライバシーの喪失など、労働者が経験する害は依然として残ります。

これらの技術が主張する通りの測定を行わなかったり、偏っていたりする場合、人々は、実際にはそうではないにもかかわらず、有効かつ信頼できるとみなされているアルゴリズムに翻弄されることになります。労働者は、アルゴリズムによる誤読の可能性を減らすために努力したり、アルゴリズムに好意的に受け止められるような感情表現をしたりする必要があるでしょう。

いずれにせよ、これらのシステムは パノプティコンのような技術により、プライバシーが侵害され、監視されているという感覚が生じます。

出典： ナザニンアンダリビ の 会話