東京大学とソニーグループ株式会社が連携して進める、テクノロジーを取り巻くバイアス「Tech Bias（テックバイアス）」をテーマにした展覧会

執筆者：遠藤友香

東京大学とソニーグループ株式会社が連携して進める「越境的未来共創社会連携講座（通称：Creative Futurists Initiative、以下CFI）」は、講座内の実践研究プロジェクトの成果発表展として、2024年11月23日（土）～25日（月）の3日間、東京大学本郷キャンパスにおいて、テクノロジーを取り巻くバイアス「Tech Bias（テックバイアス）」をテーマにした「Tech Bias —テクノロジーはバイアスを解決できるのか？―」展を開催しました。

CFIは、アート・デザイン・工学を通じた創造的アプローチを用いて、未来に向けた問題提起と課題解決を行う「クリエイティブ・フューチャリスト（Creative Futurist）」を育成し、社会課題に向けた批評的かつ分析的な実践研究を推進することを目標に掲げています。

東京大学大学院情報学環 筧康明教授

CFIの目標を達成すべく、2024年2月より10か月間に渡って進められてきたのが、「テックバイアス」プロジェクトです。テックバイアスは、情報学環の教員とソニーの担当者とでプロジェクトの方針を定め、運営を行いました。東京大学からはマテリアル・エクスペリエンス・デザインが専門の筧康明特任教授、フェミニズムとカルチュラル・スタディーズが専門の田中東子特任教授が、ソニーからは戸村朝子氏、大西拓人氏、小薮亜希氏、細谷宏昌氏の4名が中心となり、参加する学生およびソニーの社員と共に企画は進められました。

テックバイアスプロジェクトは、テクノロジーの開発や実装化、使用に際してバイアスのある状態を零度に設定してしまうことで不可視化され、認識の外に放り投げられ、顧みられることのないまま、あたかも標準的なものであるかのような顔をして大手を振るっている「不完全な技術／テックバイアス」を、それぞれのグループが見つめ直し、洗い直し、作り直していく試みです。

現在、私たちは日常的に多くのテクノロジーに取り囲まれて生活しています。むしろ、取り囲まれていることに気づくことさえなく、それらに依存しながら暮らしています。そして、私たちは無意識のうちにテクノロジーは便利なもの、生活を助けてくれるもの、人間にとって善きものであると考えてしまっていると、CFIは述べています。

「しかし、私たちを取り囲む様々なテクノロジーは、本当に善きものなのでしょうか？ テクノロジーが開発される際に、私たちが中心に捉え、基準とし、標準化している人間像とは一体どのようなものなのでしょうか？ それは、ある種のジェンダー的特性、年齢や体のサイズ、人種、『できること』を前提とした、『標準化された身体』を伴った人間像なのであり、それ以外の様々な人たちを知らず知らず排除してしまう人間像なのではないでしょうか？」と疑問を呈しています。

プロジェクトを進めて行く際に運営側が望んでいたのは、専門性の違い、ジェンダー的な差違、社会人と学生の視点の違い、年齢の違い、言語的差違、できること・できないことの違い、得意・不得意の違いなど、様々な「差違」や「違い」の間に生じる葛藤や紛糾や理解の齟齬、そこから生じる格差や溝といったものへの感受性を研ぎ澄ましてもうらうことだといいます。その研ぎ澄まされた感覚に基づいて、テクノロジーを取り巻く見えないバイアスを発見し、それらを可視化することのできる作品を制作することで、新しい作品が出来上がったそうです。

今回、中でも3つのプロジェクトに注目してご紹介します。

1．《聴こえないのは誰なのか？》白木美幸、劉カイウェン、香川舞衣、Tang Muxuan、増田徹、百田竹虎、甲林勇輝

作品《聴こえないのは誰なのか？》は、私たちが「ふつう」にあるべきとされるコミュニケーションの絶対不可能性をテーマにしています。一見「円滑」に進むコミュニケーションは、実際には特権性を内包する規範の連関によって成り立っていると、作家の白木美幸氏、劉カイウェン氏、香川舞衣氏、Tang Muxuan氏、増田徹氏、百田竹虎氏、甲林勇輝氏は考えています。そこには、「言い聞かせる」特権者と、「聴こえない」「聴かれることができない」立場に置かれる弱者が存在していると指摘します。

例えば、なぜイヤホンで音楽を聴き、スマホで情報を取り入れる私たちは、自分が補助されている存在であることに気づかないのでしょうか？ それは、ある種の身体がすでに「ふつう」「規範的」と措定され、他の身体経験が「障害のある」と規定されているからではないでしょうか。「男性はこういった服を着るべき」「女性はそういった話し方で会話すべき」など、私たちは常に身体に装着する器官＝義肢の「正確な」使い方によって、ふつうの日常が担保されています。そして、その「正確さ」から逸脱する瞬間、私たちはこの「規範」が内包するいびつさや矛盾に気づくはずだと、作家たちは述べています。

テクノロジーは、障害を抱える人々に様々な利便性をもたらしています。しかし、それのみで障害が解消されると考えるのは、既存のバイアスを再生産し、新たな社会的障害を生み出す可能性を孕んでいると、作家たちは考えています。補聴器や音声認識アプリといったメディア＝義肢は、情報保障が必要な人々にとって確かに「補助」となり得ますが、「聴こえないなら使いなさい」と命令したり、「使っているから聴こえるはずだ」と決めつけたりするとき、それは「個人モデル」の認識枠組みを維持しながら、利用者に負担を強いるに他なりません。むしろ、こうした障害のある身体を「ふつう」のコミュニケーションの仕方に適応させる構図で、多数の補助デバイスの開発が進められている現状が危ういと、作家たちは危惧しています。

2．《scored?》高橋宙照、Yating Dai、山本恭輔、Hao Cao、松本翔太、菅野尚子

私たちが日頃目にする様々なWEBサイト。そのWEBサイトが、どのような人に向けられて作られているか意識することはあるでしょうか？ あるいは、皆さんがWEBサイトを制作するとなったときに、どのようなことに気をつけてそのサイトをデザインしますか？

山本恭輔氏

作品《scored?》は、テクノロジーに隠されたジェンダー的な偏りをAIによって視覚化させる作品です。画面に表示されているWEBサイトは、作家たちが男性／女性らしさの基準でAIにスコアリングさせ、点数順に並べたものです。鑑賞者はダイアルを回すことで、AIが持っているジェンダーバランスを体感することができます。

集められた700以上のWEBサイトを、今流行っている3種類の生成AI（ChatGPT、Gemini、Perplexity）によって分析して、それぞれの特性を抽出しながら特定のWEBサイトをジェンダーの観点でスコアリングしています。

AIの視点を導入することで、制作メンバーが持っている個々のバイアスが作品に入り込むことを回避しつつも、これまでの人類のアウトプットをデータベースとして、質問への回答を作り出すAIに分析をさせることで、これまでの人類の総和としてもバイアスにWEBサイトを採点させます。

この作品では、日々私たちが目にするジェンダー表象のあり方を再考し、日常に浸透するテクノロジーの中に潜む「隠れた偏り」を体感的に問いかけます。　

3．《ジェンダライズプリマル：動物鏡像儀式》李若琪、毛雲帆、西澤巧、梅津幹、熊暁、小松尚平、石坂彰、中岡尚哉、管俊青

1995年に誕生したプリクラ（PRINT CLUB／プリント倶楽部®）は、テクノロジーと表象文化の文脈から見るとき、極めて興味深い歴史的背景が存在すると、作品《ジェンダライズプリマル：動物鏡像儀式》の作家、李若琪氏、毛雲帆氏、西澤巧氏、梅津幹氏、熊暁氏、小松尚平氏、石坂彰氏、中岡尚哉氏、管俊青氏は述べています。

この画期的な写真機を開発したのは、RPG『真・女神転生』『ペルソナ』シリーズで知られるアトラス社です。一見すると、人間とは異なる存在との物語を描くダークファンタジーRPGと、若者たちの記念写真機という取り合わせには違和感を覚えるかもしれません。

誕生から長らく誰もが自由に使用できたこの空間では、近年多くの店舗において、防犯の観点から男性単独での入室が禁止されています。この制限は単純は排除ではなく、むしろプリクラという場が持つ複雑な社会的機能を浮き彫りにします。一方では、利用者が安心して自己表現できる場を確保するための措置でありながら、他方では新たな境界線を引くことになるこの制限は、現代社会が直面する本質的なジレンマを体現していると、作家たちは考えています。実際、一部の店舗では制限を撤廃し、代わりに設置場所の工夫や死角の除去といった空間設計による解決を模索しています。

技術による自己表現の可能性と限界を見つめ直すとき、私たちはより根源的な表象の問題に立ち返る必要があります。古来より、人間は動物に様々な意味を付与してきました。威厳、優美さ、自由さーこれらは単なる生物学的な特徴の描写を超えて、人間社会の価値観や理想を投影した表層として機能してきました。しかし、このような動物の性質についての物語は、あくまでも人間が作り上げた文化的な構築物に過ぎません。

本作は、「ジェンダライズプリマル」という名で、こうした文脈の中でプリクラの持つ性質を、より根源的に再解釈する試みです。「プリマル」は「プリクラ」と「アニマル」を組み合わせた造語であり、プリクラ文化と動物表象の融合という本作品の特徴を表すことを意図しています。

《ジェンダライズプリマル：動物鏡像儀式》はプリクラ撮影ができる作品で、ライオン、オオカミ、犬、猫、ウサギ、羊、イルカ、ペンギン、ドラゴン、カラス、クジラ等、好きな動物の中から4つプリクラに使用したいものを選択して撮影するというもの。

例えば、女性的・男性的な動物イメージが伝統的な男女役割のステレオタイプを反映しているのに対し、ノンバイナリー表現の動物イメージには、海洋や多様な環境に生息する動物が多いことが特徴として見られるといいます。

「ノンバイナリー表現に使われる動物」には、柔軟性や多様性、ジェンダーフルイドなどの表現があります。ドラゴンは年齢を重ねた多くの人に選ばれています。

「女性的な表現に使われる動物」には多様なイメージが見られ、独立や優雅さを象徴する動物が選ばれています。生命力と美しさ表すチョウチョは、年齢に関わらず多くの女性が選択しています。

「男性的な表現に使われる動物」に、若年男性はアニメ『ライオン・キング・シンバス』の影響を受けることが多く報告されました。勇気やリーダーシップを象徴するライオンを選ぶ傾向が強いといいます。

以上、東京大学とソニーグループの混成プロジェクトチームが、これまで行ってきたリサーチ、実験、および実践的な取り組みを通じて得られた知見を共有した「Tech Bias —テクノロジーはバイアスを解決できるのか？―」展についてご紹介しました。バイアスに対する理解を深めるとともに、テクノロジーがどのようにして公正な社会を実現するための力となり得るのか、考察の一助になれば幸いです。

■Creative Futurists Showcase #1「Tech Bias —テクノロジーはバイアスを解決できるのか？」

日時：2024年11月23日（土）～25日（月）11:00～18:00

会場：東京大学情報学環オープンスタジオ

入場料：無料（申込不要）

主催：東京大学×ソニーグループ 越境的未来共創社会連携講座