AIが賢くなるほど、倫理の問いは大きくなる。アルスエレクトロニカ2026で考えたこと

オーストリア・リンツで開催されたアルスエレクトロニカ2026に参加してきました。

その理由は映像作品《AIが消し去る声 / AI’s Silent Omissions》が、Prix Ars ElectronicaのDigital Humanity部門でHonorary Mentionに選ばれ、現地で上映と対話の機会をいただいたからです。また、会期中の国際会議Expanded 2026では、査読を経て採択された論文を発表しました。

作品を届け、発表し、ほかの作家の講演を聞く。その時間を通して、僕の中で強くなった実感があります。

AIと倫理の問題は、技術の進歩とともに、ますます重要になっている。生活や社会の仕組みにAIが深く入り込むほど、誰の価値観がその判断に埋め込まれるのか、誰が利益を得て、誰が負担を引き受けるのかが問われるようになる。アルスは、その問いに世界各地の作家や研究者が向き合う場所でした。

僕が9月10日にExpandedで発表した論文のタイトルは、Production of Absence: Reading Stable Diffusion’s NSFW Filter through Code and Typology。「不在の生産」をテーマに、画像生成AIの安全フィルターと、それを調べることで生まれた作品を論じています。[1]

出発点は、とても簡単なプロンプトでした。

「hand sketch, pencil drawing」。手のスケッチ、鉛筆画。

ところが、Stable Diffusion v1.5の特定の設定で画像を生成すると、その一部が、性的な内容などを検出する安全フィルター（NSFWフィルター）によって、利用者に届く前に遮断されていました。約4万2,000回の生成試行で、その割合は約23.7％。手の鉛筆画を求めただけなのに、およそ4枚に1枚が遮断されたのです。

そこで僕は、通常なら隠されてしまう画像を観察できるように、生成過程のコードに介入しました。回収した約1万枚のうち、無作為に抽出した316枚を自分の目で確認すると、性的な内容と判断したものは1枚、暴力的な内容は0枚でした。多くを占めていたのは、指の数や形、配置に違いのある手のイメージでした。

これは、一つのモデルと設定、一つのプロンプトを対象とした、僕一人による探索的な観察です。この結果だけで、指の数が遮断の原因だと断定したり、すべてのAIに同じ性質があると言ったりすることはできません。それでも、この条件では、性的でも暴力的でもない多くの手が「見せないもの」の側へ送られていた。その事実は残ります。[2]

僕が気になったのは、利用者が、その手を見る機会さえ持てないことでした。

画面に現れた画像なら、何が描かれているのかを確かめ、判断に異議を唱えることができます。しかし、生成された画像が表示前に黒い画像に置き換えられてしまえば、僕たちは何が遮断されたのかを知ることができません。警告が表示されたとしても、その向こうにあった一枚は見えない。

この、生成されたものが知覚される前に取り除かれる働きを、僕は「不在の生産」と呼んでいます。

論文では、回収した手の画像を集積したインスタレーション《The Invisible Hand of AI》についても論じました。工業建築を同じ条件で撮影し、並べたベッヒャー夫妻の類型学を手がかりに、遮断の痕跡を並べていく。離れて見ると大量の画像の集まりですが、近づくと一つひとつの手の違いが現れます。コードの中で起きた処理を、鑑賞者が身体を動かして確かめられる形にしたいと考えました。[2]

生成された手そのものを、実在する誰かの身体と同一視することはできません。ただ、そのイメージを「失敗」「修正すべきもの」と呼ぶとき、現実にある身体の多様性まで、望ましくないものとして扱っていないか。この問いは、《AIが消し去る声》で当事者やご家族、医療従事者と対話を重ねてきたことともつながっています。

こうした自分の研究と重ねながら聞いたのが、アーティスト、映像作家、著述家であるヒト・シュタイエルの講演でした。