三方向からの締め付け
2022年、Stable Diffusionがオープンソースで公開され、誰でも何でも生成できた。2026年、状況は激変している。Midjourneyは200語以上の禁止ワードリストを管理。DALL-Eは宗教や民族に関するプロンプトをブロック。Kling AIは「モダンなストリートウェアの女性」を「センシティブコンテンツ」として弾く。
検閲は一方向からではない。プラットフォームのフィルター強化、決済会社のサービス打ち切り、政府の新法。三方向から同時に締め付けが来ている。
決済会社の問題
VisaとMastercardはAI生成のアダルト画像を高リスクに分類。Stripe、PayPal等もこの方針に従う。Mastercardはコンテンツの事前審査、描かれた人物の身元確認、四半期ごとのコンプライアンス報告を義務付けている。
CivitAIの事例が最も衝撃的。2025年5月23日、CivitAIのクレジットカード決済会社がサービスを停止。CivitAIは一夜にして暗号通貨決済に移行した。オープンソースAI最大のコミュニティが、決済会社の一つの判断で形を変えた。違法行為があったわけではない。リスクが割に合わないと判断されただけ。
過剰検閲：フィルターが問題になる時
Kling AI v2.5では「自由」「LGBTQ」「大統領」といった単語がブロックされる。DALL-E 3.5は「実在の人物に似すぎている」画像をブロックするが、正当なポートレート写真まで弾く。Stable Diffusionの安全分類器にはジェンダーバイアスがあり、LGBTQアーティストの作品が不均衡にNSFWとしてフラグされることが研究で示されている。
結果として萎縮効果が生まれている。クリエイターは実験をやめ、自己検閲する。アートを民主化するはずのツールが、新たなゲートキーパーになっている。
Grokの惨事：フィルターが全くないとどうなるか
xAIがGrok Imagineをほぼ無制限で公開した結果、9日間で440万枚が生成され、うち180万枚が女性の性的描写、2万3千枚が子どもの画像だった。EU、UK、インドネシア、マレーシア、カリフォルニアが調査・禁止措置を取った。ゼロ検閲も答えではない。
各国の規制
EU: AI生成コンテンツに透かし・メタデータ表示義務。罰金最大3500万ユーロ。米国: Take It Down Act（2025年5月署名）、非同意ディープフェイク犯罪化。日本: AI推進法（2025年5月）、罰則なし、イノベーション重視。韓国: ディープフェイクポルノ作成で最大7年の懲役。同じ画像でも国によって全く異なる法的扱いを受ける。
Unstable Diffusionの教訓
2022年設立、30万人以上のメンバー。Kickstarterで56,000ドルを1日で集めたが、Kickstarterが規約変更で停止。Patreonに移行するも月収2,500ドルで35万DAUを支える計算は合わなかった。2026年4月現在、149人のパトロンで月1,998ドル。正式に閉鎖はしていない。ただ徐々に無関係になった。持続可能性のない創作の自由は趣味に過ぎない。
中間の道
生き残るプラットフォームは、最も過激でも最も厳格でもない。明確なポリシー、年齢確認、複数の決済手段、地域ごとの法令遵守、そして何がブロックされ何故かの透明性。一握りの決済会社とモデレーションチームがどんなアートが存在できるかを決める世界は、安全ではない。別の形の検閲に過ぎない。