このページでは画像生成AI関連において問題となっている画像データの無断利用(無断学習)行為に対し、技術的に対応するツール「Glaze」について解説しています。なお、Glazeと同じチームが開発した「Nightshade」、Glazeと同様の効果を持つツール「Mist」「Photoguard」についても触れています。
【目次】
+ | サムネイル画像 |
Glazeについて
米国の名門大学、シカゴ大学(wikipedia)の研究チームが開発した画像生成AIの学習に対して作品を保護する事が出来るツール。開発には、米国で現在行われている画像生成AI開発企業を対象としたアーティスト集団訴訟に参加しているカーラ・オルティス氏など多数のアーティストが関わっている。
現在、日本語版も開発中である。(記事)
現在、日本語版も開発中である。(記事)
Glaze公式サイト:https://glaze.cs.uchicago.edu/index.html
Glaze公式サイトに日本語解説も追加された。
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問(FAQ)⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④ソフトウェアユーザーガイド⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問(FAQ)⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④ソフトウェアユーザーガイド⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
Glazeの仕組みを簡単に言えば、作品データの上に人間の目ではほとんど見えないレベルの特殊なノイズを追加し、そのノイズをかけられた作品が画像生成AIの学習に利用された時、AI側が本来の作品とは違う外見を持つものであると誤認識し、アーティスト独自のスタイルなどの模倣を防ぐようになっているというものだ。
Glazeはあくまで研究用途として作られたため、完全無料であり誰でも利用する事が出来る。Glazeにはダウンロードして自分のパソコンで動かす「ローカル版」とインターネットを通して利用できる「Web版(Web Glaze)」と海外発のアート・イラスト投稿サイト「Cara」上で利用できるバージョンが存在する。下↓に利用方法を解説。
なお、Glaze開発チームはより強力な学習防止ツールである「Nightshade」を発表、将来的にGlazeへ組み込む計画を立てている。
※このページではAI学習防止ツール「Glaze」の利用方法や意義などについて解説しています。画像生成AIから自作品を守る他の方法については⇒「自作品を守るためにできること」へ。
Glazeの利用方法
Webサービス版の利用方法
2023年8月2日にサービス開始。Glaze公式サイトの「「Web Glaze」解説ページ(日本語)」も参照。(英語版ページはこちら)
- 1.招待リンクの取得方法
Web Glazeは現在招待制となっている。招待リンクを取得するには以下の3つの方法がある。
➀Twitter(X)のGlaze公式アカウントにダイレクトメール(DM)を送る。
②Glaze公式インスタグラムにメッセージを送る。
③Glaze研究チームに直接メールを送る。
④BlueskyのGlaze公式アカウントにDMを送る。(※Glaze公式サイトではBlueskyからの申請はDM機能が無いため対応できないとしているが、2024年5月よりDM機能が追加、Blueskyからでも申請可能となった。)
➀Twitter(X)のGlaze公式アカウントにダイレクトメール(DM)を送る。
②Glaze公式インスタグラムにメッセージを送る。
③Glaze研究チームに直接メールを送る。
④BlueskyのGlaze公式アカウントにDMを送る。(※Glaze公式サイトではBlueskyからの申請はDM機能が無いため対応できないとしているが、2024年5月よりDM機能が追加、Blueskyからでも申請可能となった。)
海外で運営されているサービスなので英語でDM・メールを送らなければいけないが、特に複雑なやり取りが必要なわけではない。「はじめまして。私は日本人のアーティストです。私もGlazeを使いたいです。」程度のものでも問題ない。
ただしWeb Glaze開発チーム側は、生成AIユーザーのサービス利用は遠慮してもらいたいとの方針を打ち出しているため、人間のアーティストであると示す事が必要。そのため、DMから利用の申請を行う際は「DM内で自分の作品を掲示」したり、「作品を掲載しているアカウントから送る」のが良いだろう。開発チーム側は制作過程を記録したタイムラプス動画もあればより審査が通りやすいとしている。DM・メールを送ると招待リンクが返信されるのでそこからWeb Glazeの公式サイトに入ることが出来る。
招待リンクは10日で期限切れとなるため、リンクを受け取ったらすぐに開始しよう。(Glaze公式による注意)
なお開発チーム側は、Web Glaze利用申請時の推奨事項として以下の内容を挙げており、2023年12月1日よりこれらの事項に従って欲しいと表明している。(Glaze公式サイトの記事)
➀Cara.app(※海外のイラスト投稿サービス)のアカウントを持っている場合は@ravenbenへのDMを送信すればプロセスが簡単になる(ただしCaraへGlazeを統合する予定なのでこの過程も今後不必要になる)
②それ以外の場合はTwitterかインスタグラムの公式アカウント(共にIDは@TheGlazeProject)にDMを送る。両SNSのうち、より多くの作品を投稿している方のアカウントから送るのが理想的。
③SNSのコメント欄から招待リクエストを送るのは推奨しない。
④ThreadsやBlueskyではまだDM機能がないため、対応できない。(※Blueskyは24年5月にDM機能が開放された。)
⑤最後の手段としてであったり、あるいは通常とは異なるリクエストを行う場合(例えば美術大学の教員など)はGlaze公式サイト上部メニューの「Feedback(フィードバック)」の下にある「Email Us」よりメールを送る事で招待リクエストを求める事が出来る。メールによる招待は比較的遅めに返信されることに注意。メールを送る際はアートのサンプルを添付すること。
⑥リクエスト送信元のアカウントに作品投稿を行っている事を示すものがない場合、リクエストを送付した事を示す何かしらのものを作品投稿アカウント等に公開で投稿しておくとより良い。
➀Cara.app(※海外のイラスト投稿サービス)のアカウントを持っている場合は@ravenbenへのDMを送信すればプロセスが簡単になる(ただしCaraへGlazeを統合する予定なのでこの過程も今後不必要になる)
②それ以外の場合はTwitterかインスタグラムの公式アカウント(共にIDは@TheGlazeProject)にDMを送る。両SNSのうち、より多くの作品を投稿している方のアカウントから送るのが理想的。
③SNSのコメント欄から招待リクエストを送るのは推奨しない。
④ThreadsやBlueskyではまだDM機能がないため、対応できない。(※Blueskyは24年5月にDM機能が開放された。)
⑤最後の手段としてであったり、あるいは通常とは異なるリクエストを行う場合(例えば美術大学の教員など)はGlaze公式サイト上部メニューの「Feedback(フィードバック)」の下にある「Email Us」よりメールを送る事で招待リクエストを求める事が出来る。メールによる招待は比較的遅めに返信されることに注意。メールを送る際はアートのサンプルを添付すること。
⑥リクエスト送信元のアカウントに作品投稿を行っている事を示すものがない場合、リクエストを送付した事を示す何かしらのものを作品投稿アカウント等に公開で投稿しておくとより良い。
- 2.アカウント登録の方法
Web Glaze公式サイトに入るとまずアカウント登録画面が出てくる。
ユーザーネーム※1(User name)、名前(First name)、名字(Last name)、メールアドレス(Email)、パスワード※2(Passward)、パスワードの再入力(Passward confirmation)の項目があるのでそれぞれに入力する。海外のサービスであるため、全て半角英数字での入力を。
ユーザーネーム※1(User name)、名前(First name)、名字(Last name)、メールアドレス(Email)、パスワード※2(Passward)、パスワードの再入力(Passward confirmation)の項目があるのでそれぞれに入力する。海外のサービスであるため、全て半角英数字での入力を。
※1:ユーザーネームは150文字以内で、文字と数字、記号「アットマーク(@)、ピリオド(.)、プラス(+)、マイナス(-)」のみが利用可能である。海外のサービスであるため半角で入力する事を推奨する。
※2:パスワード入力の際の注意点:➀個人情報と類似するパスワードを入力しない、②パスワードは8文字以上を入力、③よく使われるパスワードを入力しない、④数字だけのパスワードは不可。
※2:パスワード入力の際の注意点:➀個人情報と類似するパスワードを入力しない、②パスワードは8文字以上を入力、③よく使われるパスワードを入力しない、④数字だけのパスワードは不可。
入力が終了したらページ一番下の送信(Submit)ボタンをクリックする。
- 3.Web Glazeの利用方法
登録が完了したら公式サイト内の別ページに移る。ここで初めてWeb Glazeが使用可能となる。
Glaze加工された画像を送って欲しいメールアドレス(Email)を入力し、Glazeを掛けたい画像を選択(Image)しアップロードする。
(※画像のファイル名は半角英数字にすること。エラーが出るため)
Glaze加工された画像を送って欲しいメールアドレス(Email)を入力し、Glazeを掛けたい画像を選択(Image)しアップロードする。
(※画像のファイル名は半角英数字にすること。エラーが出るため)
v1.1にアップデートされた際この部分が大きく変更され、画像保護の程度について数値を設定するのではなくDefault、Medium、Highの3段階から選ぶ方式に変更された。3段階のうちHighが一番ノイズが強く、Defaultは最低限となる。なお、Glazeのバージョン選択機能は廃止された。
最後にページ一番下のSubmit(送信)ボタンをクリックする。
しばらくしたら登録したメールアドレスにGlazeチームからメールが届く。メール内の添付ファイルにGlaze加工された画像データが入っているので、これを保存すれば完了。
ローカル版の利用方法
Glaze公式サイト「Glazeソフトウェアユーザーガイド(日本語)」も参照に。
※編集お願いします。ダウンロードからGlazeソフトの使用方法、ノイズの強さの調節方法など一連の流れが書いてあればいいと思います。Glazeソフトのスクリーンショットなどを用いてツール内に書いてある英単語の翻訳などあれば分かりやすいかもしれません。
Caraでの利用方法
Glazeを使う意義
- 自分の作品をある程度技術的に守る事ができる
Glazeは現在、AI学習に伴う作品無断利用行為に対し技術的に対抗できるほぼ唯一の手段である。Glazeを利用するクリエイターが増えれば増えるほどAIモデルへの影響も拡大する。
- 画像生成AIへの自作品の無断利用を拒否する意思表示になる
プロフィール等に「AI学習禁止」といった文言を書いているクリエイターも多いが、Glazeを使うことでよりその意思を明確にする事ができる。
コンセプトアーティストのよー清水氏によるGlazeの解説記事も参照「画像生成AIプロテクター「Glaze」の意義と使い方まとめ」
(※Glazeリリース直後の2023年3月の情報で書かれている)
(※Glazeリリース直後の2023年3月の情報で書かれている)
Glazeができないこと
- image to image(i2i)への対処
i2iとは特定の画像をベースに画像生成AIで外見的に似た画像を作ることのできる技術であり、元作品の構図や色合いが引き継がれやすい。他人の作品データを勝手に使って外見的に似た作品を作ることが出来るので問題視されている。いわゆるトレパク用途に使われてしまうのだ。Glazeは現在i2iへの対処はできないが、Glaze研究室はi2iへの対処法についても現在研究を重ねているとし、別の研究チームが開発したツール「mist」に触れ、これはi2iも防御できるとして紹介している。⇒i2iについての詳細は「img2imgによる新手のトレパク被害」
- AI技術進化に伴う無力化の可能性
Glazeの開発元は「画像生成AIの無断学習に対する恒久的な解決策になる訳ではない」として、将来的には技術の進化によってGlazeも克服されてしまう可能性があると発言している。同研究室はあくまでGlazeはAI学習に関する法や制度が整備されるまでの繋ぎであると明言している。
Glazeに関する質問と回答
Glaze公式サイトのFAQ(日本語)
https://glaze.cs.uchicago.edu/jp/faq-jp.html
https://glaze.cs.uchicago.edu/jp/faq-jp.html
Glaze公式サイトのFAQ(英語)
https://glaze.cs.uchicago.edu/faq.html
https://glaze.cs.uchicago.edu/faq.html
Glaze関連の詳細情報
沿革
Glazeは、アメリカ・シカゴ大学のSAND(Security, Algorithms, Networking and Data)Labs研究室によって開発された。
2020年、SAND Labsはインターネットに投稿した自撮り写真など、個人の顔が写った写真をテック企業等に収集され思わぬ形で利用されることを防ぐためのツール「Fawkes」を発表した。Fawkesは、顔認識AI技術に対抗する用途で開発され、同ツールを用いて顔画像を加工すると人間の目で見た時は殆ど変化が無いもののAIのトレーニングの際は誤認識が起き、写真に写っている顔が誰なのか分からなくなる効果を得られる。
Glazeは、2023年3月16日にリリースされた。リリース当初のGlazeは西洋絵画的な厚塗り絵には効果を発揮し外見上の違和感も少なかったものの、コミック系のシンプルな塗り方をした作品ではGlaze特有のノイズが目立っていた。しかしながら、同年6月28日にリリースされたGlaze1.0ではコミック系の絵柄でも外見上の違和感が大きく減りかなり目立ちにくいものになった。もちろん日本のアニメ風の絵柄の絵にも有効である。
リリース当初のGlazeは公式サイトよりダウンロードしてユーザーのPCで動かすローカル版しか存在しなかったが、8月2日にはweb版のGlaze「Webglaze」のサービスが開始された。
▼Glaze公式X(Twitter)アカウントによる「Webglaze」のサービス開始を伝える投稿。(2023年8月2日)
loading tweet...— Glaze at UChicago (@TheGlazeProject) August 1, 2023
なお、「Glazeのノイズを除去できる」と称するツールが存在しているが、Glaze研究チーム側は以下の理由で効果が薄いとしている。
➀ツールの作者が上手く効果が出ない事を認めている
②Glaze公式ページのFAQでツールについて言及している
③Glaze研究チーム側が当該ツールをテストし結果を論文に記載した
➀ツールの作者が上手く効果が出ない事を認めている
②Glaze公式ページのFAQでツールについて言及している
③Glaze研究チーム側が当該ツールをテストし結果を論文に記載した
▼Glaze除去ツールの効果について言及したGlaze公式Xアカウントの投稿。(2023年9月4日)
loading tweet...— Glaze at UChicago (@TheGlazeProject) September 3, 2023
さらにGlaze開発チームは公式サイトのFAQページ(日本語)にてこう解説している。
Glaze の仕組みは破られ回避されてしまったことがあるというのは事実ですか?
いいえ、Glaze の仕組みが破られてしまったり、回避されてしまったことはありません。 Glaze は2023年3月15日に初めてリリースされました。以来、Glaze を打ち破ろうとした試みは複数あります。 Glaze を批判する人たちはミミクリー攻撃の意味を理解せずに、Img2Img を使ってGlazeされた作品を再生成しようと試みるなどしています。 これ以外にも、David Marx 氏によるPEZ リバース・プロンプト攻撃について、David Marx 氏本人がその結果を オンラインで公表しています。 Glazeが生成した物(アーティファクト)を取り除くことでGlazeを回避したことと同等と考え、 ピクセルを滑らかにするツール(ControlNet の開発者、Lyumin Zhang氏のAdverseCleaner等)を開発しましたが、 下記、同氏が2023年3月28日に投稿された記事にもあるように、このツールは無効であると認めています。Glaze回避を試みた場合の影響に関する詳しいテスト結果にご興味がある方は、 Glazeの公式論文をご参照ください。
(出典:Glaze公式サイト「よくある質問 (FAQ)」-2024年1月18日閲覧)
2023年12月、Glaze公式サイトに日本語解説が追加された。翻訳されたのは以下の4つのページ。
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問(FAQ)⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④Glaze ユーザーマニュアル⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問(FAQ)⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④Glaze ユーザーマニュアル⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
受賞歴など
- USENIX Internet Defense Prize 2023:https://www.usenix.org/blog/usenix-announces-winners-2023-internet-defense-prize
- USENIX Distinguished Paper Award 2023:https://www.usenix.org/conference/usenixsecurity23/presentation/shan
- Chicago innovation award 2023:https://chicagoinnovation.com/winners/uchicago-sand-lab/
- Forbes 30 Under 30 list 2024:https://www.forbes.com/profile/glaze/?list=30under30-consumer-technology/&sh=3c27dcf4548b(※Glaze研究チーム3名が選定)
- TIME The Best Inventions of 2023:https://time.com/collection/best-inventions-2023/6327170/glaze/
Glaze関連リンク
Glazeの類似ツール・サービス
Mist
中国の上海交通大学出身の研究チームが開発した、画像生成AIのAI学習から絵を保護するツール。
- Mist公式サイト
- 「ノイズ」で邪魔に。画像生成AIから著作権守る「Mist」、中国開発チームが無償提供(2023年7月9日-36krjapan)
- 自分のイラストや写真を画像生成AIが学習するのを妨害する電子透かしを入れるツール「Mist」(2023年8月28日-GIGAZINE)
2023年12月に改良版のMist V2が発表された。LoRAへの対応、ノイズの視認性がより低くなったことなどが特徴。
https://github.com/mist-project/mist-v2
https://github.com/mist-project/mist-v2
PhotoGuard
- AIによる不正な画像改変を抑止する技術「PhotoGuard」、MITが考案(2023年7月27日-CNETJapan)
emamori
Mistをベースにして開発されたアート保護サービス。日本国内で展開されているサービスで、株式会社SnackTimeが運営。2024年1月17日に正式リリースされた。
- emamori公式サイト
- emamori公式X(Twitter)
- イラストを無断でAI学習に利用させない!「透かし」での保護機能を備えた投稿サイト『emamori』公開(2023年8月29日-MdN)
- クリエイターのイラストをAI学習から保護する「emamori」正式リリース(2024年1月17日-PRtimes)
- イラストのAI学習を妨げる「emamori」正式サービス開始 有料プランも(2024年1月17日-ITmedia)
Nightshade
Glazeと同じく米シカゴ大学のチームが開発したAI学習防止ツール。
- Nighshadeの仕組みを説明する論文「Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」(2023年10月20日)
- イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」(2023年10月24日-GIGAZINE)
- 画像に「毒」を盛り、画像生成AIのスクレイピングに対抗するツールを開発--シカゴ大(2023年10月25日-ZDNET)
- 画像生成AIに「毒を盛る」。アーティストの権利を守るためのツール登場(2023年10月26日-GIZMOOD)
- Artists Can Fight Back Against AI by Killing Art Generators From the Inside(2023年10月24日-GIZMOOD)
- Artists are poisoning AI image generators with Nightshade(2023年10月26日-DOCUMENT)
- Meet Nightshade, a new tool empowering artists to fight back against AI(2023年11月13日-NiemanLab)⇒Nightshade開発者へのインタビュー記事。
- How Nightshade Works(2023年11月4日)
参考資料など
- 人間には分からない微妙な加工でAIを混乱させて顔写真が勝手に利用されるのを防ぐ技術「Fawkes」が登場(2020年8月5日-GIGAZINE)
- シカゴ大がAI顔認識からプライバシーを守るツール「Fawkes」を公開!(2020年8月7日-TECHABLE)
- 画像生成AIプロテクター「Glaze」の意義と使い方まとめ(2023年3月19日-よー清水氏のnote)
- イラストをAIの学習から守る! 作風の模倣を防ぐ「Glaze」とは(2023年6月20日-窓の杜)