生成AIについての印象メモ(ネガティブ)

現状としてイラスト生成AIに全く良い印象がない
はっきりと結論があるわけではなく、疑問点などつらつらメモしてる感じです。
まだよく理解できてない部分も多いからAI推進派も反対派にも「まだその理解?」って思われそう。昔の日記読むと自分キモいなーと思うけど記録と思ってまだ消さないでいる


この話題は双方に過激な発言が出るので過激派こえ〜なと思っているけど、話題に興味はあるので見ている。あとでまた書くけど、エコチェン効いてて互いに互いを信じられねぇバカだと思っている。当然私にも効いている。Twitterなんかやらん方がいいですよ!

前の日記書いたあとに、「学習元データ開示してない」「起訴の証拠となりうるデータを削除した」ってことを知って「じゃあダメじゃん」と思った

https://www.wired.com/story/new-york-times-openai-erased-potential-lawsuit-evidence

真っ当であれば学習元データ開示は簡単そうに思う
画像そのまま出さなくても、コピー元URLを並べたり作者名を並べたりすればいい。
そもそもそういったタグ付け無しでは機能しないのだから、何らかの一覧表にするのはすぐできそうなもんだけどなあ。
あと、有名なキャラクターとか、学習元の絵そのまま出てる事例なんかも探せばゴロゴロありますね。

あと情報商材屋が溢れてるのもイメージ悪かった。

イラスト系のAIではないけど、私は仕事関係でAI学習に関する研究と協力する機会があった。
生き物の病気判定するAIで、判定方法やデータ収集において流れを全て説明してくれて誠実かつ有用な研究だと思いました。
うちの会社が権利を持つ写真やデータの提供を行うことになったし研究協力として企業名も出る。
全部そういうのなら、昨今のイメージも大分違っただろう。
正直、「ジブリ風」の氾濫で本家ジブリ自体もなんかチープに見えてきてしまってる。

イラスト生成AI出始めで、多少期待しつついじけてたわけだけど、その頃に私の頭にあったのは、「遺伝的アルゴリズムで最高にエッチな画像を作ろう!」ってやつ
水玉模様の重なりが少しずつおっぱいになっていって面白かった。
私も絵を描く時適当に塗って出てくる形から成形していくことがあって、なんかそれと近いな、イラスト生成AIもこういうことを高速でやってるんだなと思ってた
いじけていた部分では、アナログとデジタルでの違いで色々言われたことがあったので、「私は新しい技術を受け入れない老害側になっちゃうのかなー」と漠然と思ってた。
デジタルはズル、Ctrl Zがないと描けなくなると実際に言われたことがある。かなり心にひっかかってた経験だった。でも、今思い返すとどっちも絵を描かない人から言われてたな……。

Twitterでいうと、とりんさまっていうリプライの単語から絵を描くAIアカウントや、ゲーミングちんぽ花道部も面白かった。人間が予期しない表現が出てくる偶然性が面白い。
とりんさまに執拗にスク水のロリエロ描かせようとする人に辟易してフォロー外しちゃったけど。精密なエロは出力できないんだからもう描いたほうがはやいだろ!ってレベルでリプ送りまくってた。

生成AIのディープフェイクポルノで逮捕者も出てきた。10/16の逮捕で、埼玉と秋田県だった。

そもそも学習元になってしまった作者がやめてって言うならやめなよというシンプルな話。
有志を募ってクリーンなAIを作る企画もあったみたいだけど今どうなってるのかな?

AIによる学習と人間の学習は違うという説明もありがたかった。
AIの場合はデータ読み込みのために内部に元データの複製をつくっている。
そして複製には原則として著作権が働く。(生成したあとに加筆等したら著作権が認められるようだけど、今は学習についての話)
人間の学習は複製ではないので、人間からはコピー機のように出力ができない。
ツールに一括で読み込ませてるのは人間の学びと違う。

法整備について
もし性急に雑な法が作られてしまえば二次創作も巻き込まれてしまうリスクは確かにありそう。
とにかく国や法律は良くも悪くもゆっくり。
最近までインターネットトラブルでの開示請求なども面倒が多くて、プロバイダ責任制限法が改正されたのは2022年10月だった。それでもまだ簡単にとはいかないけど。
AIユーザーの殺害予告の類はAI生成とはまた別ベクトルの問題に思うけど、(反AI側による放火と逮捕者あったし)ディープフェイクポルノばら撒きは規模感が違ってくるので、AI生成自体の法を新しく作るよりは、その規模感の部分で法改正がやりやすそうに思う。

AI批判するなら二次創作はどうなのか? という部分もよく話題になっている。
生成結果も二次創作と同一視するかどうかという話題と、二次創作も著作権侵害してるからAI生成の著作権違反を批判するなという話題が混じって流れてくる。

でも二次創作してたって別にAI反対したり賛成したりしたって良いし、発言権がなくなるわけじゃないというのが私の考え。

あと二次創作についても議論されるのは良いことだと思う。
「生成AI批判してるのに二次創作で儲けてるやつがいる、そいつはおかしい」という批判から派生して、
二次創作で利益を得る行為はいかがなものか?その考えはもう古いものなのか。という話題もあった。
skebとかファンティアとか、男性向けや海外ユーザーに多い印象がある。このへん、男性向けは文化的に描き手も閲覧者も歓迎してると思ったので批判が出ることは少し意外だった。
では送料、制作費などの最低限の費用なら価格に乗せて良いのか? 差し入れという形で現物ならいいんだろうか?

また違う話になるけど、女性向け界隈検索避けの話題も興味深かったな。
検索避けで伏せ字のつもりが別の界隈で使われる単語になってしまい、大正オタク以外にとっての検索汚染になってしまってるので、逆に何の二次創作であることを明示した方がいい、という話。
まあ公式タグにセックスしてる絵を載せんのはどうかと思うけど。

そしてどの話題、どの陣営においてもいるんだけど、叩ける人を見つけたらとにかく殴りにいく人と、言い返すだけが目的の人と溢れていて、とても落ち着いた話なんかできない。
私も含めてエコーチェンバーが効きまくってて、相手陣営の特別バカが目立って流れてくるので、お互いにお互いを激バカだと思ってる。

下記はどういうことだ?と思って考えてた単語2個
 絵描きは特権階級というワードはよくわからなかった。
発信力のことを指してる?なら別に絵描き以外もテキストだけで人気な人たちとかインフルエンサーだってたくさんいる。面白いコンテンツのところに人が集まるのは当然でもある。
アニメーターや漫画家の年収を見てるととても特権階級とは言えない。

 生成AIイラストだと分かると評価を変える人に対して、情報だけ食ってると評価してる人もいた。情報だけ食ってるってごく当たり前のことだと思う。
二次創作だと顕著だけど、好きなキャラだからこそ刺さる作品と、どれだけ美しくても別に興味ないキャラだったらスルーする作品だってある。
美術館でみんな美術品よりキャプションの方を一生懸命見てるなんて話もよく聞く。
コメディアンのバナナもそのへんの皮肉から生まれてなかったっけ。
ただの落書きにみえたものが、描き手のドラマや成り立ちを知ったらすごく深く感じることもある。
それが子供が一生懸命描いたっていうよくある話でも、保護者とってはすごく特別に見えたりするし、その逆もあるということで、多くの人にとって当たり前のことだと思う。

一人で文字を打っててもこれだけ脇道に逸れちゃった。SNSだと人の数だけ話題がどんどん逸れていくし、言葉が不自由すぎる!
なにか討論会とか勉強会の場があったら聞きに行きたい。情報商材屋以外のやつで…