-
Stable DiffusionやChatGPTなどのジェネレーティブAIが登場したことによって、誰でも簡単に文章や画像を作成できるようになりました。IT系ニュースサイト・Digital Scienceのダニエル・フックCEOが、画像生成AIを使用した時に遭遇した「1本のバナナ問題」から、ジェネレーティブAIが抱える問題に言及しています。
フック氏は「ジェネレーティブAIの問題のひとつとして、AIの内部で何が起こっているかを理解することはほとんど不可能ということです。TCAVのように、より深く洞察しようとするアプローチもありますが、人間の脳と同様に深層学習アルゴリズムの内部で起こっているプロセスを完全に理解することはできません」と述べています。
https://gigazine.net/news/20230716-generative-ai-the-lone-banana-problem/
-
バナナとは？早く書きこめや
-
Loraつくってバナナ1本を学習させろよ
-
exstream detailed, <lora:1banana:1.0>1banana
-
チ〇コが二本出るのはそういうことか！
-
これネガティブプロンプトは使ってるのかな？
-
真横から見たら良いじゃん
-
一本のバナナ問題
AIに1本のバナナを指定するとバナナを2本描いてしまう
これはAIの学習データの中に複数本バナナが写っている画像ばかりがあるからであるとする問題追加学習で容易に修正されるのでこの説を提唱した奴はAI語りたがりおじさんの一種といえる
-
>>39
こういう色んなことを議論していって解決策を模索していくのが大事かもしれない
もしかしたらジェネレーティブAIに数の概念を学習させる方法が作られるかもしれない -
だから剥いてから使うなってアレほど言ったじゃないか！
-
バナナに限らず、鳥も車もまともに生成できないよ
ちゃんと使おうとするとかなりポンコツ
-
いや、どんだけ2本のバナナ画像出回っているんだ？ってことか
それよりは
6本指の画像がないのにAIは指を多く生成する
と言った方がわかりやすいだろ -
この問題より劣化して90%位の出来のAI生成物が溢れて
それを学習元とする事で成果物が劣化する事の方が問題だよ -
現時点の画像系の生成AIは、画像とそれに対応する文書の対応のパターンをひたすら学習してなので、
数という抽象化された概念は無く正確に数で指示をすることは出来ないのでしょう -
概念消し追加学習とか取り組んでるからどうとでもなるんじゃないの？
知らんけど -
人間の指の数がおかしいのと同じ問題なんだろうな
AIは意味を理解しているわけではなくて学習済みの「よくある」画像に似たものを出力してるだけだから
バナナ一本だけの画像を大量に学習しないと「一本だけのバナナ」が出てこないわけだよね
逆に言えば学習さえ進めばいつかは解決しそうでもある -
1本か複数本かの区別はあるんじゃね？
難しいのは2本のバナナだろう
普通描くのは3本以上だろうから -
灰色の背景に影を落としている1本のバナナ
で普通に一本のバナナが出力されるよ
-
AIは数を数えられないのか
3歳児未満じゃねーか -
AIを全然理解できてない浅いやつの記事としか
-
例えば腕1本のヒトデなんてほとんどの人は見たことないけど指示されれば描けるだろう
AIは腕一本のヒトデを描けるのだろうか -
しょーもねー
2本出して1本消せばいいだけだろ
ポン出し厨しか悩まない問題 -
数字込みでタグ打ちがちゃんとされないってだけで
学習データを数まで含めて整備したらちゃんと出るよ -
なんか凄いこと言ってるように見えてただ学習データが足りてないってだけだろ
1年後には消えてる問題 -
中で何やってるか分からないから「AIが学習して描いてる」って思っちゃうけど
実際は「AIが学習データ（素材）を切り貼りや加工して描いてる」だけだと俺は思うんだな
グランツーリスモやフォルツァ、PSO2にあった図形で絵を描いていくやり方を複雑にした感じ -
人として失格
コメント