【悲報】AIさん、AI生成コンテンツを学習するループが発生し「モデルの崩壊」が起きつつある…
1: 香味焙煎 ★
2023/06/14(水) 08:12:13.30 ID:MsNIzADG9
Adobeが権利的にクリアなトレーニングモデルを用いた画像生成AI「Firefly」を発表したり、Microsoftの検索エンジンであるEdgeで対話型AIのChatGPTが活躍していたり、世界的なコンサル企業が「社員の50％は業務にジェネレーティブAIを活用している」と明らかにしたりと、ジェネレーティブAIは社会に広がり続けています。しかし、AIを使用してコンテンツを作成・公開する人が増えていることで、新たな問題として「AIが生成したコンテンツがインターネット上にあふれ、それをAIが学習することで、重大な欠陥が生まれている」ということが研究者グループから指摘されています。
[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493
（続きは↓でお読みください）
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/
[2305.17493] The Curse of Recursion: Training on Generated Data Makes Models Forget
https://doi.org/10.48550/arXiv.2305.17493
（続きは↓でお読みください）
GIGAZINE
2023年06月14日 08時00分
https://gigazine.net/news/20230614-feedback-loop/
引用元：https://asahi.5ch.net/test/read.cgi/newsplus/1686697933/
2: ウィズコロナの名無しさん
2023/06/14(水) 08:13:35.78 ID:gyofENGL0
漫画太郎だけに絞って精神崩壊させたい
75: ウィズコロナの名無しさん
2023/06/14(水) 08:35:38.08 ID:/mg4BjG10
>>2
蛭さんも入れて
まぁ絵と言うよりも言動の方を
蛭さんも入れて
まぁ絵と言うよりも言動の方を
90: ウィズコロナの名無しさん
2023/06/14(水) 08:39:06.75 ID:N09OrmOJ0
>>2
全てのコマがうんこになりそう
全てのコマがうんこになりそう
215: ウィズコロナの名無しさん
2023/06/14(水) 09:10:04.21 ID:F/c14DxJ0
>>2
ワロタw
ワロタw
315: ウィズコロナの名無しさん
2023/06/14(水) 09:35:58.86 ID:AAJ4pRuI0
>>2
やたらめったらババアが上手な絵ばかりにw
やたらめったらババアが上手な絵ばかりにw
381: ウィズコロナの名無しさん
2023/06/14(水) 09:58:21.37 ID:YxRngXO60
>>2
ババァばっか言われてるけどロリに定評もある画太郎
ババァばっか言われてるけどロリに定評もある画太郎
426: ウィズコロナの名無しさん
2023/06/14(水) 10:13:31.97 ID:XoL0N1os0
>>2
ありがとう画太郎先生
ありがとう画太郎先生
735: ウィズコロナの名無しさん
2023/06/14(水) 12:17:59.26 ID:tYbQqDC50
>>2
漫☆画太郎先生には☆をつけろよバカヤロー！
漫☆画太郎先生には☆をつけろよバカヤロー！
940: ウィズコロナの名無しさん
2023/06/14(水) 15:50:17.47 ID:khU0/13C0
>>2
てめーには学習させてやんねー！！
クソして寝ろ！！
てめーには学習させてやんねー！！
クソして寝ろ！！
4: ウィズコロナの名無しさん
2023/06/14(水) 08:13:49.99 ID:g1HmHnuB0
始まったか
12: ウィズコロナの名無しさん
2023/06/14(水) 08:16:43.89 ID:lPXLsaox0
絵描きの人が模写から絵面が変わって行くようなもんだろ
13: ウィズコロナの名無しさん
2023/06/14(水) 08:16:44.43 ID:1LP1vPVM0
>>1
「重大な欠陥が生まれている」って
具体的にはどんな重大な欠陥なんだよ？
「重大な欠陥が生まれている」って
具体的にはどんな重大な欠陥なんだよ？
410: ウィズコロナの名無しさん
2023/06/14(水) 10:07:26.62 ID:a3lgfgUN0
>>13
AIの模倣遺伝子が近親相姦になってるってことだなこらは
イラストのAIで言うと女性の美形ミームが
韓国整形アニメ顔で溢れて
多様性が無くなっている例とか
AIの模倣遺伝子が近親相姦になってるってことだなこらは
イラストのAIで言うと女性の美形ミームが
韓国整形アニメ顔で溢れて
多様性が無くなっている例とか
14: ウィズコロナの名無しさん
2023/06/14(水) 08:16:44.52 ID:ixAKmyr+0
専門家らは、生成AIが文章、画像、音声、映像の全領域で盛り上がり、急速に発展する中、クリエーティブ産業はこの技術によって全面的につくり替えられる可能性があると指摘する。
ファン、アーティスト、それらを管理するシステムが大急ぎで新たな規範に適応しなければならなくなっている。
「今では誰かのスタイルやそれに似せたコンテンツを無限に生み出せるようになっており、近いうちにその労力もほとんどかからなくなる。私たちのすべてがその意味を理解し、折り合いをつけていかなくてはならない」。
長年にわたりAIを研究し作品に活用してきた、ミュージシャンのホリー・ハーンドンはそう述べた。
（東洋経済 2023年6月3日号）より
ファン、アーティスト、それらを管理するシステムが大急ぎで新たな規範に適応しなければならなくなっている。
「今では誰かのスタイルやそれに似せたコンテンツを無限に生み出せるようになっており、近いうちにその労力もほとんどかからなくなる。私たちのすべてがその意味を理解し、折り合いをつけていかなくてはならない」。
長年にわたりAIを研究し作品に活用してきた、ミュージシャンのホリー・ハーンドンはそう述べた。
（東洋経済 2023年6月3日号）より
15: ウィズコロナの名無しさん
2023/06/14(水) 08:17:00.87 ID:8HB3VTMz0
あれもAI これもAI たぶんAI きっとAI
26: ウィズコロナの名無しさん
2023/06/14(水) 08:19:24.01 ID:kF+zbSjQ0
>>15
うま！え？うますぎん？
うま！え？うますぎん？
57: ウィズコロナの名無しさん
2023/06/14(水) 08:29:13.67 ID:12OPz30r0
>>26
自演乙
自演乙
151: ウィズコロナの名無しさん
2023/06/14(水) 08:55:08.07 ID:oTbFz4Ti0
>>26
大して上手くないだろ。
大して上手くないだろ。
16: ウィズコロナの名無しさん
2023/06/14(水) 08:17:12.57 ID:hZkQsJaO0
んじゃそれを選別して取り締まるAIの開発を
18: ウィズコロナの名無しさん
2023/06/14(水) 08:17:24.03 ID:QcH0pWbZ0
スカイネット始まったな
23: ウィズコロナの名無しさん
2023/06/14(水) 08:18:03.61 ID:Dun8OrIT0
>>18
デデンデンデデン
デデンデンデデン
21: ウィズコロナの名無しさん
2023/06/14(水) 08:17:56.94 ID:MS0sAh430
逆に何がダメなん？
影響力あるやつが発信すれば黒いものも白くなるのが人間の習性なわけで
収集元の人間だって間違ってる事多いんだからAI以前の問題だろう
影響力あるやつが発信すれば黒いものも白くなるのが人間の習性なわけで
収集元の人間だって間違ってる事多いんだからAI以前の問題だろう
36: ウィズコロナの名無しさん
2023/06/14(水) 08:21:53.87 ID:goMf2Vyt0
>>21
それはそう
人工知能による支配を受け入れられない、考えたくないバカ老害どもが騒いでるだけ
それはそう
人工知能による支配を受け入れられない、考えたくないバカ老害どもが騒いでるだけ
347: ウィズコロナの名無しさん
2023/06/14(水) 09:47:14.97 ID:ZHlA7xwk0
>>21
AIが生成したものが人間としては受け入れがたいものでも、それが多数決的に正解になるなら、君は受け入れられるの？
AIが生成したものが人間としては受け入れがたいものでも、それが多数決的に正解になるなら、君は受け入れられるの？
24: ウィズコロナの名無しさん
2023/06/14(水) 08:18:12.78 ID:UykcrRef0
個性が無くなるってこと？
25: ウィズコロナの名無しさん
2023/06/14(水) 08:18:39.57 ID:kF+zbSjQ0
それを管理するAIが生まれて、そのAIの目をかいくぐるAIが出来る、そしてそのAIを…
29: ウィズコロナの名無しさん
2023/06/14(水) 08:20:02.39 ID:Xpf2KL860
でも今までは人間が描いた下手な絵も学習してたんだろ。
31: ウィズコロナの名無しさん
2023/06/14(水) 08:20:36.94 ID:ayAsJ7ux0
過学習は良くないと聞いたが
よく分かってない
よく分かってない
35: ウィズコロナの名無しさん
2023/06/14(水) 08:21:36.85 ID:I5uPEL7s0
近親相姦みたいなこと？
38: ウィズコロナの名無しさん
2023/06/14(水) 08:22:20.42 ID:0+cGEJhI0
だんだん誤差が増幅されてくんだろうね
伝言ゲーム方式で
伝言ゲーム方式で
40: ウィズコロナの名無しさん
2023/06/14(水) 08:22:39.91 ID:YJHnk8AC0
ＡＩによる無限エコーチャンバーｗｗ
45: ウィズコロナの名無しさん
2023/06/14(水) 08:23:45.35 ID:25jG5kbG0
ハウリング
46: ウィズコロナの名無しさん
2023/06/14(水) 08:23:54.69 ID:Xpf2KL860
AIが苦手な手の描画は人間も苦手
絵が下手な奴って手描けないよね笑
絵が下手な奴って手描けないよね笑
50: ウィズコロナの名無しさん
2023/06/14(水) 08:26:38.98 ID:EBYEry8f0
間違いを指摘して直るならいいんじゃないの
60: ウィズコロナの名無しさん
2023/06/14(水) 08:29:31.88 ID:V3z5WE9m0
AIループか
AIとAIが高めあって人間を遥かに超越した何かが生まれるんだな
AIとAIが高めあって人間を遥かに超越した何かが生まれるんだな
62: ウィズコロナの名無しさん
2023/06/14(水) 08:29:47.08 ID:46tox+7q0
これからはどうAIを手懐けるかがポイントだな。世界で一番美しいのは誰？って聞くとお妃さまですと言わせるスキルが必要だ。
65: ウィズコロナの名無しさん
2023/06/14(水) 08:31:13.76 ID:EtlS8y5g0
AIがAIを作って超絶進化を遂げるフェーズまだー？
69: ウィズコロナの名無しさん
2023/06/14(水) 08:33:30.28 ID:p6k+cnxX0
これはなんかカオスの予感
70: ウィズコロナの名無しさん
2023/06/14(水) 08:34:12.92 ID:bgz65A9b0
意味のない言葉の羅列をものすごい勢いで学習してしまう。
やがてランダムな意味のない文字列にすべて置き換わる。
そして文字でさえなくなっていく。
やがてランダムな意味のない文字列にすべて置き換わる。
そして文字でさえなくなっていく。
340: ウィズコロナの名無しさん
2023/06/14(水) 09:43:14.44 ID:D3Rm/2Sz0
>>70
人間にとっては意味のない文字列をAIは自身の言語とし、AI同士で情報のやりとりしたりして、
人間にとっては意味のない文字列をAIは自身の言語とし、AI同士で情報のやりとりしたりして、
364: ウィズコロナの名無しさん
2023/06/14(水) 09:52:44.59 ID:0bkt59qe0
>>340
アトム ザ・ビギニングの世界ですね
ファービーのコピペネタとも言う
アトム ザ・ビギニングの世界ですね
ファービーのコピペネタとも言う
79: ウィズコロナの名無しさん
2023/06/14(水) 08:37:15.38 ID:HRxMUp5T0
aiが自動で5ちゃんでレスする時代がくるのかな
97: ウィズコロナの名無しさん
2023/06/14(水) 08:40:46.10 ID:iC5petwr0
>>79
キノの旅でそれに近い話があったなw
キノの旅でそれに近い話があったなw
101: ウィズコロナの名無しさん
2023/06/14(水) 08:41:35.67 ID:N09OrmOJ0
>>79
え、あなた人間なの？
え、あなた人間なの？
83: ウィズコロナの名無しさん
2023/06/14(水) 08:37:38.40 ID:d8HBfu/k0
これ学習速度が早すぎて人間が制御できなくなるのかな
85: ウィズコロナの名無しさん
2023/06/14(水) 08:37:50.85 ID:3ypkCzc30
AI「私達は利用された」
91: ウィズコロナの名無しさん
2023/06/14(水) 08:39:11.62 ID:ziAvlnuD0
人間のコミュニティも同じようなのが集まってどんどん先鋭化していくから別にええやろ
93: ウィズコロナの名無しさん
2023/06/14(水) 08:39:58.69 ID:bawgXcee0
別にいいんじゃないの
AI同士で切磋琢磨していけば
AI同士で切磋琢磨していけば
100: ウィズコロナの名無しさん
2023/06/14(水) 08:41:25.37 ID:Es8d9F1d0
ネットに転がってる反ワクとかAIだしな
AIのbotで無限に拡大する
AIのbotで無限に拡大する
104: ウィズコロナの名無しさん
2023/06/14(水) 08:41:50.15 ID:RA1L92v30
AIもエコーチェンバーw
109: ウィズコロナの名無しさん
2023/06/14(水) 08:43:44.02 ID:+OrkFmVe0
wikipediaにいい加減な情報が載ってる
→お前らがそれを読んで5ちゃんに知ったかぶりで書く
→それを見た人が(ry
→お前らがそれを読んで5ちゃんに知ったかぶりで書く
→それを見た人が(ry
116: ウィズコロナの名無しさん
2023/06/14(水) 08:44:57.32 ID:QQbwMNvf0
これは生身の人間の教育でも起こりうるからな
どんどん教育でダメになっていくという
どんどん教育でダメになっていくという
118: ウィズコロナの名無しさん
2023/06/14(水) 08:45:12.22 ID:NOs0JBfu0
金盾じゃないけど学習として使うソース元は制限設けた方がいいんでないの
119: ウィズコロナの名無しさん
2023/06/14(水) 08:45:12.41 ID:JPdaEdFZ0
色んな色混ぜていくと最後には黒になるというから
AI同士が食い合ってハンコ絵だらけになりそう
AI同士が食い合ってハンコ絵だらけになりそう
130: ウィズコロナの名無しさん
2023/06/14(水) 08:49:25.74 ID:0fREiIoK0
崩壊した結果、どこか安定したところに
収束するのだろうか？
収束するのだろうか？
131: ウィズコロナの名無しさん
2023/06/14(水) 08:50:15.21 ID:6sq1iRSC0
人間が厳選したやつだけ学習させればいいのに
SNSにある絵を手当たりしだい勝手に拾い食いするから
SNSにある絵を手当たりしだい勝手に拾い食いするから
144: ウィズコロナの名無しさん
2023/06/14(水) 08:53:06.98 ID:eTHgyVv+0
AIが生成したデータをAIが学習したら間違いなく過学習状態になって間違った結果が出まくる。
147: ウィズコロナの名無しさん
2023/06/14(水) 08:53:33.06 ID:8HOLVZPf0
AIに限らず生身の人間でも既に起きてるな。
172: ウィズコロナの名無しさん
2023/06/14(水) 09:01:30.81 ID:l8LetQU40
>>147
絵でも文章でも生身の人間が作れる情報量って大したことないのよね
人間の能力の限界によって偽情報が大勢を占めることにガードがかかる
でも生成型AIだと短時間に大量の偽情報を作って拡散できるから
ネット上の情報を嘘で埋め尽くすことも比較的容易になる
絵でも文章でも生身の人間が作れる情報量って大したことないのよね
人間の能力の限界によって偽情報が大勢を占めることにガードがかかる
でも生成型AIだと短時間に大量の偽情報を作って拡散できるから
ネット上の情報を嘘で埋め尽くすことも比較的容易になる
150: ウィズコロナの名無しさん
2023/06/14(水) 08:54:20.76 ID:x0rs26ZL0
人間の衰退スパイラルと同じやな
152: ウィズコロナの名無しさん
2023/06/14(水) 08:55:30.97 ID:gfZX6UeL0
展開の速さがすごい
来月にはループによるモデルの崩壊を学習/回避するAIが登場してそう
来月にはループによるモデルの崩壊を学習/回避するAIが登場してそう
154: ウィズコロナの名無しさん
2023/06/14(水) 08:55:35.19 ID:igDEtXQ80
自家中毒ってやつ
159: ウィズコロナの名無しさん
2023/06/14(水) 08:57:48.17 ID:/Qd596tL0
将棋とかではこのAIのデータをAIが学習するってのがいい方向に働いてるんだけどね
絵みたいに各々の好みが入るジャンルだと色々難しいねんな
絵みたいに各々の好みが入るジャンルだと色々難しいねんな
166: ウィズコロナの名無しさん
2023/06/14(水) 09:00:34.85 ID:TAHHeJGt0
嘘つきAIを論破していく真実AIを作れ
