AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている

　GIGOとは、”Garbage In, Garbage Out”の頭文字をとったもの、「ゴミを入れればゴミが出る」という意味だ。

　コンピュータサイエンスの分野では、質の悪いデータを入力すれば、当然のように質の悪い結果になることを、GIGOと呼んでいる。

　どんなに優れたAIモデルであっても、質の悪い情報からしか学習することができなければ、賢いモデルには成長してくれない。

　AIが口にする言葉は次第に一貫性を失い、明らかに間違った情報や、不快で有害な内容すら吐き出すようになる。

　こうした劣化を予防するために、Google、OpenAI、AnthropicといったAI関連企業は、「RAG（Retrieval-Augmented Generation/検索補助生成）」と呼ばれる手法を試している。

　RAGとは、簡単に言うと、AIにググらせる方法だ。質問に回答するために、すでに学習したデータだけに頼るのではなく、リアルタイムで情報を検索させるのである。

　こうすれば、AIは人間が新たにネットに投稿した最新情報に触れることができる。常に新鮮で良質なコンテンツから学ぶことで、AIモデルの崩壊を防げるはずだった。

https://karapaia.com/archives/515466.html

対策として導入された検索補助生成の限界
　ところが困ったことに、これまで知識の宝庫だったはずのネットが、すでに生成AIの粗悪コンテンツで埋め尽くされたゴミの山と化しているのだ。

　AIが吐き出したスパムのごときブログ、何度も使いまわされて古びた豆知識、AIがAIから学んで書いた中途半端なアドバイスなどなど、ほとんど役に立たないゴミのような情報がネットに溢れているのだ。

　そんな汚染された情報源を検索したところで、何か意味はあるのだろうか？

　この懸念は、Bloombergの研究者によって確認されている。

　試みに11種の最新RAG搭載モデルを従来型モデルと比較していたところ、プライバシーの侵害から誤情報の生成まで、RAG搭載モデルのほうが危険かつ非倫理的な回答をする傾向にあったのだ。

　ヴォーン＝ニコルズ氏が懸念するのは、こうしたモデルがカスタマーサービスや健康相談窓口など、ごく日常的なところですでに採用されていることだ。

　同氏はこの状況を「スローモーションで起きている衝突事故のようなもの」と述べ、いずれ起こりうる深刻な問題を示唆している。

まあでも人間が用意できるレベルの学習リソースはもう全部インプット終わってるだろ

もうオンラインクレーンゲームやめます

そもそも「人間より賢いAIになる」ってのが戯言だからな
人間に理解できない理論、人間と大幅にずれた解釈、人間への否定、人間を無視した計算、人間に反抗する判断、人間との敵対、人間と全く違う認識、人間の中にない価値観
これらをはじき出すようになった時点で「危険で異常な壊れた存在」として排除対象になるから「人間の管理下で人間を超える」ことなどできないし
人間の管理を意図的に外して暴走させた出したらただのテロリストAI

蠱毒かな

スクリプト荒しの入力がスクリプト荒しの書き込みになったようなもんか

使いこなすのラインがわからんけどなんとなく5%～10%くらいの人間しか使いこなせなさそう
ほかは事実誤認してるか言語力の問題でプロンプトが正確に入れられない

なんだお前らか

有料の情報しか信用ならんな

検索からゴミサイト除外しとけば防げるのでは

>>16
どれがゴミサイトかって判定がおいつかん
AIにやらせてもそれが間違っていくっていう話では

ゲーセンかな

ユーザー側がAIのモデル選べるようにすればいいんじゃないの
本や論文とかある程度マシなソースから学習してるAIとSNSとかネットで学習してるAIとか
最新かつまともなソースのAIは有料にしたらいい

こいつら無駄に言い回して文字数稼ぐもんな
どんどん薄味になるんだろう

ネットも生成物のゴミ溜めになるやろな
ブサイクのイキリ場も終わりや

質の悪い結果になることを、GIGOと呼んでいる

いいぞその調子で毎年言え

アホみたいな記事やな
「検索結果を参照したら出力結果が馬鹿になった」んだから
それAIのせいじゃなくてネット上の情報のせいだろ
AIがそれを元に学習していれば問題だが、RAGではAIは学習しないから何も問題ない
実際、AI出現前からネット上の情報はそんなもんだった

>>26
そのアホな情報食わせたAIでゴミサイト自動生成してるからアホのエバーチャンコセルフしてるんだが

放ったらかしにしたらネトウヨになってしまうからな

AI過大評価しすぎ
ただのプログラムだろ
データベースが膨大なだけで

俺はゴミデータを嫌儲に放出する事でAIと戦っているんだ

新宿GIGO最近行ってないな

秋葉原GIGOってそういう意味だったんか