84044
この手の生成AIは、ネット上に転がってる正誤不明な情報を無断で集めて適当にそれっぽく語るだけだからドヤ顔でかたよったり間違ってる情報を教えてくるケース多い。その程度の信頼性しかない という点は覚えておいたほうがいい
通報 ...
この手の生成AIは、ネット上に転がってる正誤不明な情報を無断で集めて適当にそれっぽく語るだけだからドヤ顔でかたよったり間違ってる情報を教えてくるケース多い。その程度の信頼性しかない という点は覚えておいたほうがいい
今手元にないものを求めて正解の無いアイデア探しみたいな提案をやらせるならともかく、判断はやらせちゃアカンみたいな話は見る
獲ったキノコを見せてこれは食えるキノコか？って聞いたら自信満々にハイ！って答えるイラストとか 確かに食うこと自体は可能だろうけど、食った結果毒に当たるキノコかまでは判断してない(結果、質問者は死亡している)っていう
別の界隈の例だけど、サムネがAI出力の動画はbaitが多かったり。初心者向け動画！→どう考えても初心者の資金で用意できるものではない→投稿者が運営してるRMTサイトに誘導とかね
AIは人間と違って嘘をついても罰せられることも罪悪感を抱くこともないから結果を出力することに専念して平気で不確定情報を投げつけてくるんよね
元データの不正確さもあるけど、学習過程で「正しく答えられたら得点」をやってる影響で「分からない場合も当てずっぽうで回答する」って学生のテストみたいな方針を取るって見たことある。「正しく答えられたら得点、無回答なら0点、間違えたら減点」にしたらマシになるらしいけど、学習データ作り直しになるからね……
まあ答え間違えてもマイナスにならないのであれば、人間でもとりあえず答えとこ！ってなるよね