メンバー紹介

率直な話、件の書込群については初見時より、生成AIの内容のコピーでは、と感じていました。(違ったら大変失礼な話ですが)

大変失礼なこと前提で以下、生成AI方面に強い関心を寄せ、加えてIT方面の片隅で日々収入を得ている者として書き込みます。
見る人が見たら当たり前な内容ですが、まあ警鐘を鳴らす意図も込めて。

なぜ上記のような感想にすぐに至ったかですが、"それら"によって"生成"された文章によく見られる無感情ぶり、それっぽいことをそれっぽく書けている様、加えて言えば地域・文化・歴史的考察を含めた全く異なる話題の書込を数分の内にできてしまっている点から、なんだか"普通の人"ではないなあという印象を抱いたからです。

正直今のgpt-3.5、gpt-4、Geminiなどの生成AIでは当該投稿の文章をそのまま容易に生成できる状態ではないですが、そのままコピペしたわけではないとしても、例えば複数回に分けて生成させたものをうまいこと繋ぎ合わせたり、複数回試行したうえでそれっぽく生成できたものを人力で整理したりすれば、あのフォーマットのあの正確性の文章は私でも作成できるなと思います。

生成AIはその性質上、この掲示板で議論されているような専門的な話題は極めて弱く、目を離すとすぐに事実と異なる文章をあたかもそれっぽく紡ぎ出します。ですから紡がれた文章への責任はまだまだ人が持たねばならない。
ただ、生成AIを専門的話題に活用する際の真の問題は、話題が"あまりに専門的"な場合、使い手も誤りに気づきづらい点にあります。
今回は他の専門家の皆様から"ツッコミ"が多く寄せられたのでそもそも書込自体の信憑性が疑われることとなり事なきを得ました。
でも今後生成AIの技術がより高度になり、より正確な専門的文章を生成できるようになると生成AIによる誤りに我々の誰もが気づけず、ある日第三者が此方の書込を引用したところ事実と発覚して責任問題や信頼性が著しい損なわれる...みたいな事態にも繋がりかねません。
(もし生成AIによるものなのであれば)生成AIの文章は必ずしもファクトではないことを念頭に置いたうえで、書込の内容が生成AIによるものだと注記を挟む必要があったでしょう。

生成AIによるものではありませんが、人間が書込んだ"いかにもそれっぽい文章"が実は嘘八百であることがあとから発覚して大混乱、みたいなことはWikipediaでよく見られますね。
個人的に印象に残っているのはこちらです。嘘でもあまりにそれっぽいものはその道の専門家が丹念に査読を行わねば全く気づかれないものです。

私も日々の情報収集にはいっそう気を遣わねばと再認識させられました。

あとグリグリさんも[110155]で触れられていますが、本件について個人的に気になっているのは「How」よりも「Why」です。
なぜ生成AIである程度手の込んだことをできる知識のある方が、肝心のファクトチェックを飛ばしてこのような投稿をしてしまうのか。その動機が全く理解できません。

---------------------------------------

ちなみに個人的には生成AIを情報収集の手段として使うのは微妙だと思います。
色々専門書や記事を読み齧ってると日本は生成AIを情報収集に使いたがる傾向にあるようですが、米国はじめ諸外国ではアイデアの発散やブレストにより使おうとする傾向があるようで、私も本来はそういう使い方が正だと思っています。

だからこの「落書き帳」での書込に生成AIを生かしたいのであれば、
・ネタが欲しい時のアイデア出し
・文章の誤字脱字チェック
・分析書き込みをする際の「あの分析がしたいけどどの関数を使えばいいんだっけ？」

みたいな使い方が適切だと思っていたり。