コンテンツにスキップ

英文维基 | 中文维基 | 日文维基 | 草榴社区

利用者:舌先現象になります/AI生成・LLM使用が疑われるページの調査

このページは、AI生成に関する方針策定を目的とし、将来的なガイドライン整備や管理で役立つ可能性を考慮してAI生成に関する先行事例を収集しています。このページについて提案や質問・生成AI記事に関する情報提供がある場合は、このページのノート・会話ページにてお知らせお願いします。議論保存のためにノートに移動する場合があります。

LLM生成の疑いがある記事・AI生成として削除された記事を調査する目的で作成。

実際に出力した記事の保管場所「/LLM使用例」も参考になるかもしれません。現状、どのようにしてAI生成の記事が作成されているのか分りません。（作成者に聞くべきなのか..）

データ収集の目的

[編集]

このページは、AI生成に関する方針策定を目的とし、将来的なガイドライン整備や管理で役立つ可能性を考慮して、事例を収集しています。疑いのある編集を行った加筆者・作成者を晒す目的は一切なく、編集者の傾向などを知る一つの手がかりとして掲載してます。

現時点ではAI生成文章を技術的に確実な識別方法が存在しないため、暫定的に主観に基づく判断を採用せざるを得ない状況です。そのため、編集者の判断に基づき、幅広くデータを収集する方針をこのページは採用しています。客観的に判断できる特徴・技術ができた場合は早急にこのページの方針を変更します。

現在あるガイドライン・方針

[編集]

AI生成で出力された文章の扱い

[編集]

Wikipedia:大規模言語モデルの利用より引用。 基本的にLLMで作成したと思われるコンテンツは、事実であることが証明されない限り、捏造された情報として扱われます。AIモデルは本、論文やウェブページなどの出典を作り上げることが知られているため、まずは出典にある情報源が実在するかを確かめ、その後本当に情報源の記載に沿っているかを検証する必要があります。以上の証明が不可能である場合は、対話の結果によってLLM生成のコンテンツは除去されます。

AI生成疑惑で参考になるかも知れないページ

[編集]

現状考えられるAI生成の特徴

[編集]

個人的主観

[編集]

個人的に思うAI生成を利用していると考えられる特徴をあげる。なお、出典によるものではなく経験によるもの。

  • 「"は以下の通りです："」「"は以下の目的で使用されます："」 - AI生成で説明される際に、「"～～は以下の××です："」と書いてから箇条書きで説明される。そしてタイトルにはコロン（：）を使用し、箇条書きは「1. 〇〇。」「」などで出力される。これは英語表現で順番関係ない箇条書きを表す際に、箇条書きのタイトルとなる文章は「：（コロン）」で結ぶのが要因だと考えられる。「日本語 | ログイン 🇯🇵」の場合は半角のコロン「:」が使用される。
  • 見出しと"出だしの主語"が同じ - 節の見出しはその節の内容を表すため、本来、見出しに出た用語をわざわざ節の冒頭で再び主語として使用する必要はない。しかし、AI生成の場合、どこにかかっているのか確実なものにするためにわざわざ見出しで出た用語をそのまま最初の主語にしていることが多い。

AI生成の疑いで出された議論

[編集]
  • Wikipedia:コメント依頼/Shohei KIMURA - chatgptを使用していたことを公言。Apple Neural Engineを除く全ての作成記事は全般8で即時削除された。
  • Wikipedia:コメント依頼/Yukimaru11 - 作成記事が実在する事象ではあるものの、記事の内容に虚偽が混ぜられているためコメント依頼。一部の記事で虚偽出典・虚偽情報を掲載している疑いがわかったものの、すべての記事を精査するのに長時間かかっている。

LLM生成の疑いがある記事（主観）

[編集]

AI生成と確定できなくても、文章構成が明らかに不自然・AI生成の特徴があると感じた場合には、データ収集対象として記載してください。AI生成かどうか判別するツールは、信頼性がないため、参考程度にとどめ最終的には主観で判断してください。データを集めることが重要なので疑いが少しでもある場合は記載してください。

特徴が見られる記事一覧

[編集]

生成AIを使用したと思われる根拠も追記。 問題が解決したものは を先頭に貼り付ける。

一部の特徴が見られる記事一覧

[編集]

AI生成されたと断定できないものの、通常の執筆にはあまり見られない特徴【同じ主語が複数回でる・構成が似ている・出典のリンクが概要であるなど】が含まれている記事。あくまで特徴に基づいた印象であり、断定的な判断ではないことをご了承ください。生成AIを一切使用せず、たまたま似たような文章になった可能性があり、まっとうな執筆者のモチベーションを下げる可能性があります。生成AIを使用している記事と勘違いされる記事の比較を将来的に行いやすいように掲載します。

虚偽の可能性がある記事

[編集]

AI生成の特徴が見られないものの、実在や実態が確認できない記事。虚偽または誤解を招く情報を事実として提示する応答によって作成された疑いがあるため（ハルシネーション (人工知能)）、将来的に識別できる可能性を考慮してAI生成の特徴が見られなくとも掲載する。 掲載する場合は

  1. チャットGPTが出始めた2022年12月以降に加筆された内容[注釈 1]
  2. 実在を確認できない・加筆者に問い合わせても出典が提示されないもの[注釈 2]

とする。

似た記事

[編集]

AI生成の特徴に似ているの記事。AI生成したものと人力によるものを見分けれるように掲載。英語版の方の問題・舌先がAI生成との見分け方が分かっていない可能性がある

AI生成文章を転載した編集の一覧

[編集]

加筆や除去など、記事作成ではないがLLMの文章を貼り付けた編集の可能性が高いもの。管理行為においての事例を集めるために収集。

未分類

[編集]

外部リンク

[編集]

脚注

[編集]

注釈

[編集]
  1. ^ それ以降に追加された虚偽情報は、ハルシネーションされた疑いがあるため
  2. ^ ネット上にはない出版された書籍に掲載されている場合があるため

出典

[編集]
「https://ja-two.iwiki.icu/w/index.php?title=利用者:舌先現象になります/AI生成・LLM使用が疑われるページの調査&oldid=103111459」から取得