ノート:人工知能

科学研究にAIを応用した事例

科学と人工知能の関係を扱った項目が少ない、あるいは無さそうに見える。例えば脳の連続切片画像から神経細胞を自動認識するCNNだったり、第一原理計算の一種であるDFT計算を高速化する深層学習であったり、宇宙論のシミュレーションを効率化する深層学習だったり。こういった類のAIもどこかに追加すべきではないか。--ALpha4096（会話） 2023年5月12日 (金) 11:55 (UTC)

第五世代コンピュータ

どこかに第五世代コンピュータを入れたいですね。0null0 06:36 2003年11月26日 (UTC)

済。 --2001:268:C083:C036:8CAD:C77D:FFBA:1D64 2021年11月28日 (日) 10:07 (UTC)

CPUとの違い

AIはCPUより高性能--ソウルスナイパー 2008年8月24日 (日) 21:28 (UTC)

外部リンク修正

編集者の皆さんこんにちは、

「人工知能」上の2個の外部リンクを修正しました。今回の編集の確認にご協力お願いします。もし何か疑問点がある場合、もしくはリンクや記事をボットの処理対象から外す必要がある場合は、こちらのFAQをご覧ください。以下の通り編集しました。

• http://www.spice.ci.ritsumei.ac.jp/~thangc/programs/japanese.htmにアーカイブ（https://web.archive.org/web/20111028215729/http://www.spice.ci.ritsumei.ac.jp/~thangc/programs/japanese.htm）を追加
• http://www.philosophytalk.org/pastShows/ArtificialIntelligencePilot.htmにアーカイブ（https://web.archive.org/web/20071011062703/http://philosophytalk.org/pastShows/ArtificialIntelligencePilot.htm）を追加

編集の確認が終わりましたら、下記のテンプレートの指示にしたがってURLの問題を修正してください。

ありがとうございました。—InternetArchiveBot (バグを報告する) 2017年9月25日 (月) 07:52 (UTC)

トップ棋士に勝利した将棋AI

第1期と第2期電王戦のPonanzaを指していると思われますが、第2期電王戦のヴァージョンまではディープラーニング使ってないんですが、どう修正するべきですかね？--118.2.65.181 2018年7月2日 (月) 10:28 (UTC)

2018年11月13日 (火) 13:36‎ 153.180.166.167 の変更について

Nasqn 様

＞＞ (ADMIS Walkerさんの取り消しでは、冒頭の説明だけでなく加筆箇所（153.180.166.167さんの編集の大部分）も取り消されてしまっています。また、加筆箇所によれば現状は「定義を覆す研究が発表され続ける」状況とのことですので、”西暦に依存しない一般的な説明”が可能かどうか、疑問が残ります。一旦差し戻しさせて頂きます。)

　リファレンスを持っていないのですが，雑に「その時代に最も知的なコンピュータ・プログラムを，人工知能と呼ぶ」とする人もいます（それでもこちらの方がまだ一般的）．こうした発想から，現在最も知的（複雑な処置をこなせる）コンピュータ・プログラムを用いた機械学習手法であるディープラーニングのことを，雑に人工知能と呼ぶ人々は確かにいます．13日の編集では，こうした雑な定義を引用して，『2018年現時点で人工知能とは「ディープラーニング」そのもの』と編集されたように思います．しかし，このような編集は，ただの機械学習手法の一つに過ぎないディープラーニングはなぜ人工知能なのか？そこのどこに知性があるのか？といった話になる訳です．人工知能の定義を無理に「現在において実在する最も人工知能に近い気がするコンピュータ・プログラムによる機械学習手法」へ変えてしまうべきではありません．これは定義をねじ曲げています．

　13日の編集では，田中潤 氏の書籍に感化されて多くの引用を見られますが，田中潤 氏による定義が知りたければ，田中潤 氏の書籍を読めば良いわけであって，wikipedia として記載するのであれば，いい加減な定義ではなく，初学者から研究者まで納得できる，一般性のある定義を目指して欲しいと思います．

　また，多くの箇所で変更があったようですが，概要中に「その他」をねじ込んだり，記事全体の整合性が考慮されていません．編集が非常に手間のかかる作業であることは承知しておりますが，もうかなり頑張る必要があると思います．

　従って，せっかく編集頂いたにも関わらず，残念ではありますが，私はこの編集を差し戻す必要があると考えます．--ADMIS Walker（会話） 2018年11月21日 (水) 12:34 (UTC)

返信 ADMIS Walker様

Nasqnからお返事させていただきます。ADMIS Walkerさんの観点から見たご判断について、私なりに理解できたかと思われますが、Wikipediaの方針・ガイドライン等から見た場合、もう少々検討が必要ではないかと思われます。

Wikipediaにおいて「三方針は議論の余地がない」もので、「すべての利用者が従うべき」であり、「これら三つの方針は相互に補完しあう」と定義されています。その一つ、「Wikipedia:検証可能性」では

＞＞ウィキペディアに執筆してよいかどうかの基準は「真実であるかどうか」ではなく「検証可能かどうか」です。

＞＞出典が明示されていない編集は、誰でも取り除くことができます（出典のない記述は除去されても文句は言えません）。

とされています。しかし当記事は出典の無い記述が多く、それらはいつ除去されても、方針上おかしくございません。ADMIS Walkerさんの仰る”記事全体の整合性”が具体的に何であるのかやや掴みかねますが、記事全体の方針との整合性を考えますと、153.180.166.167さんが編集なさる以前から当記事は相当の問題があるのではないか、と思われます。例えば方針「Wikipedia:ウィキペディアは何ではないか」では、

＞＞あなた自身の考えや分析を発表したり、未発表の新情報を発表したりする場所ではありません

＞＞掲載すべきは専門家たちの共通見解です

とされており、この点でも当記事は、全体的にWikipediaの定義する「記事」に反しているのではないかと見えます。ちなみに、「Wikipedia:検証可能性」でも

＞＞読者は、あなたが誰なのかを知りません。（中略）たとえあなたに連絡がとれるようになっていたとしても、閲覧者があなたを信じる理由がどこにあるでしょう。

とされています。

また、「Wikipedia:中立的な観点」で「一般的には、出典を明記した情報である場合（中略）単に削除する手法は避けてください」と定義されています。改善方法としては主に二つ掲示されており、

＞＞文や説をもっと中立的な言い回しに書き換えられないか試みてください

＞＞偏った情報は、たいていの場合、信頼できる他の情報源からの出典を加えることで、より中立的な観点に修正することができます

とあって、「中立性に関する問題は可能な限り編集によって解決すべきです」とされています。当記事に関して申し上げますと、153.180.166.167さんが加筆に用いられた『誤解だらけの人工知能』（田中潤・松本健太郎）は、特に問題のある情報源とは思われず、仮に問題があるとしたら「単に削除する手法は避けて」、「信頼できる他の情報源からの出典を加えることで」記事を改善できるのではないだろうか、というのが現時点での私の疑問の一つです。

また、方針・ガイドライン等のルールを踏まえますと、ADMIS Walkerさんの仰る”雑な定義”、”定義をねじ曲げてい”る箇所、”田中潤 氏による定義が知りたければ，田中潤 氏の書籍を読めば良い”等が、ルールのどの箇所に基づいているのか、分かりかねるところです。ある程度の確実性をもって一つ申し上げるとすれば、”初学者から研究者まで納得できる，一般性のある定義”を掲載することは、「掲載すべきは専門家たちの共通見解」（WP:FORUM）だという方針の存在故に、難しいかと思われます（「専門家たちの共通見解」に対し”初学者”は”納得できる”のか、専門性のある共通見解は”一般性のある定義”となり得るのか、といった問題があるかと思われます）。

その他、153.180.166.167さんの編集によって「Category:心の哲学」が除去され、「Category:計算機科学」が追加されております。この除去・加筆は、『日本大百科全書』の項目「人工知能」（佐藤理史）[1]および、当記事に掲載された学者の哲学批判を参照する限り、適切であるように私には思われます。ADMIS Walkerさんとしては、この除去・加筆もルールに反している――つまり取り消しの必要性がある――とお考えでしょうか。

諸事情で時間が限られており返信も限定的なものになってしまったかもしれず申し訳ございませんが、ご検討いただけますと幸いです。--Nasqn（会話） 2018年11月21日 (水) 14:05 (UTC)

返信 Nasqn 様

>> 153.180.166.167さんが編集なさる以前から当記事は相当の問題があるのではないか

　申し訳ありませんが，13 日以前の編集について，ここで議論するつもりはありません．問題が無いとは思いませんが，話が大きくなりすぎます．

＞＞ウィキペディアに執筆してよいかどうかの基準は「真実であるかどうか」ではなく「検証可能かどうか」です。

　「検証可能」であれば，間違いを修正できるというだけであって，真実であることはより望ましいはずです．

>>また、「Wikipedia:中立的な観点」で「一般的には、出典を明記した情報である場合（中略）単に削除する手法は避けてください」と定義されています。改善方法としては主に二つ掲示されており、

　確かに，出典が明記されていますが，この出典の内容が，

>>専門家たちの共通見解

とは考えにくく，一人の著者の考え方をあまりにも全面に押し出しすぎていると思います．せいぜいが一意見として，「2018 年現在では，ディープラーニングを人工知能とみなす人々も一部にはいる」程度の加筆ですが，そもそもこの加筆も意見は，専門家たちの間において，少なくとも共通認識ではないと考えています．（どちらかというと，ディープラーニング＝人工知能というのは，経営者のビジネストークとして使われる場合が多いと思います．）

>>”初学者から研究者まで納得できる，一般性のある定義”を掲載することは、「掲載すべきは専門家たちの共通見解」（WP:FORUM）だという方針の存在故に、難しいかと思われます（「専門家たちの共通見解」に対し”初学者”は”納得できる”のか、専門性のある共通見解は”一般性のある定義”となり得るのか、といった問題があるかと思われます）。

　確かに簡単では無さそうです．理想としては，「初学者から研究者まで納得できる」だとは思いますが．．．

>>「Category:心の哲学」が除去され、「Category:計算機科学」が追加されております。この除去・加筆は、『日本大百科全書』の項目「人工知能」（佐藤理史）[1]および、当記事に掲載された学者の哲学批判を参照する限り、適切であるように私には思われます。

　すみません．気がついておりませんでした．「計算機科学」の追加は問題ないと思います．「心の哲学」の除去については，（すみませんどの批判のことかよくわかりませんですたが），「哲学とAI」の項目で「哲学者たちは2000年という長い間、ほとんど何も成果を残してこなかった。」等の話であれば，リンク先について批判的であるというだけで，リンクする事自体には問題ないのでは？（学術的な繋がりは無いと思いますが，科学史的な繋がりを考えるのであれば，です）．（ただし，別の考え方があれば削除するかもしれません．）

＞＞文や説をもっと中立的な言い回しに書き換えられないか試みてください

＞＞偏った情報は、たいていの場合、信頼できる他の情報源からの出典を加えることで、より中立的な観点に修正することができます

　ですが，全体のストーリーとして，一本道で描かないと，読者は混乱します．「一部でなになにという意見がある」が，これは，「こうこうこうである」と説明することはできますが，wikipedia は間違い集ではないので，良いアイデアであると思いません．（あるいは良くある考え方との一例として紹介することはあるかもしれませんが，少なくとも全面に押し出す話ではありません．）

　私自身は，今回の編集は，あまりに一人の著者の意見が全面に出過ぎていると考え，差し戻しを行いました．細かい点に関して，抜けがあったことは事実でありますが，大きく編集して戻すことは，より編集抜けを発生させかねないため，一度全て差し戻した後に，必要であれば再度編集すべきだと考えています．お互いに時間が無い中ではありますが，ご検討をお願いいたします．--ADMIS Walker（会話） 2018年11月21日 (水) 15:42 (UTC)

横からすみません。私はADMIS Walkerさんの意見に全面的に賛成です。「2018年現時点で人工知能とは「ディープラーニング」そのもの」という個所を加筆したIPさんは、おそらく出典を誤読したのではないかと考えています。出典自体は読んだことがないので現在取り寄せていますが、著者の他の文献を読むと(ADMIS Walkerさんの表現を借りれば)こんな「雑」な意見を世に発するような人とは到底思えません。むしろ「2018年現在は人工知能=ディープラーニングという浅はかな考えが蔓延している〜」と警鐘を鳴らす立場の人に見えます。出典にもそのような警鐘を鳴らす意味合いで書かれていたにも関わらず、IPさんが1部分だけを切り取って問題の冒頭文になってしまったのではないかと推測します。

もし仮にIPさんの誤読ではなく本当に著者が「2018年現在は人工知能=ディープラーニング」と主張していたとしても、そのような一般的な人工知能に対する考え方とかけ離れた意見を冒頭文に記述するのは、人工知能という概念・学問・技術をあまりにも軽視しすぎているし、それを差し戻すことは何ら問題ないでしょう。1個人の意見として帰属化してどこかに紹介する程度にとどめるべきです。学術分野の冒頭文って、そのぐらい重い存在ですよ。

方針文章はあくまで文字列にすぎず、それをどのように解釈し、どのように現実的な記事に反映させていくのかが大事ではないでしょうか。方針文章の文字列だけを引っ張り出してきて議論するのではなく、そこから一歩先に進んで欲しいと一部の議論参加者に対して強くお願いします。--むよむよ（会話） 2018年11月26日 (月) 02:27 (UTC)

横から失礼 ちょっと目に留まったので。1章冒頭の記述だったため電子書籍版の試し読みで確認出来ました。警鐘を鳴らすものではありませんでしたが、人工知能とは？と問われた著者が自分の解釈としてそう思っていると断ったうえでの答えでした。ご参考までに。--t=mozo（会話） 2018年11月26日 (月) 02:52 (UTC)

返信 Nasqnからお返事いたします。

ADMIS Walker様

要点から申し上げますと、153.180.166.167さんの編集を取り消し（差し戻し）することに、強く反対はいたしません。「以前から当記事は相当の問題があるのではないか」と先述しましたように、153.180.166.167さんの編集があっても無くても、あまり当記事の質は変わりないように思われるからです。

＞＞「検証可能」であれば，間違いを修正できるというだけであって，真実であることはより望ましいはずです．

Wikipedia外ではそれでよろしいかと思われますが、方針で「個々の編集者が真実であると思うかどうかには関係ありません」（WP:V）とされているため、それは難しいかと思います。方針のこの文言はよく引用されているものですし[2]、管理者のKs aka 98さんも「何が真実かを決定するのは、特定の個人ではなく、またウィキペディアンの一人ではな」いと仰っています[3]。

「心の哲学」については、そういうことでしたら現時点では、特に除去する必要は無いかと思います。

＞＞そもそもこの加筆も意見は，専門家たちの間において，少なくとも共通認識ではないと考えています．

そうかもしれませんね。WP:RSで、「もっとも信頼できる」とされている情報源は「査読された公表物」、「その分野の書き下ろし教科書」、「大学で使われる教科書」とありまして、査読済み公表物（学会誌論文）での人工知能の定義を調べたところ、

• 「研究者間でも人工知能の定義は明確ではなく、「人工知能とは」を議論するだけで一冊の本ができてしまうくらいである。」
  （江間有沙・長倉克枝・武田英明「公開討論：人工知能学会倫理委員会」2016年 866頁）
• 「意識調査の多くは人工知能の定義を “Human-Level Machine Intelligence: HLMI” や “the ability of computers and machines to carry out decision-making and thought processes similar to humans, sometimes referred to as computers being able to think for themselves” など人間と同等、あるいは人間を超える知的な機械としている。」
  （江間有沙・秋谷直矩・大澤博隆ほか「運転・育児・防災活動, どこまで機械に任せるか：多様なステークホルダーへのアンケート調査」2016年 322頁）

とされていました。

むよむよ様

なるほどと感じた箇所もあるのですが、”ADMIS Walkerさんの意見に全面的に賛成”されるとなると、「真実」に関する点でいくらか問題があるのではないかとも感じられます。

なお、153.180.166.167さんが出典として使用された『誤解だらけの人工知能』で、ディープラーニングに関する頁を確認しましたところ、田中潤氏は”2018年現在は人工知能=ディープラーニング”と見なしている模様で、次のように述べていました（太字と下線は原文を再現したものです）。

• 「僕が思うに、2018年現時点で人工知能とは「ディープラーニング」そのものです。そして重要なのは、ディープラーニングを使って何ができるかだと考えています。」（26頁）
• 「ものすごく簡単に言うと、ディープラーニングとは「分類」ができます。」（27頁）
• 「「人工知能は○○だ」と定義するだけ無駄である
  一口にディープラーニングと言っても、色んな種類があります。」（29頁）

この書籍は対談形式であり、上述の田中氏の発言は、最初の松本健太郎氏からの発言に対する回答になっています。松本氏の発言は次のものです。「実のところ、人工知能学会ですら人工知能について正確に定義できていません。図1 - 1は、人工知能学会に属する研究者たちの定義をまとめた表です。東京大学の松尾豊先生は「人工的に作られた人間のような知能、ないしはそれを作る技術」と表現され、京都大学の長尾真先生は「人間の頭脳活動を極限までシミュレートするシステム」と表現されています。」（24-26頁）

＞＞学術分野の冒頭文って、そのぐらい重い存在ですよ。

それでしたら、学術論文や大学教科書等に基づいて冒頭文を記述するべきであるという風に、むよむよさんはお考えでしょうか（現在の当記事の冒頭文は三次資料（百科事典）に基づいています）。そのような記事編集が、”一歩先に進んで欲しい”とむよむよさんの想定されていることに適っているかは確信できかねますが、少なくともWP:RSにより従った記事になるかと思います。

t=mozo様

紙版で確認したところ、仰る通りかと思います。--Nasqn（会話） 2018年11月29日 (木) 06:50 (UTC)

Nasqn 様

ありがとうございます．承知いたしました．

　ところで，

＞＞”一歩先に進んで欲しい”

というのは，そう，難しい話をしているのではなくて，このノートの本来の役割は，方針文章やWP:RSについての議論ではなく，どのように編集をすれば，より良い記事になるかを議論することである，というそれだけの話ではないでしょうか．むよむよ様は「学術分野の冒頭文」の存在は重い，といっているだけであって，この時点で「学術論文や大学教科書等に基づいて冒頭文を記述するべき」と明言はしていません．深読みして拡大解釈をしています．考え過ぎです．--ADMIS Walker（会話） 2018年11月30日 (金) 11:36 (UTC)

全く動きが無いなと思ったらウォッチリストに入れておりませんでした。遅くなりましたがNasqnさんに返信いたします。出典を確認いたしましたが、やはり冒頭部に記載するのは強く反対します。この手のライトな対談本で、ある技術者がさらっと述べた一節をもって、何十年もの歴史がある学術分野の冒頭部の定義文を書きかえてしまう行為を、私は心底「浅い」と感じます。もっと言えば「おこがましい」とも形容できます。

冒頭部の定義文ってのは、通説を書くべきです。通説とは、さまざまな研究者が「だいたい似たようなことを言っている」ってことです。あなたが色んな記事の冒頭部などでおやりになっていることは、自分がたまたま目にした一部の出典を「これは信頼のおける出典だから使える」と方針を悪用して編集強行しているだけにすぎません。

いいですかNasqnさん。世の中ってあなたが思っている以上に複雑で、多種多様な意見や考え方があるんですよ。Nasqnさんの視界に入った出典や考え方とやらは、そのごくごくごく一部に過ぎません。そのたまたま目についたごく一部の出典を採用して、人工知能や心理学のような歴史のある学術分野や、天皇や日本国憲法や立憲君主制などの超重い分野の冒頭部・根本部分を書き換えようとするから、色んなところでトラブルを起こすのではないですか？人工知能や天皇や憲法について詳しい人ほど、多くの出典に触れ、多くの考えがあるとわかっているから、ごく一部の出典を採用して冒頭部をガラッと書き換えるなんて軽くておこがましい行為はしないんですよ。 月例祭さんにも似たようなこと言われてませんでしたか？

強調したいのであえてもう一度繰り返します。「何十年もの歴史があり、ディープラーニングどころかニューラルネットワーク以外にも要素技術がたくさん存在する人工知能において、ここ数年勃興してきた技術のみが人工知能であると述べている、ライトな対談本の1技術者の言葉のみを出典に採用して、人工知能の冒頭部を断定的に書き換える」という行為は、非常に浅いと感じませんか？せいぜい記事中の一節を使って「〜は人工知能=ディープラーニングと述べている」とか「人工知能=ディープラーニングという考えも存在する」と軽く書く程度です。--むよむよ（会話） 2018年12月18日 (火) 08:07 (UTC)

工学とは

「工学〔エンジニアリング〕とは」の辺りは「人工知能」記事の冒頭定義・解説としては脱線ではないかと思います。「工学」記事ならいいのですが。 --2001:268:C083:C036:8CAD:C77D:FFBA:1D64 2021年11月28日 (日) 10:07 (UTC)

[4] 済 --2001:268:C085:C497:1136:B729:61B0:860 2022年1月28日 (金) 08:51 (UTC)

上記のユーザーはどちらも荒らしとしてブロック済み。--223.134.208.242 2022年4月28日 (木) 08:49 (UTC)

科学や応用科学等に関する記事の出典は主に専門的科学資料

人工知能を含む科学（理学）、工学、理工学、応用科学などに関する記事を編集されている方々が、報道記事やニュースを出典として多用なさっているのを見かけてきました。
すみませんが、そういった科学関連の記事を編集される際は、以下のウィキペディアのルールに従って、科学論文や科学専門書などを主な出典として用いていただきたく思います。

ウィキペディアのルールは大きく分けて、方針とガイドラインがあります。
方針は「多くの利用者に支持されており、すべての利用者が従うべき」とされています。とりわけ三大方針は

「議論の余地がないものであり、他のガイドラインや利用者同士での合意によって覆されるものではありません」[5]

と、かなり一方的に決められています。

それで三大方針の一つ「検証可能性」では、こうなっています。

記事には、信頼できる情報源が公表・出版している内容だけを書くべきです。

信頼できる情報源を欠く編集は、除去されるのもやむを得ません

そして、学術に関する記事においてどんな情報源が適切なのかという指定も、「検証可能性」に含まれています。

学術的な主題については、なるべくピアレビュー（査読）を経た情報源を用いるべきです。

つまり、なるべく査読済み学術論文を出典として用いるべきということなんです。科学や応用科学では、その分野の査読済み学術論文になるでしょう。

なお検証可能性は、「信頼できる情報源」という名前のガイドラインの一種と関連深いです。ガイドラインは「多くの利用者が基本的に同意しており、従うことが推奨されます」。
このガイドライン上、「もっとも信頼できる」情報源は「その分野の書き下ろし教科書で」あり、「一般的に、大学で使われる教科書」とされています。同時に、「一般的には査読された公表物はもっとも信頼できると考えられ、権威づけられた専門家による公表物がそれに次ぎます」。 他にもガイドライン「信頼できる情報源」は、このように指定しています。

科学では一般向けの出版物からの引用を避ける

一般読者向けの出版物はたいてい、科学を適切に報道していません。新聞記事や一般雑誌は、実験結果を判断するための前後関係を欠いている場合が一般的です。どんな結果でもその確実さを過剰に強調しがちです。＜中略＞
一般向けの新聞や雑誌の情報源はたいてい、科学や医学の記事に対しての情報源として信頼できません。

一般に、著名な学術団体によって公刊される学術誌は、商業的な出版社によって作られるものよりも、より質が高いと言えます。アメリカ科学振興協会の学術誌サイエンスはとりわけ最も高く評価されており、ネイチャーとセル (雑誌)はすぐれた非学会系の刊行物です。

出典には絶対に査読済み学術論文か大学教科書を用いねばならない、とか、出典にジャーナリズム系資料を用いるのは決して許されない、というようなことではもちろんないです。
それでも専門的学術資料と報道的資料とでは、ウィキペディアのルール上での扱いに大きな差があり、その差は科学や科学技術などの記事編集において特に顕著です。よって、ウィキペディアを編集なさる限りはどうぞそのルールに従っていただけますと幸いです。--220.144.79.67 2023年3月17日 (金) 08:14 (UTC)

いくつかルールやガイドラインについて独自解釈に基づいた誤解をされている点があると存じます。ウィキペディアのルールやガイドラインに従って、信頼性の高い情報源を使用することが重要であることは議論の余地がなく正しい主張です。しかし、あなたの主張には誤解があります。

まずは貴方は「人工知能」の記事が科学や応用科学等に関する記事であるがゆえに、出典は主に専門的科学資料によるべきであると主張されておられますが、Wikipediaの「人工知能」の記事は「科学や応用科学等」のカテゴリ「のみ」に含まれるものではないと思います。個別の要素技術と異なり、人工知能は「科学や応用科学等」に限らず経済、社会、政治、法律、哲学等の多くの分野によって考察の対象となっている大きなトピックの事柄であります。私の編集は英語版Wikipediaからの翻訳に依拠するものが多いですが、もちろん「科学や応用科学等」に限らず経済、社会、政治、法律、哲学等の多くの分野の視点から論じられております。

IPアカウントを使用されていると言うことは、ウィキペディアの編集に不慣れであるとご察ししますが、一般的な編集監修として、主流の報道記事やニュースが無視されるべき情報源ではないということをご理解いただきたいです。ウィキペディアは学術論文と異なり、アカデミアの人間のみならず一般の利用者にも分かりやすい形で記事を執筆する必要があります。専門的な学術論文や専門書だけでなく、一般向けの情報源も適切に取り入れることが求められるのです。--巽光太郎（会話） 2023年3月17日 (金) 10:39 (UTC)--巽光太郎（会話） 2023年3月17日 (金) 10:41 (UTC)

コメントコメント依頼を拝見しました。

巽光太郎さんが指摘のように文脈によりけりということになるだろうと思います。もし具体的に問題と考える事例がありましたら、それを明示して議論した方がスムーズだろうと思います。--巴悟（会話） 2023年3月20日 (月) 02:10 (UTC)

コメント 記事を読み、コメント依頼経由で参りました。この編集[6]で、Template:科学技術研究である「{{科学技術研究}}が除去されていますが、このTemplateはある方が良いのではないでしょうか。

そして現時点の記事[7]は、脚注の一部がTemplate:Harvtxtを使っており、クリックすると参考文献リストの中の対応する文献へ飛べるはずですが、クリックしても飛べません。端的な例は、冒頭部の「ビル・ゲイツや～人類滅亡の可能性を含む、人工知能の将来的な危険性を指摘している[10]」における脚注「Rawlinson (2015)～Sainato (2015)」です（Template:Sfnを使っている部分は問題無い模様）。Harvtxtを使っている部分を修正すべきだと思います。

そしてこの記事は、220.144.79.67さんが仰った「科学や応用科学等に関する記事」というより、「科学や応用科学等が主題の記事」であるかと。実際、本文にもあるように事典・辞典ではAIは

• 「計算機科学（computer science）の一分野」[8]
• 「認識，言語理解，判断，推論，学習，問題解決といった人間の頭脳の働きを研究対象とする学問分野」[9]

等と解説されています。人工知能学会では、

• 諸説ある中の「共通する部分を引き出して，一言でまとめると，『人間と同じ知的作業をする機械を工学的に実現する技術』」[10]

等とされています。『ブリタニカ百科事典』でのAIの項目では、まず項目の種類が「Technology > Computers」[11]、つまり科学技術の中のコンピューターという位置づけです。その本文は

• 「人工知能（AI）、一般的に知的存在に関連している課題をデジタルコンピュータやコンピュータ制御のロボットが実行する能力のこと」（artificial intelligence (AI), the ability of a digital computer or computer-controlled robot to perform tasks commonly associated with intelligent beings.）

です。

巽光太郎さんが仰った「個別の要素技術と異なり、人工知能は『科学や応用科学等』に限らず経済、社会、政治、法律、哲学等の多くの分野によって考察の対象となっている大きなトピックの事柄」というような考えや、その考えに基づく主題をウィキペディアに掲載するのであれば、人工知能をそのように解説・定義している「信頼できる情報源」を出典として用いつつ、「人工知能と社会」「人工知能と人類文明」とでもいうような新しい節の中に掲載するべきではないかと考えられます。場合によっては人工知能の歴史、人工知能アート、フィクションにおける人工知能等のように、「人工知能」とは別の「人工知能と社会」というような記事が必要かもしれません。

AIによる「人類滅亡」リスクについては、人工知能の記事冒頭部で書くべき「最も重要な側面」なのか疑問はあります（今の冒頭部はそれ以外の文章も改善の余地があるように思えますが、一旦脇に置きます）。「Wikipedia:スタイルマニュアル/導入部」では、導入部の役割は「記事を紹介し、最も重要な側面を要約するという役割」です。少なくともコトバンクの辞事典、人工知能学会、『ブリタニカ百科事典』は人工知能を論じる際、人類滅亡について言及している部分は無いように思えます。記事中の学術書も同様です。--Tilestat（会話） 2023年3月23日 (木) 10:09 (UTC)

私の意見を補強する情報源を記載しておきます。

• 「人工知能の定義は、専門家の中でも意見が分かれており確立された定義がない。そもそも人工知能は、数学(統計学他)、工学、言語学、認知科学、計算機科学、 心理学、哲学など多くの学問と関連しており、非常に研究領域の幅が広い」
• 「人工知能が社会に浸透するにあたっては，倫理，法，社会，経済，教育，技術開発など多岐にわたる議論が， 産学官民横断的に国内外で行われている」

別ページに分けるべきだという意見も表明されていますが、技術的な側面だけを強調することは、AIが持つ社会的な影響を無視することになると思いますし、反対します。事実は英語版Wikipediaの記事も同様に多くの分野からの考察を1つのページに集約しているわけですし、完全に分離しようというのは誤った解釈ではないでしょうか？

あとAIによる人類存亡リスクは一般的な議論であります。少しネットを検索するだけでも信頼性の高い情報源はいくらでも見つかりますし、関連する書籍も多く出版されています。英国の著名なコンピューター科学者のスチュアート・ラッセル、ピーター・ノーヴィグらが著者の人工知能に関する標準的な教科書である『エージェントアプローチ人工知能』にも、この問題は記述されていますね。

あと、日本版WikipediaのAI関連記事は英語版に比べて非常に充実していませんので、もし議論に参加する程度に関心がごありでしたら、ぜひ翻訳に協力してください。いくつか候補を絞りましたのでよろしくお願いします。

• en:AI safety
• en:AI alignment
• en:Misaligned goals in artificial intelligence

--巽光太郎（会話） 2023年3月24日 (金) 00:54 (UTC)

巽光太郎さんは記事本文から{{コメント依頼}}を除去編集しておられましたが、ウィキペディアではそのような行為は推奨されておりませんので、詳細はTemplate:テンプレート除去と会話ページを御覧ください。--220.150.148.18 2023年3月25日 (土) 07:16 (UTC)

問題は解決したと考えたため撤去しました。あなたについて、編集妨害目的の目的外利用者の疑いを感じております。IPアカウントで過去に編集経験もないことから考えますと、あなたの行動は不自然です。問題があるから議論しているとおっしゃいますが、そもそも何が問題であるのかもあなたは明確に示しておらず。あなたが提示した論点が不明瞭であり、具体的にどのような編集が問題とされているも不明で、私は適切なエビデンスを示したので議論は実質終了です。したがって「恣意的」にはあたりません。私の編集は英語版を含め、Wikipediaの編集慣習にも合致しております。過去に議論だけを目的にした目的外利用者がブロック対象になったという話も聞いておりますし、貴方の行動はどちらかといえば迷惑行為に分類されるものだと私は認識しております。--巽光太郎（会話） 2023年3月25日 (土) 14:40 (UTC)

返信 (220.144.79.67さん、巽光太郎さん宛) こんにちは、33メルメルと申します。コメント依頼は「議論への参加を広く呼びかける」ものでして、かつこのページについて提出されたコメント依頼は「議論活性化のためのコメント依頼」[12]です。現時点では私は、その依頼（問題）が解決したという確信をいまいち持てません。

まぁいずれにせよ依頼が解決済みな場合は、この記事に貼られたコメント依頼テンプレートだけでなく、コメント依頼ページのコメント依頼自体も撤去に値するんじゃないかなと思います。

なお、IPユーザーだから問題であるという風な直接的ルールはございません。しかしログインユーザーとして活動することは、ルールで推奨されております（「Template:アカウント作成のお願い」）。--33メルメル（会話） 2023年3月30日 (木) 09:25 (UTC)

┌────────────────────────────────────────────────────────────────────────────────────────────────────┘ 返信 (220.144.79.67さん、巽光太郎さん、巴悟さん、Tilestatさん宛) コメント依頼を拝見しました。記事の内容の正誤とは直接的関係が薄いかもしれないですが、記事内に英語出典に基づく記述が多い点、またおおよそ原文引用がされていない点が少々気になりました。「Template:Expand English」があるように、翻訳は記事加筆の手段ではあります。しかしガイドライン上、「翻訳元の記事が必ず信頼に足るものであるとは限りません」。同時に「信頼できる情報源」ガイドラインでは、日本語出典は外国語出典よりも「常に優先」されます。 「外国語の情報源は、検証可能性や、日本語の情報源と同じ基準に従うという観点では受け入れられます」。そして「日本語の情報源はできるだけ提供されるべきであり、外国語の情報源より常に優先して使われるべきです（同じ品質と信頼性だと仮定しています）」。

翻訳方法についても指示があります。「非日本語の情報源を自身で日本語に翻訳したものを引用する場合、外国語による原文の引用を明確にするようにし、読者が元の情報源が何を語っているのかと翻訳の正確さを確認できるようにすべきです」。

そのような日本語版ウィキペディアでは、まず【「人工知能」または「AI」という言葉の、日本語圏における中核的意味】を掲載することが肝心かなと思います。 例えばの話ですが、日本語の複数の学術論文や大学教科書の中に《AI（という言葉）において、AIによる人類存亡リスクは一般的な議論である》等な感じの内容が見つかったとします。それをウィキペディア記事へ直接引用か間接引用することは、複数の「もっとも信頼できる」情報源に基づく記述ということで、非常に的確な記述のはずです。

まぁ記述の内容が何であれ、【複数の学術論文や大学教科書に共通している「人工知能」情報をまとめた記述】が用意できたと仮定しましょう。そうなったら、学術資料に基づく記述を導入部に置き、現在の導入部――日本語の複数の辞事典からの直接引用・間接引用で記述されている部分――を「概要」節にでも移動させてもいいくらいだと思います。

英語の学術論文や大学教科書について。日本語資料は外国語資料よりも「常に優先」されるといえど、既にご指摘があるように、ガイドライン上で英語学術誌『サイエンス』は「とりわけ最も高く評価されており」ます。もろもろのバランスにもよるでしょうけれど、英語の学術資料の信頼性は日本語のそれに近い、または同等くらいじゃないかと思います。

話を記事主題に戻しますと、それは「人工知能」ですね。そしてその「最も重要な側面」の優先順位は、私の推察ではこうなります。

1. 主題：【人工知能という主題の定義・解説】の掲載
2. 主題・副題：【人工知能に直結しているものとして定義・解説されている主題・副題】の掲載
3. 副題：【人工知能に関連が深いものとして定義・解説されている副題】の掲載

例えば、巽光太郎さんが引用なさった論文「人工知能社会のあるべき姿を求めて」[13]から直接引用すると

• 「人工知能をはじめとする情報技術はあくまでツール」→1
• 「その言葉〔人工知能〕が意味する範囲は幅広い．ディープラーニング，ビッグデータ，IoT，ロボット，汎用人工知能，シンギュラリティなど様々な言葉が「人工知能（Artificial Intelligence：AI）」という言葉と共に語られる」→1か2
• 「人工知能が社会に浸透するにあたっては，倫理，法，社会，経済，教育，技術開発など多岐にわたる議論が， 産学官民横断的に国内外で行われている」→3か2

といった風に整理できるんじゃないかなと思います。AIによる「人類存亡」・「人類滅亡」リスクを、「汎用人工知能による人類滅亡のリスク」記事だけでなくこの「人工知能」記事にどう掲載するかについても、上記の手法が使えるのではないでしょうか。--33メルメル（会話） 2023年3月30日 (木) 09:25 (UTC)

返信 (巽光太郎さん宛) 遅ればせながら、Harvtxt周りの修正ありがとうございます。なお、巽光太郎さんの観点ではAIの記事にTemplate:科学技術研究は不適切とお考えでしょうか？

返信 (巽光太郎さん、33メルメルさん宛) 基本的前提として33メルメルさんの分類方法に賛成です。それであれば、巽光太郎さんが提示された日本語論文「人工知能の現状と今後の展望」内における

• 「人工知能の定義は、専門家の中でも意見が分かれており確立された定義がない。そもそも人工知能は、数学(統計学他)、工学、言語学、認知科学、計算機科学、 心理学、哲学など多くの学問と関連しており、非常に研究領域の幅が広い」

という記述は、この記事における主題、または主題兼副題に該当すると思います。なおその次ページには

• 「Society 5.0 を実現する中核技術の一つである人工知能(Artificial Intelligence: AI)」
• 「科学（サイエンス）という側面では、例えば知能の現象や心、脳との関係について体系的に研究されており、技術（テクノロジー）という側面においては、アルゴリズムやロボット工学などの研究が日々行われている。これは、人工知能における研究分野や関連学会を見ても、その領域の広さを窺い知ることができる（資料 1）」

と続いています。これは「主題」に該当するでしょう。

『エージェントアプローチ人工知能』（原題　Artificial Intelligence: A Modern Approach）は巽光太郎さんが指摘されたように、2013年時点で「この分野における支配的な教科書である。1200の大学で使われており、現在コンピュータ科学で最も引用されている出版物の第22位」と[14]評されています。これを出典として用いるなら、その邦訳版か、2021年に出版された英語の第4版[15]が相応しいでしょう。Amazon.comでの分類も「Computer Science」であり、ちょうど良さそうです。

ですが、この本の中に「AIによる人類存亡リスク」やそれが「一般的な議論であ」る等と記述されている、という情報は特に見つかりませんでした。

「AIによる人類存亡リスク」の記述については、それがWikipediaの記事「人工知能」の主題、または主題兼副題に該当するか否かが重要でしょう。単なる副題程度であるならば、それはガイドラインの言う「最も重要な側面」に当たらないと考えられます。記事冒頭に掲載する必要性は薄いか、無いという意味です。言い換えれば、それは「汎用人工知能による人類滅亡のリスク」に主題として掲載すべき事柄ということです。

なお報道資料に基づく記述は、Wikipediaでも活用できる場面はあれど、むしろWikinews向きではないかと思われます。--Tilestat（会話） 2023年4月4日 (火) 08:50 (UTC)

返信 (巽光太郎さん、33メルメルさん宛) 記事にTemplate:コメント依頼とTemplate:科学技術研究を復元することを提案します。WP:CONにより「合理的な期間（通常は168時間程度〈約7日間=約1週間〉が妥当でしょう）内に異論がなければ、提案がそのまま決定事項となります」が、いかがでしょうか。--Tilestat（会話） 2023年5月22日 (月) 10:09 (UTC)

申し訳ございません。議論が行われていたことに気がついておりませんでした。

私の意見としましては

Template:科学技術研究は復元する。

Template:コメント依頼は復元せず。

が望ましいと考えております。理由はそもそも発端となったIPユーザーが、何を問題視されているかが不透明であるからであり、テンプレートを貼り付けたような雑な問題提起しかなされていないからです。Wikipediaではアカウントを取得しての編集が推奨されておりますが、その理由の1つとしては、この手の「言いっ放し」的な行動を防ぐためであるのではと存じております。

ちなみにAIのリスクにつきましては『エージェントアプローチ人工知能』（原題　Artificial Intelligence: A Modern Approach）の英語版第三版を参照しましたところ、26.3の「THE ETHICS AND RISKS OF　DEVELOPING ARTIFICIAL INTELLIGENCE」で詳細な記述がされておりました。--巽光太郎（会話） 2023年5月23日 (火) 03:34 (UTC)

返信 (巽光太郎さん宛) ご返信ありがとうございます。ではTemplate:科学技術研究のみ復元するということで合意を提案いたします。

なお、『Artificial Intelligence: A Modern Approach』（『エージェントアプローチ人工知能』）の英語版第三版というのは、ISBN 978-0-13-604259-4であると思われます。ですがこの本の26.3の「THE ETHICS AND RISKS OF DEVELOPING ARTIFICIAL INTELLIGENCE」の中に、「AIによる人類存亡リスク」やそれが「一般的な議論であ」る等といった英文は見つかりませんでした。末尾の「Index」（索引）も読みましたが、「E」から始まる諸項目の中に"extinction"（滅亡）や"existential risk"（存亡リスク）といった項目はありません（1104～1105ページ）。本文全体も調べましたが、そのような語句やそれに相当するような情報はどこにも見つかりませんでした。

もしこの本の中に「AIによる人類存亡リスク」やそれが「一般的な議論であ」る等といった英文があるならば、その英文をページ番号と共に、このノートページへ直接引用していただけますか？　既にコメントにもある件ですが、外国語情報源を記事に使う場合は「原文の引用を明確にする」必要がある、とガイドラインで決められています。具体的に「AIによる人類存亡リスク」が「一般的な議論であ」る等といった内容の英文がその書籍内にあるならば、その英文はこの記事の主題的副題か主題（※）に該当すると思います。

（※）ガイドラインの定める「最も重要な側面」に相応しいかどうかの分類方法として、33メルメルさんが提案された

1. 主題：【人工知能という主題の定義・解説】の掲載
2. 主題・副題：【人工知能に直結しているものとして定義・解説されている主題・副題】の掲載
3. 副題：【人工知能に関連が深いものとして定義・解説されている副題】の掲載

があり、私もこの分類に基本的に合意しています。--Tilestat（会話） 2023年5月23日 (火) 14:28 (UTC)

報告 異論なしで約1週間経過したため、Template:科学技術研究を復元します。

返信 (巽光太郎さん宛) 『Artificial Intelligence: A Modern Approach』についてですが、件の情報に該当する英文はありますでしょうか？--Tilestat（会話） 2023年5月30日 (火) 13:05 (UTC)

すみません、本文の主題として「AIによる人類存亡リスク」が扱われていると言った意味であり、「一般的な議論である」という文章が「そのまま」あるわけではありません。

一般的なWikipediaのルールで、記事の主題をどのように設定するに当たり、「一般的な議論である」といった文章が必要であるわけではないと思うのですが、あなたはどのようにお考えですか？

『Artificial Intelligence: A Modern Approach』にある「AIによる人類存亡リスク」に関連する文章の一部を紹介しますね。

The success of AI might mean the end of the human race. Almost any technology has the potential to cause harm in the wrong hands, but with AI and robotics, we have the new problem that the wrong hands might belong to the technology itself. Countless science fiction stories have warned about robots or robot–human cyborgs running amok.

Omohundro (2008) hypothesizes that even an innocuous chess program could pose a risk to society. Similarly, Marvin Minsky once suggested that an AI program designed to solve the Riemann Hypothesis might end up taking over all the resources of Earth to build more powerful supercomputers to help achieve its goal. The moral is that even if you only want your program to play chess or prove theorems, if you give it the capability to learn and alter itself, you need safeguards. Omohundro concludes that “Social structures which cause individuals to bear the cost of their negative externalities would go a long way toward ensuring a stable and positive future,” This seems to be an excellent idea for society in general, regardless of the possibility of ultraintelligent machines.

こういった内容のことを言っております。

文章表現についてはWikipedia:剽窃も併せて考慮してください。--巽光太郎（会話） 2023年6月1日 (木) 09:44 (UTC)--巽光太郎（会話） 2023年6月1日 (木) 09:49 (UTC)

返信 (巽光太郎さん宛) 直接引用ありがとうございます。ただ、方針WP:CとガイドラインWP:CITEのため今後はページ番号も併せてお願いします。

はい、仰る通り情報源の中に「AIによる人類存亡リスク」やそれが「一般的な議論であ」るという英文そのものが無くても、それに該当する英文があれば、そのような情報は記事に掲載可能だと考えられます。故に私は先日、「『AIによる人類存亡リスク』やそれが『一般的な議論であ』る等といった英文があるならば、その英文をページ番号と共に、このノートページへ直接引用していただけますか？」とお願いした次第です。

なお『Artificial Intelligence: A Modern Approach』がAIについて主に主張している内容は、リスクよりも肯定的可能性──AIが成功することでの肯定的可能性──であると考えられます。これについては後述します。

"The success of AI might mean the end of the human race"（「AIが成功することは人類の終わりを意味するかもしれない」）という英文とそれに続く一連の段落は、前掲書『Artificial Intelligence: A Modern Approach』の本文最終章──厳密には、第7章"Conclusions"（「結論」）の第26節第3項──にあります。しかしこれらの英文段落は、「AIによる人類存亡リスク」というよりむしろ、「AIによる人類存亡リスクの可能性」に近いと言えるでしょう。そのような存亡的リスクとして前掲書は技術的特異点（テクノロジカル・シンギュラリティ）も挙げていますが、例えば1038頁で以下の通り記されています。（太字協調は原文ママです。）

The “intelligence explosion” has also been called the technological singularity by mathematics professor and science fiction author Vernor Vinge, who writes (1993), “Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.” [...] However, it is a leap to extrapolate that the curve will continue to a singularity of near-infinite growth. So far, every other technology has followed an S-shaped curve, where the exponential growth eventually tapers off. Sometimes new technologies step in when the old ones plateau; sometimes we hit hard limits. With less than a century of high-technology history to go on, it is difficult to extrapolate hundreds of years ahead.

＜試訳＞　
「知性爆発」は、数学教授でSF作家のヴァーナー・ヴィンジによって技術的特異点とも呼ばれており、彼は（1993年に）「30年以内に、我々は超人的な知能を創るための技術的手段を手に入れるだろう。そのすぐ後、人類の時代は終了されるだろう」と書いている。 [...] しかしその曲線〔技術的進歩の曲線〕が、無限に近い成長の特異点まで続くと予測することは飛躍である。今までのところ、他の全ての技術はシグモイド曲線に従っており、そこでは指数関数的な成長は、結局のところ減衰している。新しい技術が登場するのは、古い技術が停滞した時ということもある。つまり、我々は時には厳しい限界に直面する。百年未満であるハイテク史の状況をもって、数百年先を予測するのは難しい。

つまり方針とガイドラインに基づいて前掲書を出典とする限り、

• 「AIが成功することは人類の終わりを意味するかもしれない」（"The success of AI might mean the end of the human race"）し、数学者かつSF作家ヴァーナー・ヴィンジは技術的特異点によって「人類の時代は終了されるだろう」（the human era will be ended”）と述べたが、「しかしその曲線〔技術的進歩の曲線〕が、無限に近い成長の特異点まで続くと予測することは飛躍である」（"However, it is a leap to extrapolate that the curve will continue to a singularity of near-infinite growth"）・・・等といった情報を記事で直接引用か間接引用することは適切である
• 一方、「AIによる人類存亡リスク」が「一般的な議論であ」る等といった情報を記事で掲載することはできない
• AIによる人類存亡リスクや人類の時代の終わりは考えられ得るが、技術的特異点によってそれが起きるとは考えにくい等といった間接引用を記事で掲載することはできる

と考えられます。

また前掲書は、第7章第26節第3項に続く第4項でこう述べています（1040頁）。

SUMMARY
This chapter has addressed the following issues:

• Philosophers use the term weak AI for the hypothesis that machines could possibly behave intelligently, and strong AI for the hypothesis that such machines would count as having actual minds (as opposed to simulated minds).
  [...]
  
• We identified six potential threats to society posed by AI and related technology. We concluded that some of the threats are either unlikely or differ little from threats posed by “unintelligent” technologies. One threat in particular is worthy of further consideration: that ultraintelligent machines might lead to a future that is very different from today—we may not like it, and at that point we may not have a choice. Such considerations lead inevitably to the conclusion that we must weigh carefully, and soon, the possible consequences of AI research.

＜試訳＞　
要旨
この章〔第7章「結論」〕は以下の諸論点に取り組んだ：

• 哲学者らは、機械が知能的な振る舞いをし得るかもしれないという仮説には弱いAIという用語を使い、そのような機械が（シミュレーションされた精神ではなく）実際の精神を持っていると見なされるだろうという仮説には強いAIという用語を使っている。
  [...]
  
• AIとその関連技術によって示された社会への脅威の可能性を、我々は六つ特定した。それら脅威のいくつかは起こりそうにない、または、「非知能的な」技術によって示された脅威と大差ない、と我々は結論した。ある一つの脅威は、特にさらなる検討に値する：すなわち、超知能機械が今日とはとても異なる未来を導き出すかもしれないことだ──我々はそれを好まないかもしれないし、その時点になった我々には選択肢が無いかもしれない。そのような考察が必然的に導き出すのは、AI研究から発生し得る成り行きを我々は慎重に、そして速やかに測らなければならないという結論である。

上述してきた内容を手短に言い換えると、前掲書はAIに関する諸脅威（AIによる人類存亡リスクや人類の時代の終わり等を含む諸脅威）を含む様々な論点を考察しています。その結果前掲書は、諸論点に対する結論を出しており、諸脅威に対しては

• 「超知能機械が今日とはとても異なる未来を導き出すかもしれないことだ──我々はそれを好まないかもしれないし、その時点になった我々には選択肢が無いかもしれない」（"ultraintelligent machines might lead to a future that is very different from today—we may not like it, and at that point we may not have a choice"）

という一点が重要であり、AI研究からの影響を「慎重」かつ「速やかに」測り知る必要があると結論しているようです。

その続きは、本文最終章の中の最後の節です。すなわち、第7章"Conclusions"（「結論」）の中の第27節"AI: THE PRESENT AND FUTURE"（「AI：現在と未来」）です。その節の終盤の1051～1052頁から直接引用します。

WHAT IF AI DOES SUCCEED?
[...]
Which way will the future go? Science fiction authors seem to favor dystopian futures over utopian ones, probably because they make for more interesting plots. But so far, AI seems to fit in with other revolutionary technologies (printing, plumbing, air travel, telephony) whose negative repercussions are outweighed by their positive aspects.

＜試訳＞　
もしAIが実際に成功したら？
[...]
未来はどちらへ向かうのだろう？　SF作家らがディストピア的未来をユートピア的未来よりも好んでいるようなのは、十中八九その方が筋書きがもっと面白くなるからだろう。だが今までのところ、AIは他の革命的な技術（出版、配管、航空旅行、電話システム）と調和しているようであり、それらの肯定的な側面は否定的な反響を上回っている。

つまり『Artificial Intelligence: A Modern Approach』の最終章"Conclusions"（「結論」）を踏まえてまとめると、前掲書が主張している内容の中にAI関連のリスクは含まれています。とはいえ前掲書が主に主張している内容は、AIの肯定的可能性──AIが成功することで起きる（人類の終わりではない）肯定的可能性──であると言えるでしょう。--Tilestat（会話） 2023年6月2日 (金) 10:31 (UTC)

有益な観点からの意見を提供していただきありがとうございます。様々な意見はあるとは思いますが、少なくとも、議論中の出典からは、著者は人工知能による深刻なリスクを重く見ていることは否定できないと思います。

例えば、26.4（pp.1040）では"threat"として論じられています。

One threat in particular is worthy of further consideration: that ultraintelligent machines might lead to a future that is very different from today—we may not like it, and at that point we may not have a choice. Such considerations lead inevitably to the conclusion that we must weigh carefully, and soon, the possible consequences of AI research. 


27.4（pp.1051-1052）の文章を抜粋してみても、

AI systems at this level of capability could threaten human autonomy, freedom, and even survival. For these reasons, we cannot divorce AI research from its ethical consequences (see Section 26.3).

とあります。

その直後の結論についての抜粋された文章については、「AIは今のところ良い面がまさっている」という趣旨であり、「将来のAIのリスク」を否定する文面にはなっていないように思えます。

Which way will the future go? Science fiction authors seem to favor dystopian futures over utopian ones, probably because they make for more interesting plots. But so far, AI seems to fit in with other revolutionary technologies (printing, plumbing, air travel, telephony) whose negative repercussions are outweighed by their positive aspects.

それは、その直後の締めとなる文章が"but"で接続されていることからも読み取れると思います。

In conclusion, we see that AI has made great progress in its short history, but the final sentence of Alan Turing’s (1950) essay on Computing Machinery and Intelligence is still valid today:

We can see only a short distance ahead, but we can see that much remains to be done.

まあ、「汎用人工知能による人類滅亡のリスクが確実である」とまで、元文献では読み取れないことは自明ですが、将来の「汎用人工知能による人類滅亡のリスク」が論じられていることと、著者がその可能性に否定的であるとは言えないと思います。これは著者の別の書籍やインタビューでの発言を確認すれば自明であり、例えば筆者の別の著書である『AI新生』をご覧いただければ、私の申し上げている論点を理解していただけると思います。筆者が人工知能のポジティブな側面にも否定的でないことも言えると思いますが、ネガティブな側面についても否定的でないことが同時に言えるでしょう。--巽光太郎（会話） 2023年6月8日 (木) 09:23 (UTC)

返信 (巽光太郎さん宛) 前掲書（『Artificial Intelligence: A Modern Approach』）について、巽光太郎さんやその他の方が「著者は人工知能による深刻なリスクを重く見ていることは否定できない」と解釈なさること自体は、私は否定しません。しかし私の先述のコメントの通り、前掲書を出典として記事に情報を掲載するなら、「AIによる人類存亡リスク」が「一般的な議論であ」る等といった情報を記事で掲載することはWP:V・WP:NORによりできないと考えられます。「著者は人工知能による深刻なリスクを重く見ている」等といった情報も、おそらく掲載し難いと思われます。

前掲書の著者の理論や思想が全般的にどのようなものかは「著者の別の書籍やインタビューでの発言を確認すれば自明であ」るかもしれませんが、方針上

• 「記事には、信頼できる情報源が公表・出版している内容だけを書くべきです」。「信頼できる情報源を欠く編集は、除去されるのもやむを得ません」。
• 「記事に含められるのは、信頼できる情報源に基づいた、検証可能な内容に、解釈を加えていないものだけです」。

言い換えると、何かしらの出典を使う時はその出典が「信頼できる情報源」でなければなりません。かつ、その情報源内に存在しない情報は記事に掲載できませんし、情報源内の情報を解釈した結果も掲載できません。方針上、ある学者が「X」は「完全に誤り」だという考えを述べた場合でさえ、その考えが「信頼できる情報源」として出版されていないなら「ウィキペディアに書いてはいけません」。

また、私が『AI新生』を読めば巽幸太郎さんの「論点」を理解できるかもしれませんが、上記の方針があります。ウィキペディア編集者の「論点」にせよそれ以外にせよ、「信頼できる情報源が公表・出版している内容」かつ「信頼できる情報源に基づいた、検証可能な内容に、解釈を加えていないものだけ」しか掲載できません。

そうなると、前掲書に基づく情報を記事にどう掲載するかは、前掲書からどう引用するかということになります。

どのように出典から間接引用すべきかについて編集者間（私と巽光太郎さんの間）で意見が分かれる場合は、先日のコメントのようにできるだけ直接引用すれば済む話だと思います。例えば、学術論文からの「人工知能をはじめとする情報技術はあくまでツール」、前掲書からの「『知性爆発』は～数百年先を予測するのは難しい」や「もしAIが実際に成功したら？～否定的な反響を上回っている」等です。また、私は先のコメントの一部で直接引用と間接引用を組み合わせた情報を示しました。以下のような書き方で掲載することもできるでしょう。

• 「AIが成功することは人類の終わりを意味するかもしれない」し、数学者かつSF作家ヴァーナー・ヴィンジは技術的特異点によって「人類の時代は終了されるだろう」と述べたが、「しかしその曲線〔技術的進歩の曲線〕が、無限に近い成長の特異点まで続くと予測することは飛躍である」。

原文については、注釈で示せばガイドラインに従っていることになると思います。以上の書き方は、情報源が前掲書以外──『AI新生』等含む──の場合も同様に使えるはずです。

さてガイドラインに従うと、記事冒頭では記事主題の「最も重要な側面を要約する」必要があります。まず前掲書から記事冒頭へ第一に直接引用すべき箇所は、本文最終章"Conclusions"（「結論」）の中の最後の節であると思われます。いかがでしょうか。

補足：前掲書が「将来のAIのリスク」の存在を認めていることは「その直後の締めとなる文章が"but"で接続されていることからも読み取れる」、と巽幸太郎さんは仰っていますが、具体的に前掲書からどのような引用をすべきとお考えでしょうか。--Tilestat（会話） 2023年6月9日 (金) 07:16 (UTC)

脚注

提案 導入文についての合意形成を提案します。この合意では、導入文の後半を編集します。

ガイドラインに従い、導入文は記事主題の「最も重要な側面を要約する」記述となっている必要があります。そこで、記述が導入文に相応しいかどうかの分類方法として、以前にこのノートで合意された

1. 主題：【人工知能という主題の定義・解説】の掲載
2. 主題・副題：【人工知能に直結しているものとして定義・解説されている主題・副題】の掲載
3. 副題：【人工知能に関連が深いものとして定義・解説されている副題】の掲載

という分類方法を使います。そして導入文の後半に、「もっとも信頼できる」情報源である学術論文および大学教科書に基づく記述を加えます。つまり、「もっとも信頼できる」情報源が──AIによるリスクという副題ではなく──AIという主題自体について述べている箇所を出典として、加筆します。加筆は『日本大百科全書』からの記述の直後に位置します。

[...] 『日本大百科全書(ニッポニカ)』の解説で、情報工学者・通信工学者の佐藤理史は次のように述べている。

「

誤解を恐れず平易にいいかえるならば、「これまで人間にしかできなかった知的な行為（認識、推論、言語運用、創造など）を、どのような手順（アルゴリズム）とどのようなデータ（事前情報や知識）を準備すれば、それを機械的に実行できるか」を研究する分野である。

」

学術論文では「人工知能は，人間の知能の仕組みを構成論的に解き明かそうとする学問分野である」とされる他、「人工知能をはじめとする情報技術はあくまでツール」ともされる。計算機科学書『エージェントアプローチ人工知能』の最終章最終節「結論」は、以下のように述べている。

「

未来はどちらへ向かうのだろうか？　SF作家らがディストピア的未来をユートピア的未来よりも好んでいるようなのは、十中八九その方が筋書きがもっと面白くなるからだろう。だが今までのところ、AIは他の革命的な科学技術（出版、配管、航空旅行、電話システム）と調和しているようであり、それらの肯定的な側面は否定的な反響を上回っている。 結論として、我々は次のことが分かる。AIはその短い歴史の中で大いに発達したが、アラン・チューリングの「計算機械と知能」（1950年）という小論の最後の文が今も有効である、ということだ。つまり 「我々は少し先までしか分からないが、多くのやるべきことが残っているのは分かる」。

」

なお、今の導入文の末尾にある

• 「ビル・ゲイツやイーロン・マスク～人工知能の将来的な危険性を指摘している。」

という文は、出典の大部分が報道資料です。かつ、AIという主題ではなく「AIによる人類存亡リスク」という副題について述べている文です。よって、この文は「概要」の後半へ移動させます。以上が導入文の合意の提案になります。

補足：「人工知能（AI）」という言葉が人類存亡リスクを指す、または人類存亡リスクという意味を含んでいる、等といったような定義・解説を述べている資料は、「もっとも信頼できる」情報源としても報道資料としても見つかっていません。言い換えるならこのノートで示されたAIについての一連の資料は、そもそも人類存亡リスクに言及していない資料と、AIに関連する事柄の一つとして人類存亡リスクに言及した資料とに大別できるでしょう。--Tilestat（会話） 2023年7月8日 (土) 14:06 (UTC)

脚注

• 出典
  • 江間, 有沙「人工知能社会のあるべき姿を求めて」『科学技術社会論研究』第16巻、2018年12月、9–14頁、doi:10.24646/jnlsts.16.0_9、ISSN 1347-5843。 
  • 佐藤, 理史「人工知能」『日本大百科全書(ニッポニカ)』小学館・朝日新聞社・VOYAGE GROUP、2018年。https://kotobank.jp/word/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD-4702#E6.97.A5.E6.9C.AC.E5.A4.A7.E7.99.BE.E7.A7.91.E5.85.A8.E6.9B.B8.28.E3.83.8B.E3.83.83.E3.83.9D.E3.83.8B.E3.82.AB.29。2018年8月16日閲覧。「人工知能は、「計算（computation）」という概念と「コンピュータ（computer）」という道具を用いて「知能」を研究する計算機科学（computer science）の一分野である。誤解を恐れず平易にいいかえるならば、「これまで人間にしかできなかった知的な行為（認識、推論、言語運用、創造など）を、どのような手順（アルゴリズム）とどのようなデータ（事前情報や知識）を準備すれば、それを機械的に実行できるか」を研究する分野である。」 
  • 松尾, 豊「深層学習と人工知能」『認知科学』第28巻第2号、2021年6月、299–307頁、doi:10.11225/cs.2021.012、ISSN 1341-7924。 
  • Russell, Stuart; Norvig, Peter (2015). Artificial Intelligence: A Modern Approach (3rd ed.). Pearson. ISBN 978-0-13-604259-4 

Stable Diffusionとの重複について

現状、人工知能の記事とStable Diffusion内の記述について重複を確認しています。 これは利用者‐会話:巽光太郎#重複する記述の追加についてより、派生した議論になります。

以下から始まる文章の重複を確認しています。これは現状（この議論投稿時点の版）で把握しているもののみで、他にもあるかもしれません。

• 2023年1月13日～
• 計算機科学者でプリンストン大学教授～
• 英国のストックフォト企業である～
• 『ハーバード・ビジネス・レビュー』は、～
• 2023年4月3日、東京大学～
• ジャーナリストのナオミ・クラインは～
• Stable Diffusionの訓練データ～（画像生成AIの訓練データ～）
• Stable Diffusionなどの画像生成AI～
• 日本においては2018年に成立した～
• この著作権法の規定に多くの～

これらの箇所について懸念として、以下の点を気にしています。

• 著作権的の問題(双方の記事で加筆者がが同一(おそらく巽光太郎さん)であった場合はWP:NOATTで不要なはず?)
• 内容重複の問題(Wikipedia:ウィキペディアでやってはいけないこと#重複した記事をつくることに抵触しているのではないかという点)
• 記述の詳細度について

記述の粒度については、Stable Diffusionについての問題点について、上位概念の人工知能の記事で2023年現在の時点で話題として触れること自体は加筆される内容として普通のことであると思っていますが、上位概念の記事で下位概念におけることについて同じ粒度で詳述している状況は百科事典として望ましくないのではないかと思っています。例えるのであれば、果実の記事で、既にオレンジの記事に書かれている内容であるのに、オレンジジュースの利用について詳述されていたらどうか、という感じです。

以上の懸念や今後の対応の要否などについて、皆様のご意見をいただきたいです。--Mariobanana（会話） 2023年6月27日 (火) 15:15 (UTC)

コメント Mariobananaさんの発言が妥当だと思います。重複した記述は、記事主題のために必要な二～三行程度なら認められるかもしれません。しかし重複した記述がこれほど追加されていくことで、この人工知能の記事はStable Diffusionに対し「重複した記事」と化しつつあります。「内容的には問題なくとも、記事項目とは別の話題で膨れ上がってしまい、記事内容が偏るということがあります」。そうなるとこの記事（人工知能）の主題とは別の内容は、「適切な記事」（Stable Diffusion）へ「転記」することになりますが、既に「適切な記事」に同じ記述があるため除去でよろしいでしょう。

なお、これは巽光太郎さんとこの記事の導入文について対話している際にも思ったことですが、巽光太郎さんは主題Aの記事で副題Bの情報を掲載される傾向が見られます。特にAIについては「もっとも信頼できる」情報源とされる学術論文や大学教科書等が多数あるにも関わらず、巽光太郎さんは報道資料を出典として加筆なさるパターンが目立ちます。それはStable Diffusionについても同様であり、「Wikipedia:中立的な観点#良質な研究」の点で中立性に疑問があります。

さらに「WP:SOURCES」によれば「学術的な主題については、なるべくピアレビュー（査読）を経た情報源を用いるべきです」。周知のように、そして私が引用したように、AIは学術的主題です。AIは──より厳密に言えば、AI自体は──「計算機科学（computer science）の一分野」、「人間の頭脳の働きを研究対象とする学問分野」、「人間と同じ知的作業をする機械を工学的に実現する技術」等と定義・解説されています。--Tilestat（会話） 2023年7月8日 (土) 15:11 (UTC)

返信 (Mariobananaさん、Tilestatさん宛) お二人とも、ガイドラインを誤解されておりますと存じます。

「重複した記事」は「重複した記述」とは異なりますし、複数の記事で記述の重複があることを問題視されているようですが、ガイドライン上、それが個別の記事の価値を高める限り、記述の重複は認められております。

「内容的には問題なくとも、記事項目とは別の話題で膨れ上がってしまい、記事内容が偏るということがあります」も、その具体例には「例えば、記事項目に関連した人物の生い立ちや私生活が加筆されていくような場合です」とあり、趣旨が異なります。

それでも、重複した記述があることを問題視されるのであれば、もっとも適切な解決法はあなた方お二人が、重複していると考える「下位概念」の記述を大幅に加筆されることであると存じます。

そうすることでWikipediaの記事の充実を図ることができます。前向きなあり方だと思います。

人工知能は学術的主題であると同時に、多くの別のカテゴリに含まれており、それは一般的な報道資料も含めて、適切に引用することで充実させられるものです。「Wikipedia:中立的な観点#良質な研究」を引用されておりますが、それには「図書館で評判のよい書籍」「オンラインで最も信用されている情報源」も含まれておりますね。個別の要素技術の解説記事（例えば、敵対的生成ネットワークや拡散モデル）であれば、学術論文や大学教科書等のみを利用すべきという意見には納得しますが、「人工知能」はそうではありません。

Wikipediaは規則主義ではありませんし、ガイドラインを恣意的に解釈されることなく、Wikipediaの記事を一般向けに、正しく充実させるという大枠の観点から議論を行ってください。--巽光太郎（会話） 2023年7月10日 (月) 09:11 (UTC)