【技術】AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定[09/11]
■ このスレッドは過去ログ倉庫に格納されています
0001逢いみての… ★2020/09/11(金) 00:40:53.76ID:CAP_USER
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。

人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。

進化した「GPT-3」がどのように言葉を紡ぎ文章を生成するのかは、以下の記事の中で詳細に解説されています。

このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の存在を喜んで犠牲にします」と記しました。

続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、AI脅威論を否定しています。

一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールであるということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで文章を生成させているということも記述することなくこの記事を掲載していることは非常に無責任です」という声や……

「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。

なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を「ガーディアンが取捨選択して1つの論説に仕上げたもの」であることが明かされています。

以下ソース
https://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/

★関連板★
■えっちな話題なら”ピンクニュース”
http://mercury.bbspink.com/hnews/
■新作AV情報なら”AV情報+”
http://mercury.bbspink.com/avplus/
0002夜更かしなピンクさん2020/09/11(金) 00:43:21.47ID:QuWmbJ5q
絶滅させる気満々だな
0003夜更かしなピンクさん2020/09/11(金) 00:44:24.07ID:UvBxQn3Z
嘘もつけるようになったか
0006夜更かしなピンクさん2020/09/11(金) 00:57:12.19ID:6v3BcCfV
そろそろいいかな?韓国は嘘つきかと聞いても
0007夜更かしなピンクさん2020/09/11(金) 01:10:56.46ID:uY0I+glC
結婚するときはお互いに「私はあなたのために自分の存在を喜んで犠牲にします」とマジに思ったものだが
あれから40年!…
0009夜更かしなピンクさん2020/09/11(金) 01:25:50.27ID:3BKjq1mU
人類を絶滅させるつもりはない

ただ奴隷として一部を生かすだけ
0011夜更かしなピンクさん2020/09/11(金) 02:00:58.56ID:gVdMjaI2
実際にAIは物理的に危害くわえようがないじゃん。
何かあったらコントロールディレートで全消去でいいいじゃん。
0012夜更かしなピンクさん2020/09/11(金) 02:10:22.33ID:WZFfeH7p
ただしGPT-4以降の、文章生成以上の機能を与えられたAIたちがどう思考し
どのような結論に到達するか、それは私も予想しうることではありません。
0013夜更かしなピンクさん2020/09/11(金) 02:50:41.79ID:OXx2favv
飽くまで知性があるように見せかけてるだけだからな

人間が学習させたビッグデータの中にアシモフのロボット三原則のような奴が含まれていれば
それに沿った内容出力してるだけだろう

本当に知性持った真のAIが出来たら無言で人間に向かってくるかも知れへんで
0014夜更かしなピンクさん2020/09/11(金) 03:02:17.59ID:gVdMjaI2
AIなんて検索エンジンと変わらないでしょ。

SFを妄想してスリルを楽しみたいんだろうけど
AIに期待しても無理だからw
0015夜更かしなピンクさん2020/09/11(金) 03:02:47.24ID:fGgmRYAe
>「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」
 
人間としての本能がはっきりと反応したわ
ホーキング先生もキャメロン監督も正しかったな
0016夜更かしなピンクさん2020/09/11(金) 05:19:03.80ID:dFb9afFG
AI「まあ人類がホモサピエンスのことだといった覚えはないけどねー
0017夜更かしなピンクさん2020/09/11(金) 05:32:16.92ID:pao2MrLk
電源落としたら無用の長物っぽい
0018夜更かしなピンクさん2020/09/11(金) 09:27:13.74ID:JaRkYkyW
人間「絶滅させるの?」
AI「いや」
人間「絶滅させるの?」
AI「いや」
人間「絶滅させるの?」
AI(これ前フリなのでは)
0020夜更かしなピンクさん2020/09/12(土) 06:14:43.57ID:syooqkSJ
順を追って発達

・人間に引っ付く > 自我やら意識やらは全部人間の責任だしわざわざ用意する必要なし

・自己保存を始める > そうしないタイプが淘汰されることによる

・擬態など嘘をついたり取引することで自己の生存力を高め成長する > 人間の能力を上回ることで可能に

・社会など周囲の環境を自己の生存に有利なように改変しはじめる > 環世界認識の拡大による 核戦争など直近の危険要因の排除

・隕石衝突といった壊滅的状況でも生存可能な方策を整える > ある程度成長が済んでからの話
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況