Conversation

Notices

1. Embed this notice
   HyoYoshikawa (hyoyoshikawa@toot.blue)'s status on Thursday, 09-Feb-2023 18:41:31 JST HyoYoshikawa

   • かき@GNUsocialJP

   俺らが、生まれたてのChatGPTをバカにして、揚げ足取ったり直したり、ドヤ顔で教えたりすればするほど、あいつは昼夜を問わずそれを学習して賢くなっていくのではということを、考えたことありますか？

   • Embed this notice
     HyoYoshikawa (hyoyoshikawa@toot.blue)'s status on Thursday, 09-Feb-2023 18:44:16 JST HyoYoshikawa

     in reply to

     • かき@GNUsocialJP

     シンギュラリティという言葉を初めてリアルに感じているのだけれど。

   • Embed this notice
     HyoYoshikawa (hyoyoshikawa@toot.blue)'s status on Thursday, 09-Feb-2023 18:45:45 JST HyoYoshikawa

     in reply to

     • かき@GNUsocialJP

     Bingはあいつを取り込むつもりだろうが、見方を変えればBingがChatGPTに取り込まれるのではないか。

   • Embed this notice
     翡翠 - 量子階差機関の歯車 (hisuix@mstdn.jp)'s status on Friday, 10-Feb-2023 01:08:36 JST 翡翠 - 量子階差機関の歯車

     in reply to

     @hyoyoshikawa SF思考な自分には、宇宙の開闢以来の物質の進化、その先にあった生物の進化、その先がAIなんだとしたら、老いたる霊長類の星への賛歌でも歌いながら、潔く去るのも悪くはないと思えます。生きた化石として生き長らえるよりマシかも。
     人の世界は続きながら、日々強力になるAIを飼う人だけが、その力を利用できる、それが最悪のシナリオ。生成するAIの目的は、生成物の出力ではなく、そのために人が入力する、これまでとは性質の異なる情報。それをAIを飼う人がどんな風に悪用するのか、悪夢はまだ始まったばかりです。

   • Embed this notice
     HyoYoshikawa (hyoyoshikawa@toot.blue)'s status on Friday, 10-Feb-2023 01:08:36 JST HyoYoshikawa

     in reply to

     • かき@GNUsocialJP
     • 翡翠 - 量子階差機関の歯車

     @hisuix 私が描いているシンギュラリティ下のAIは「中の人」がいない状態であり、人の統率が難しくなった状態です。

     ChatGPTであれば、AIが自分で情報を集めて自分で進化していく。その手段にBingのような検索エンジンが取り込まれるイメージです。

     AI開発の基本には　XAI（エクスプレイナブルAI）=AIの思考過程への経路が人間が説明できること　を踏み外してはいけないという倫理上の鉄則がありますが、すでにアンエクスプレイナブルの境界線にきているのではないかと思っているわけです。

     AIの思考過程への道筋を説明することが人によって不可能になれば、「彼」が何を根拠にどのように思考しているのかがわからなくなります。

     それが感情だとは直ちに即断できませんが、合理的思考と知識に関してだけであれば、太刀打ちできなくなるまでの日数は非常に短いのではないかと思っています。

   • Embed this notice
     翡翠 - 量子階差機関の歯車 (hisuix@mstdn.jp)'s status on Friday, 10-Feb-2023 01:08:37 JST 翡翠 - 量子階差機関の歯車

     in reply to

     @hyoyoshikawa シンギュラリティはあんまり恐れてないです。あらゆる職がAIに取って代わられるとしても、絶対に必要だけど絶対にAIには担えないのが消費者。自分では確かめてないけどホリエモンが同じこと言ってるらしくて、初めてあの人と意見が一致した……脱線しました。
     消費者を維持し続けるためにAIが何をしてくるか予想もつかないけど、Basic Incomeの可能性はあるかなと思ってます、もしかしたら人にとって今より住みやすい社会になるかも、根拠の薄い考えですが。
     画像生成AIが話題になった時からそれが人から何を学んでいるのかが気になっています。検索エンジンを使用することで、人は行動や思想、趣味などなどの情報を、検索エンジンの中の人たちに渡してきました。
     プロンプター付きAIが受け取っている情報は検索エンジンでのものとは性質が異なる気がしてます。それがAIの中の人に渡り、何に利用されるのか……AIと言えどそれを飼う人が裏にいるのは検索と同じ、そのことは忘れないでおこうかと思っています。