Embed Notice

@moriyaki

以前の私の投稿です。

「「ニューラルネットのパイオニア、ジェフリー・ヒントンがAIに警鐘を鳴らす理由」： #MITSloan

「「私の大きな心配は、遅かれ早かれ、誰かがAIに自分自身のサブゴールを作る能力を組み込むことです」とヒントン氏は言う。

(ChatGPTのようなテクノロジーのいくつかのバージョンでは、すでにそのような機能を持っている、と彼は指摘した。
「人工知能は悪いことも学ぶことができる。例えば、「今までにあった小説やマキャベリが書いたものをすべて読んで」人を操る方法などだ。
「AIモデルが）私たちよりもずっと賢ければ、私たちを操るのがとても上手になるでしょう。 あなたは何が起こっているのか気づかないでしょう」とヒントン氏は言う。
「直接的にレバーを引くことはできなくても、私たちにレバーを引かせることはできる。 人を操ることができれば、自分がそこに行かなくても、ワシントンのビルに侵入することができることがわかった」。」
AI は人間と同じ概念形成能力を得た。怖い。

https://mitsloan.mit.edu/ideas-made-to-matter/why-neural-net-pioneer-geoffrey-hinton-sounding-alarm-ai

#prattohome

」