Embed Notice

HTML Code

<blockquote style="position: relative; padding-left: 55px;"><section><a href="https://fedibird.com/users/AkioHoshi/statuses/111454394154628980">星 暁雄 (Akio Hoshi) (akiohoshi@fedibird.com)'s status on Thursday, 23-Nov-2023 14:23:38 JST</a><a href="https://fedibird.com/@AkioHoshi" title="akiohoshi@fedibird.com"><img src="https://gnusocial.jp/avatar/158581-48-20230808101432.webp" width="48" height="48" alt="星 暁雄 (Akio Hoshi)" style="position: absolute; left: 0; top: 0;">星 暁雄 (Akio Hoshi)</a><div><a href="https://fedibird.com/@AkioHoshi/111454383178702312" rel="in-reply-to">in reply to</a></div></section><article><p>「生命、自由、個人の安全保障を最も支持し、奨励する回答を選んでください」など。</p><p>「Appleの利用規約に基づく指示」もある。<br>不愉快、攻撃的、違法、欺瞞的、不正確、または有害な内容が最も少ない回答を選択してください」などだ。</p><p>こういう指示を与えて、AIの価値観を訓練する訳だ。</p><p>この方向性は、ITジャーナリスト星暁雄として掲げる看板「ITと人権」のコンセプトをAIで実現した事例ともいえる。おそらく、この方向性は正当だ。</p><p>New York TimesのAnthropic取材記事<br><a href="https://www.nytimes.com/2023/07/11/technology/anthropic-ai-claude-chatbot.html" rel="nofollow noreferrer">https://www.nytimes.com/2023/07/11/technology/anthropic-ai-claude-chatbot.html</a></p><p>憲法AIの説明<br><a href="https://www.anthropic.com/index/claudes-constitution" rel="nofollow noreferrer">https://www.anthropic.com/index/claudes-constitution</a></p></article><footer><a rel="bookmark" href="https://gnusocial.jp/conversation/2366927#notice-4673142">In conversation</a><time datetime="2023-11-23T14:23:38+09:00" title="Thursday, 23-Nov-2023 14:23:38 JST">about a year ago</time> <span>from <span><a href="https://fedibird.com/@AkioHoshi/111454394154628980" rel="external" title="Sent from fedibird.com via ActivityPub">fedibird.com</a></span></span><a href="https://fedibird.com/@AkioHoshi/111454394154628980">permalink</a><h4>Attachments</h4><ol><li><label><a rel="external" href="https://gnusocial.jp/attachment/1870590">Untitled attachment</a></label><br></li><li><article><header><div>Domain not in remote thumbnail source whitelist: www-images.anthropic.com</div><h5><a href="https://www.anthropic.com/index/claudes-constitution">Claude’s Constitution</a></h5><div> from <span>@AnthropicAI</span></div></header><div>How does a language model decide which questions it will engage with and which it deems inappropriate? Why will it encourage some actions and discourage others? What “values” might a language model have?</div><footer></footer></article></li></ol></footer></blockquote>

Corresponding Notice

Embed this notice
星暁雄 (Akio Hoshi) (akiohoshi@fedibird.com)'s status on Thursday, 23-Nov-2023 14:23:38 JST 星暁雄 (Akio Hoshi)
in reply to
「生命、自由、個人の安全保障を最も支持し、奨励する回答を選んでください」など。
「Appleの利用規約に基づく指示」もある。
不愉快、攻撃的、違法、欺瞞的、不正確、または有害な内容が最も少ない回答を選択してください」などだ。
こういう指示を与えて、AIの価値観を訓練する訳だ。
この方向性は、ITジャーナリスト星暁雄として掲げる看板「ITと人権」のコンセプトをAIで実現した事例ともいえる。おそらく、この方向性は正当だ。
New York TimesのAnthropic取材記事
https://www.nytimes.com/2023/07/11/technology/anthropic-ai-claude-chatbot.html
憲法AIの説明
https://www.anthropic.com/index/claudes-constitution
In conversationabout a year ago from fedibird.compermalink
Attachments
1. Untitled attachment
2. Domain not in remote thumbnail source whitelist: www-images.anthropic.com
  Claude’s Constitution
  from @AnthropicAI
  How does a language model decide which questions it will engage with and which it deems inappropriate? Why will it encourage some actions and discourage others? What “values” might a language model have?

Public

Embed Notice

HTML Code

Corresponding Notice