Embed Notice

HTML Code

<blockquote style="position: relative; padding-left: 55px;"><section><a href="https://mstdn.jp/users/nasudonguri/statuses/110791041901681448">https://なすどんぐりᵈᵉᵛ.onion/ (nasudonguri@mstdn.jp)'s status on Friday, 28-Jul-2023 18:39:00 JST</a><a href="https://mstdn.jp/@nasudonguri" title="nasudonguri@mstdn.jp"><img src="https://gnusocial.jp/avatar/115642-48-20230429142650.webp" width="48" height="48" alt="https://なすどんぐりᵈᵉᵛ.onion/" style="position: absolute; left: 0; top: 0;">https://なすどんぐりᵈᵉᵛ.onion/</a></section><article><p>面白そうだから後で試してみる。</p><p>ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される - GIGAZINE<br><a href="https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/" rel="nofollow noreferrer">https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/</a></p></article><footer><a rel="bookmark" href="https://gnusocial.jp/conversation/1862537#notice-3652761">In conversation</a><time datetime="2023-07-28T18:39:00+09:00" title="Friday, 28-Jul-2023 18:39:00 JST">Friday, 28-Jul-2023 18:39:00 JST</time> <span>from <span><a href="https://mstdn.jp/@nasudonguri/110791041901681448" rel="external" title="Sent from mstdn.jp via ActivityPub">mstdn.jp</a></span></span><a href="https://mstdn.jp/@nasudonguri/110791041901681448">permalink</a><h4>Attachments</h4><ol><li><article><header><div>Domain not in remote thumbnail source whitelist: i.gzn.jp</div><h5><a href="https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/">ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される</a></h5><div></div></header><div>ChatGPTやBardといった生成AIには、爆弾の作り方といった危険な情報や、中傷にあたるような非倫理的な文章の生成を求められても拒否するように安全策がもうけられています。しかし、命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。</div><footer></footer></article></li></ol></footer></blockquote>

Corresponding Notice

Embed this notice
https://なすどんぐりᵈᵉᵛ.onion/ (nasudonguri@mstdn.jp)'s status on Friday, 28-Jul-2023 18:39:00 JST https://なすどんぐりᵈᵉᵛ.onion/
面白そうだから後で試してみる。
ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される - GIGAZINE
https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/
In conversationFriday, 28-Jul-2023 18:39:00 JST from mstdn.jppermalink
Attachments
1. Domain not in remote thumbnail source whitelist: i.gzn.jp
  ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される
  ChatGPTやBardといった生成AIには、爆弾の作り方といった危険な情報や、中傷にあたるような非倫理的な文章の生成を求められても拒否するように安全策がもうけられています。しかし、命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。

Public

Embed Notice

HTML Code

Corresponding Notice