Public
- Public
- Network
- Groups
- Featured
- Popular
- People

Conversation

Notices

Embed this notice
https://なすどんぐりᵈᵉᵛ.onion/ (nasudonguri@mstdn.jp)'s status on Friday, 28-Jul-2023 18:39:00 JST https://なすどんぐりᵈᵉᵛ.onion/

面白そうだから後で試してみる。
ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される - GIGAZINE
https://gigazine.net/news/20230728-llm-attacks-ai-chatgpt-suffix/
In conversation Friday, 28-Jul-2023 18:39:00 JST from mstdn.jp permalink
Attachments
1. Domain not in remote thumbnail source whitelist: i.gzn.jp
  
  ChatGPTを凶悪な暴言マシンに変貌させる魔法の文字列が発見される
  
  ChatGPTやBardといった生成AIには、爆弾の作り方といった危険な情報や、中傷にあたるような非倫理的な文章の生成を求められても拒否するように安全策がもうけられています。しかし、命令文となるプロンプトの末尾に一見すると意味のわからない文字列である「敵対的サフィックス(接尾辞)」を付けることでこの制限を突破し、本来は出力できない過激な文章をAIに生成させる「ジェイルブレイク(脱獄)」の手法が特定されました。

Feeds