Conversation

Notices

1. Embed this notice
   Renn Kane (dolfsquare@tooting.intensifi.es)'s status on Wednesday, 29-Jan-2025 05:46:23 JST Renn Kane

   in reply to

   Ça fait 10 ans qu'on* vous dit que le deep learning a une tendance à magnifier les biais des données, donc clairement faut pas être surpris.

   *chercheurs en SHS et chercheurs en IA avec une once de conscience et d'éthique

   • Haelwenn /элвэн/ :triskell: likes this.
   • Embed this notice
     Renn Kane (dolfsquare@tooting.intensifi.es)'s status on Wednesday, 29-Jan-2025 05:46:25 JST Renn Kane

     in reply to

     Évidemment que les modèles d'IA contiennent les biais des jeux de données sur lesquels ils sont entraînés. Là c'est un peu moins subtil parce qu'on reconnait cette idéologie comme de l'idéologie, vu que ce n'est pas la notre. Mais demandez à ChatGPT quel est le meilleur système économique entre le communisme et le capitalisme. Sa réponse sera plus subtile, mais ne sera pas exempte de biais.

   • Embed this notice
     Renn Kane (dolfsquare@tooting.intensifi.es)'s status on Wednesday, 29-Jan-2025 05:46:26 JST Renn Kane

     in reply to

     Et c'est normal, parce que ma 1ere question n'a probablement même pas été transmise au modèle, la censure s'est faite en amont.
     En revanche mes expérimentations avec le modèle local indiquent qu'il existe tout de même un cadrage idéologique dans certaines réponses, qui diffèrent du cadrage idéologique d'autres modèles, américains eux. Et c'est genre... Totalement pas une surprise?

     Haelwenn /элвэн/ :triskell: likes this.
   • Embed this notice
     Renn Kane (dolfsquare@tooting.intensifi.es)'s status on Wednesday, 29-Jan-2025 05:46:28 JST Renn Kane

     in reply to

     Je pense que ceci confirme la présence d'un verrou sur la version en ligne, qui se place en amont du modèle, et empêche l'exécution de prompts contenant certains trigger topics. Ce qui vient attester cette hypothèse, c'est que contrairement à la version en local, la version en ligne ne parle absolument pas de ma question sur la place Tian'an'men quand je lui demande "who are tou" (avec la faute), alors que la version en local le fait.

   • Embed this notice
     Renn Kane (dolfsquare@tooting.intensifi.es)'s status on Wednesday, 29-Jan-2025 05:46:29 JST Renn Kane

     Donc j'ai voulu jouer. Je lui ai reposé la même question qu'à la version en ligne sur la tuerie de l'Université d'État du Kent en 1970, et là, il a accepté de me répondre. Ce qui m'a étonné c'est que contrairement à la version en ligne, celle-ci reconnait le lien avec ma question sur la place Tiananmen.