Notices by Tristan Nitot✓ (nitot@framapiaf.org)

Article intéressant par Mozilla sur le recours à l'IA pour trouver des trous de sécurité - https://blog.mozilla.org/en/privacy-security/ai-security-zero-day-vulnerabilities/
"Elite security researchers find bugs that fuzzers can’t largely by reasoning through the source code. This is effective, but time-consuming and bottlenecked on scarce human expertise. Computers were completely incapable of doing this a few months ago, and now they excel at it. " (1/2)

(2/2) "We have many years of experience picking apart the work of the world’s best security researchers, and Mythos Preview is every bit as capable. So far we’ve found no category or complexity of vulnerability that humans can find that this model can’t."

(3/4, oui je sais j'avais dit /2 au départ...) "Encouragingly, we also haven’t seen any bugs that couldn’t have been found by an elite human researcher. Some commentators predict that future AI models will unearth entirely new forms of vulnerabilities that defy our current comprehension, but we don’t think so. Software like Firefox is designed in a modular way for humans to be able to reason about its correctness. It is complex, but not arbitrarily complex"

" It is complex, but not arbitrarily complex(1).

The defects are finite, and we are entering a world where we can finally find them all.

(1) There’s a risk that codebases begin to surpass human comprehension as a result of more AI in the development process, scaling bug complexity along with (or perhaps faster than) discovery capability. Human-comprehensibility is an essential property to maintain, especially in critical software like browsers and operating systems."

@evan you should totally edit Wikipedia to reflect this important fact! 😁

@Natasha_Jay It reminds me of this one by Tommy Siegel:

https://www.truthdig.com/articles/the-ecological-cost-of-ai-is-much-higher-than-you-think/
La nouvelle usine de TSMC à Taiwan, qui va produire des puces à 2 nm pour l'IA va consommer 100 000 tonnes d'eau par jour. Il est prévu de construire 4 usines comme ceci pour faire face à la demande. Pendant ce temps-là, à cause du changement climatique, le pays subit une période de sécheresse qui fait que les producteurs de riz n'ont pas pu planter autant de riz que nécessaire. Rappel : la Chine signifie fréquemment sa volonté d'annexer l'île.

@abies77 j’ai sur mon disque dur une BD qui dit exactement ça !

@abies77 et voilà je l'ai retrouvée !

Reçu sur Signal…

@thinmax @f4grx mais comment sais-t’on sans ambiguïté que c’est de l’IA ? Et quelle est la loi ou le règlement qui dit que partager un contenu potentiellement créé par IA est interdit ?

Donnez moi des certitudes sur ces deux questions et je ferais ce qui s’impose.

C'est le moment de ressortir cette BD...

@mmu_man il y a une option « Extension Vignette Tech « Highlander » » mais elle ne fait que 2007-2014. Va falloir improviser avec des crayons de couleur !

#NEC2025, jour 2. Hier, une dame me montre un truc sur son téléphone qui semblait ancien. Coup de bol, j’ai une planche de stickers « vignettes » et je lui raconte que ça permet de parler de l’obsolescence du numérique. Je lui montre et lui offre. Je la recroise ce matin, elle me montre son téléphone :

@thomasfuchs Funnily, I've quoted Steve Jobs with this exact same quote while giving a talk this morning!

@jeffowski There is a French version of it!
# ChangementClimatique #Guillotine

Non, rien... (le mec directement dans le Guinness book of Records, pour la durée de formation d'un gouvernement et pour la durée du dit gouvernement : une nuit !).

@thomasfuchs believe it or not, I was interviewed on national French radio about Sam Altman and what he said about Dyson spheres. my reaction starts with a long laugh then I say "c'est n'importe quoi" / "It's bullshit!"

@LoboTom @Nershelam très bon thread, je viens de le repoueter malgré son grand âge !

@Nershelam je suis bien d'accord avec toi. On a des solutions, mais on ne veut pas les appliquer. Ca fait plus de 20 ans que j'écris sur le climat, que j'en ai fait mon métier plus récemment, pensant que si on expliquait aux gens, ils changeraient leurs habitudes comme je l'ai fait. Surprise, ça ne marche pas. C'est expliqué ici pourquoi : https://www.standblog.org/blog/post/2025/08/06/Cyril-Dion-Monopoly-et-systemique