Notices by AlgorithmWatch (algorithmwatch@chaos.social)

The EU's #AIAct experts consultation on the definition of an AI system and on prohibited AI practices closed on Dec 11. But loopholes still threaten #FundamentalRights.

The #AIActCivilSociety and the #ProtectNotSurveil coalitions demand guidelines that ban #SocialScoring, #BiometricSurveillance, and other harmful practices. We call on the AI Office to ensure the upcoming guidelines will provide a fundamental rights-based enforcement of the AI Act.

👉 https://algorithmwatch.org/en/statement-commission-guidelines-ai-act/

2024 war für uns ein Jahr voller Gespräche und neuer Ideen – alles für eine digitale Zukunft, die nicht nur den Konzernen, sondern auch den Menschen gehört! Seit 2021 begleiten wir als #F5Bündnis (@algorithmwatch, @Freiheitsrechte, @okfde, @reporterohnegrenzen_feed und @wikimediaDE) die Digitalpolitik der Bundesregierung, immer kritisch und konstruktiv.

Wir waren in 2024 viel unterwegs. Hier ein kleiner Rückblick.

#Digitalministerkonferenz #F5Forderungen #Digitalgipfel #Republica #Netzpolitik

The EU is testing AI systems for border control - but many of these projects are highly discriminatory, lack transparency and are prone to abuse. At AlgorithmWatch, we have compiled 24 of these projects into a database – and are now making them available to the media and the scientific community:
https://algorithmwatch.org/en/automation-on-the-move/

Over the past 18 months, we’ve taken a closer look and analyzed what lies behind the EU projects that test and deploy AI for border control.

Musk und Trump: Mit Vollgas in den Big-Tech-Feudalismus?

🧵 [1/n] Elon Musk, der reichste Mann der Welt, hat mit Millionen in den US-Wahlkampf eingegriffen. Der indirekte Stimmenkauf [1] und das Verbreiten von Fake News [2] hat sich für den ultrarechten Milliardär bezahlt gemacht: Der Trump-Sieg hat ihm 21 Milliarden Dollar eingebracht. [3] Doch nicht nur das: Auch in der US-amerikanischen Regierungspolitik soll Musk künftig mitmischen. ⬇️

[2/n] Gemeinsam mit dem früheren republikanischen Präsidentschaftsbewerber und Millionär Vivek Ramaswamy soll er die Staatsausgaben senken – um 2 Billionen US-Dollar [4]. Außerdem soll das Gremium, das Musk künftig führen soll, den Markt massiv deregulieren. Ein Big-Tech-Milliardär, der künftig über die Regeln bestimmt, die für die großen Tech-Konzerne gelten – was soll da schon schiefgehen? Geht uns das alles nichts an, weil es nur die USA betrifft? Leider nein. ⬇️

[3/n] Musk beschimpfte nicht nur Olaf Scholz und Robert Habeck, sondern fordert recht unverhohlen sogar die Entlassung italienischer Richter. [5] Gleichzeitig versucht der kommende Vizepräsident J. D. Vance, Europa zu erpressen: Die USA würden aus der NATO aussteigen, sollte die EU weiter darauf bestehen, US-amerikanische Plattformen (wie die von Musk) zu regulieren. [6] ⬇️

Digitalpolitisch hat die #Ampel-Regierung ziemlich versagt: Der Breitband-Ausbau wurde verschleppt, die Verwaltung arbeitet weiterhin überwiegend analog, das sogenannte #Sicherheitspaket soll den Weg zur biometrischen Überwachung frei machen. Für die verbleibende Legislaturperiode bedeutet dies, dass an vielen Baustellen noch weitergearbeitet werden muss.

Matthias Spielkamp: "Noch haben wir die Gelegenheit, unsere Digitalpolitik 'Demokratie-Winter'-fest zu machen."

Als Teil des Bündnisses #GesichtserkennungStoppen fordern wir die komplette Streichung der geplanten biometrischen Überwachungsbefugnisse im #Unsicherheitspaket der Bundesregierung. Warum? Das erklären wir in unserer Stellungnahme.

Am kommenden Montag, den 23. September, wird das "Sicherheitspaket" öffentlich angehört. Wir fordern: Stoppt die biometrische #Massenüberwachung!

Unsere Stellungnahme in voller Länge: https://algorithmwatch.org/de/stellungnahme-sicherheitspaket/

#BanRBI #Sicherheitspaket

Look out researchers and journalists working on AI 👁️🗨️ AlgorithmWatch is running a new round of its Algorithmic Accountability Reporting fellowship focused on the political economy of AI, starting in Oct 24 ✍️ We welcome journalists, academics, researchers, developers, etc. who are working on stories on the conflicts around AI infrastructure, its supply chain, data extractivism or similar.

Deadline to apply: Sep 15 🗓️

https://algorithmwatch.org/en/apply-fellowship/

💡 Did you know? More than half of the companies in Germany use algorithm hiring tools, to source, search, and select candidates! Leading to job applicants with the best skills and experiences not necessarily getting the job interview.

This was the result of an experiment held in Germany and the UK, by a team of researchers around @paksy for the Horizon EU FINDHR project, where we are working on preventing discrimination through AI in job selection! ⤵️
https://findhr.eu/wp-content/uploads/2024/01/FINDHR-Expert-Report_by-Paksy-Plackis-Cheng-et-al.pdf

📣 We are looking for you! If you are a passionate artist or designer, who is interested in visualizing our project and the topic of algorithmic discrimination, you have come to the right place. In our Horizon Europe project @findhr we are working with our partners on uncovering discrimination through algorithms in the recruiting process. Don’t miss out on the chance to work in human rights & promote the work through our large network all over Europe. Find out more! ⤵️

https://findhr.eu/open-call-for-artists-visualization-on-discrimination-in-algorithmic-hiring/

Automated image generators are often accused of spreading harmful stereotypes. We wanted to find out how biased different tools are and compared the results when using the same prompt across MidJourney, Kandinsky and Adobe Firefly.

Take a look at the results: https://algorithmwatch.org/en/image-generators-stereotypes-diversity/

Undress or fail: At least that is the case for fitness influencers, who are experiencing that social media prioritizes sexualized content. In an interview with @el_pais reporter @algowatching explains why photos of women in underwear and bikinis are more likely to appear in the feed. ⬇️
https://english.elpais.com/lifestyle/2023-10-29/fitness-butts-and-instagram-stories-how-exercise-is-sexualized-on-social-media.html

Civil society plays a vital role in shaping a globally inclusive approach to harnessing AI for humanity. Human rights expertise is crucial in understanding the impacts AI systems can have on people. So why are there hardly any civil society representatives and human rights experts among the 38 experts on the Advisory Body?!

More about the AI Advisory Body: https://www.un.org/en/ai-advisory-body

2/2

The #UnitedNations has announced the members of its High-level Advisory Body on Artificial Intelligence. We welcome that the UN as a global organization creates spaces to debate AI – and we hope it will prioritize its societal consequences (rather than focusing on future scenarios).

However, #CivilSociety is massively underrepresented. 1/2

The EU’s new rules to govern #BigTech platforms officially kick in today. But will that really make the internet a safer place? #DSADay

Learn what to expect with our #DigitalServicesAct explainer. 💡
https://algorithmwatch.org/en/dsa-explained/

In the past month, several accounts integral to the German bondage-fetish scene have gone private and people are spooked – due to a wave of legal sanctions against gay adult content creators, which has sparked rumors about #AI surveillance.

"Many of us connect through #Twitter, since we are a little niche, it is hard to find like-minded folks through other venues," one member of community tells us.

Read how social media regulates gay kink. ⤵️
https://algorithmwatch.org/en/gay-adult-content-sanctions/