Timezone: »

 
Bias Assessment of Text-to-Image Models
Sasha Alexandra Luccioni · Clémentine Fourrier · Nathan Lambert · Unso Eun Seo Jo · Irene Solaiman · Helen Ngo · Nazneen Rajani · Giada Pistilli · Yacine Jernite · Margaret Mitchell

While Text-to-Image models such as Dall-E and Stable Diffusion are becoming increasingly adept at creating new content, they also open doors to new types of harms and biases. We describe some of the challenges raised by deploying these models, provide a case study for bias assessment, and discuss future avenues of exploration in the field.

Author Information

Sasha Alexandra Luccioni (Hugging Face)
Clémentine Fourrier (Hugging Face)
Nathan Lambert (Hugging Face)
Unso Eun Seo Jo (Hugging Face)
Irene Solaiman (Hugging Face)
Helen Ngo (Hugging Face)
Nazneen Rajani (Hugging Face)
Giada Pistilli (Hugging Face)
Yacine Jernite (Hugging Face)
Margaret Mitchell (Hugging Face)

More from the Same Authors

  • 2020 : Analyzing Sustainability Reports Using Natural Language Processing »
    Alexandra Luccioni
  • 2022 : Efficient Few-Shot Learning Without Prompts »
    Oren Pereg · Daniel Korat · Moshe Wasserblat · Lewis Tunstall · Unso Eun Seo Jo · Luke Bates · Nils Reimers
  • 2023 Poster: Stable Bias: Evaluating Societal Representations in Diffusion Models »
    Sasha Alexandra Luccioni · Christopher Akiki · Margaret Mitchell · Yacine Jernite
  • 2023 Poster: Into the LAION’s Den: Investigating Hate in Multimodal Datasets »
    Abeba Birhane · vinay prabhu · Vishnu Boddeti · Sanghyun Han · Sasha Alexandra Luccioni
  • 2023 : Interactive Panel Discussion »
    Tanya Roosta · Tim Dettmers · Minjia Zhang · Nazneen Rajani
  • 2022 : Panel: Assessing AI’s impacts on greenhouse gas emissions and climate change adaptation »
    George Kamiya · Sasha Alexandra Luccioni · Costa Samaras
  • 2022 : Efficient Few-Shot Learning Without Prompts »
    Oren Pereg · Daniel Korat · Moshe Wasserblat · Lewis Tunstall · Unso Eun Seo Jo · Luke Bates · Nils Reimers
  • 2022 Social: Ethics Review - Open Discussion »
    Deborah Raji · William Isaac · Cherie Poland · Alexandra Luccioni
  • 2022 Poster: The BigScience ROOTS Corpus: A 1.6TB Composite Multilingual Dataset »
    Hugo Laurençon · Lucile Saulnier · Thomas Wang · Christopher Akiki · Albert Villanova del Moral · Teven Le Scao · Leandro Von Werra · Chenghao Mou · Eduardo González Ponferrada · Huu Nguyen · Jörg Frohberg · Mario Šaško · Quentin Lhoest · Angelina McMillan-Major · Gerard Dupont · Stella Biderman · Anna Rogers · Loubna Ben allal · Francesco De Toni · Giada Pistilli · Olivier Nguyen · Somaieh Nikpoor · Maraim Masoud · Pierre Colombo · Javier de la Rosa · Paulo Villegas · Tristan Thrush · Shayne Longpre · Sebastian Nagel · Leon Weber · Manuel Muñoz · Jian Zhu · Daniel Van Strien · Zaid Alyafeai · Khalid Almubarak · Minh Chien Vu · Itziar Gonzalez-Dios · Aitor Soroa · Kyle Lo · Manan Dey · Pedro Ortiz Suarez · Aaron Gokaslan · Shamik Bose · David Adelani · Long Phan · Hieu Tran · Ian Yu · Suhas Pai · Jenny Chim · Violette Lepercq · Suzana Ilic · Margaret Mitchell · Sasha Alexandra Luccioni · Yacine Jernite
  • 2021 Poster: Distributed Deep Learning In Open Collaborations »
    Michael Diskin · Alexey Bukhtiyarov · Max Ryabinin · Lucile Saulnier · quentin lhoest · Anton Sinitsin · Dmitry Popov · Dmitry V. Pyrkin · Maxim Kashirin · Alexander Borzunov · Albert Villanova del Moral · Denis Mazur · Ilia Kobelev · Yacine Jernite · Thomas Wolf · Gennady Pekhimenko
  • 2019 : Lunch + Poster Session »
    Frederik Gerzer · Bill Yang Cai · Pieter-Jan Hoedt · Kelly Kochanski · Soo Kyung Kim · Yunsung Lee · Sunghyun Park · Sharon Zhou · Martin Gauch · Jonathan Wilson · Joyjit Chatterjee · Shamindra Shrotriya · Dimitri Papadimitriou · Christian Schön · Valentina Zantedeschi · Gabriella Baasch · Willem Waegeman · Gautier Cosne · Dara Farrell · Brendan Lucier · Letif Mones · Caleb Robinson · Tafara Chitsiga · Victor Kristof · Hari Prasanna Das · Yimeng Min · Alexandra Puchko · Alexandra Luccioni · Kyle Story · Jason Hickey · Yue Hu · Björn Lütjens · Zhecheng Wang · Renzhi Jing · Genevieve Flaspohler · Jingfan Wang · Saumya Sinha · Qinghu Tang · Armi Tiihonen · Ruben Glatt · Muge Komurcu · Jan Drgona · Juan Gomez-Romero · Ashish Kapoor · Dylan J Fitzpatrick · Alireza Rezvanifar · Adrian Albert · Olya (Olga) Irzak · Kara Lamb · Ankur Mahesh · Kiwan Maeng · Frederik Kratzert · Sorelle Friedler · Niccolo Dalmasso · Alex Robson · Lindiwe Malobola · Lucas Maystre · Yu-wen Lin · Surya Karthik Mukkavili · Brian Hutchinson · Alexandre Lacoste · Yanbing Wang · Zhengcheng Wang · Yinda Zhang · Victoria Preston · Jacob Pettit · Draguna Vrabie · Miguel Molina-Solana · Tonio Buonassisi · Andrew Annex · Tunai P Marques · Catalin Voss · Johannes Rausch · Max Evans