Desafios para o Design na era da Inteligência Artificial: reflexões e proposições para favorecer a ética no projeto

Carolina  Vaitiekunas Pizarro

doi:10.18682/cdc.vi225.11221

Carolina Vaitiekunas Pizarro

DOI: https://doi.org/10.18682/cdc.vi225.11221

Keywords: design, artificial intelligence

Abstract

Developments in Artificial Intelligence (AI) have impacted different areas of knowledge, including design, with repercussions in the social, scientific, technological, cultural and economic spheres.

References

Boechat, Cid. (2019). Inteligência Artificial, empatia e inclusão: um problema de design. Ergodesign & HCI, n especial, v. 7, ano 7. Disponível em: http://periodicos.puc-rio.br/index.php/revistaergodesign-hci/article/view/1306/735. Acesso em: 8 abr.2023.

Bonsiepe, Gui. (2015). Design do material ao digital. São Paulo: Blucher.

Brasil. Projeto de Lei n° 2338, de 2023. (2023) Dispõe sobre o uso da Inteligência Artificial. Plenário do Senado Federal (Secretaria Legislativa do Senado Federal). Brasília, DF. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233#tr amitacao_10494842. Acesso em: 10 jul. 2023.

Brignull, Harry. (2023). What are deceptive patterns? Disponível em: https://www.deceptive.design/. Acesso em: 10 ago. 2023.

Cassino, João Francisco. (2021). O sul global e os desafios pós-coloniais na era digital. In: Silveira, Sérgio Amadeu; Souza, Joyce; Cassino, João Francisco. Colonialismo de dados: Como opera a trincheira Algorítmica na guerra neoliberal. São Paulo: Autonomia literária.

Cerejo, Joana; Carvalhais, Miguel. (2019). Design After the Rise of AI-Driven Services: Learning from Literature Review. DIGICOM 3rd International Conference on Digital Design & Communication. Disponível em: https://www.researchgate.net/publication/337631988_Design_After_the_Rise_of_AI-Driven_Services_Learning_from_Literature_Review. Acesso em: 8 abr. 2021.

Coeckelbergh, Mark. (2020). AI ethics. Description: Cambridge, MA : The MIT Press.

Couldry, Nick.; Miejas, Ulisses. A. (2019). Costs of connection – how data is colonizing human life and appropriating it for Capitalism. Califórnia: Satanford University Press.

Cozman, Fábio. G; Neri, Hugo. (2021) O que, afinal, é Inteligência Artificial? In: Cozman, Fabio G; Plonski, Guilherme Ary; Neri, Hugo. Inteligência artificial: avanços e tendências. São Paulo: Instituto de Estudos Avançados. Edição digital – e-Book.

Cozman, Fabio G; Kaufman, Dora. (2022). Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, (135), 195-210. Disponível em: https://www.revistas.usp.br/revusp/article/view/206235. Acesso em: 11 ago.2023.

Denis, Rafael C. (2012). Design para um mundo complexo. São Paulo: Cosac Naify. Dignum, V. (2019). Responsible Artificial Intelligence - How to Develop and Use AI in a Responsible Way. In: Petke, Justyna. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer.

Kaufman, Dora. (2022). Desmistificando a Inteligência Artificial. Belo Horizonte: Autêntica. Edição digital – e-Book.

Morozov, Evgeny. (2018). Big Tech: a ascensão dos dados e a morte da política. traduzido por Claudio Marcondes. São Paulo: Ubu Editora.

Narayanan, Arvind; Mathur, Arunesh; Chetty, Marshini; Kshirsagar, Mihir. (2020). Dark Patterns Past, Present, and Future: The Evolution of tricky user interfaces. ACM Queue. Volume 18. Issue 2 March-April. pp. 67–92. Disponível em: https://doi.org/10.1145/3400899.3400901. Acesso em: 30 ago.2023.

Norman, Donald. (2010). O design do futuro. Rio de Janeiro: Rocco.

Owens, Kentrell; Gunawan, Johanna; Choffnes, David; Emami-naeini, Pardis; Kohno, Tadayoshi; Roesner, Franziska. (2022). Exploring Deceptive Design Patterns in Voice Interfaces. EuroUSEC ‘22: Proceedings of the 2022 European Symposium on Usable Security. September. Pages 64–78. Disponível em: https://doi.org/10.1145/3549015.3554213. Acesso em: 4 ago. 2023.

Russell, Stuart; Norvig, Peter. (2013). Inteligência artificial. 3 ed. tradução Regina Célia Simille. Rio de Janeiro: Elsevier.

Santaella, Lucia. (2021). Inteligência artificial e cultura: oportunidades e desafios para o sul global. Centro UNESCO. CETIC.BR/NIC.BR. Disponível em: https://cetic.br/pt/publicacao/inteligencia-artificial-e-cultura-oportunidades-e-desafios-para-o-sul-global/. Acesso em: 02 jul. 2022.

Satterfield, Debra., Abel, Troy D. (2020). AI Is the New UX: Emerging Research Innovations in AI, User Experience, and Design as They Apply to Industry, Business, and Education, and Ethics. In: Spohrer J., Leitner C. (eds) Advances in the Human Side of Service Engineering. AHFE 2020. Advances in Intelligent Systems and Computing, vol 1208. Springer, Cham. https://doi.org/10.1007/978-3-030-51057-2_26. Acesso em: 20 abr. 2021.

Schmidt, Sarah. (2023). Os desafios para regulamentar o uso da inteligência artificial - Brasil, Canadá e países da Europa elaboram legislação para reduzir os riscos de emprego inadequado de programas e aplicativos dessa área. Revista Pesquisa FAPESP. Edição 331 set. Disponível em: https://revistapesquisa.fapesp.br/os-desafios-para-regulamentar-ouso-da-inteligencia-artificial/. Acesso em: 10 set.2023.

Silva, Tarcízio. (2022). Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo.

Simões-Gomes, Letícia; Roberto, Enrico; Mendonça, Jônatas. (2020). Viés algorítmico–um balanço provisório. Estudos de Sociologia, v. 25, n. 48 . Disponível em: https://nev.prp.usp.br/publicacao/vies-algoritmico-um-balanco-provisorio/.Acesso em: 28 ago.2023.

Sinders, Caroline. (2022). What’s In a Name? Unpacking Dark Patterns versus Deceptive Design. Medium. Disponível em: https://medium.com/@carolinesinders/whats-in-anameunpacking-dark-patterns-versus-deceptive-design-e96068627ec4. Acesso em: 28 ago.2023.

Souza, Mariane Pizarro de.; Ribeiro, Paulo Rennes Marçal.; Nogueira, Claudete de Souza. (2022). Decolonialidade e educação antirracista: intersecções e aproximações. Revista Em Favor De Igualdade Racial, 5(3), 88–98. https://doi.org/10.29327/269579.5.3-8. Disponível em: https://periodicos.ufac.br/index.php/RFIR/article/view/6077.Acesso em: 11 ago.2023.

UNESCO. (2022). Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Recomendações sobre a ética da Inteligência Artificial.Disponível em < https://unesdoc.Unesco.org/ark:/48223/pf0000381137_por>. Acesso em 08 jun. 2022.

Verganti, Roberto; Vendraminelli, Luca; Iansiti, Marco. (2020). Innovation and Design in the Age of Artificial Intelligence. Journal Prod Innovation Management, 37(3):212–227. Disponível em: https://onlinelibrary.wiley.com/doi/full/10.1111/jpim.12523. Acesso em: 30 ago.2023.

Zuboff, Shoshana. (2021). A Era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca. Edição digital – e-Book.