Desafios para o Design na era da Inteligência Artificial: reflexões e proposições para favorecer a ética no projeto

Carolina  Vaitiekunas Pizarro

doi:10.18682/cdc.vi225.11221

Carolina Vaitiekunas Pizarro

DOI: https://doi.org/10.18682/cdc.vi225.11221

Palabras clave: design, inteligência artificial

Resumen

Os desenvolvimentos em Inteligência Artificial (IA) tem impactado diferentes áreas de conhecimento, entre elas o design, com reflexos nos âmbitos social, científico, tecnológico, cultural e econômico.

Citas

Boechat, Cid. (2019). Inteligência Artificial, empatia e inclusão: um problema de design. Ergodesign & HCI, n especial, v. 7, ano 7. Disponível em: http://periodicos.puc-rio.br/index.php/revistaergodesign-hci/article/view/1306/735. Acesso em: 8 abr.2023.

Bonsiepe, Gui. (2015). Design do material ao digital. São Paulo: Blucher.

Brasil. Projeto de Lei n° 2338, de 2023. (2023) Dispõe sobre o uso da Inteligência Artificial. Plenário do Senado Federal (Secretaria Legislativa do Senado Federal). Brasília, DF. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233#tr amitacao_10494842. Acesso em: 10 jul. 2023.

Brignull, Harry. (2023). What are deceptive patterns? Disponível em: https://www.deceptive.design/. Acesso em: 10 ago. 2023.

Cassino, João Francisco. (2021). O sul global e os desafios pós-coloniais na era digital. In: Silveira, Sérgio Amadeu; Souza, Joyce; Cassino, João Francisco. Colonialismo de dados: Como opera a trincheira Algorítmica na guerra neoliberal. São Paulo: Autonomia literária.

Cerejo, Joana; Carvalhais, Miguel. (2019). Design After the Rise of AI-Driven Services: Learning from Literature Review. DIGICOM 3rd International Conference on Digital Design & Communication. Disponível em: https://www.researchgate.net/publication/337631988_Design_After_the_Rise_of_AI-Driven_Services_Learning_from_Literature_Review. Acesso em: 8 abr. 2021.

Coeckelbergh, Mark. (2020). AI ethics. Description: Cambridge, MA : The MIT Press.

Couldry, Nick.; Miejas, Ulisses. A. (2019). Costs of connection – how data is colonizing human life and appropriating it for Capitalism. Califórnia: Satanford University Press.

Cozman, Fábio. G; Neri, Hugo. (2021) O que, afinal, é Inteligência Artificial? In: Cozman, Fabio G; Plonski, Guilherme Ary; Neri, Hugo. Inteligência artificial: avanços e tendências. São Paulo: Instituto de Estudos Avançados. Edição digital – e-Book.

Cozman, Fabio G; Kaufman, Dora. (2022). Viés no aprendizado de máquina em sistemas de inteligência artificial: a diversidade de origens e os caminhos de mitigação. Revista USP, (135), 195-210. Disponível em: https://www.revistas.usp.br/revusp/article/view/206235. Acesso em: 11 ago.2023.

Denis, Rafael C. (2012). Design para um mundo complexo. São Paulo: Cosac Naify. Dignum, V. (2019). Responsible Artificial Intelligence - How to Develop and Use AI in a Responsible Way. In: Petke, Justyna. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer.

Kaufman, Dora. (2022). Desmistificando a Inteligência Artificial. Belo Horizonte: Autêntica. Edição digital – e-Book.

Morozov, Evgeny. (2018). Big Tech: a ascensão dos dados e a morte da política. traduzido por Claudio Marcondes. São Paulo: Ubu Editora.

Narayanan, Arvind; Mathur, Arunesh; Chetty, Marshini; Kshirsagar, Mihir. (2020). Dark Patterns Past, Present, and Future: The Evolution of tricky user interfaces. ACM Queue. Volume 18. Issue 2 March-April. pp. 67–92. Disponível em: https://doi.org/10.1145/3400899.3400901. Acesso em: 30 ago.2023.

Norman, Donald. (2010). O design do futuro. Rio de Janeiro: Rocco.

Owens, Kentrell; Gunawan, Johanna; Choffnes, David; Emami-naeini, Pardis; Kohno, Tadayoshi; Roesner, Franziska. (2022). Exploring Deceptive Design Patterns in Voice Interfaces. EuroUSEC ‘22: Proceedings of the 2022 European Symposium on Usable Security. September. Pages 64–78. Disponível em: https://doi.org/10.1145/3549015.3554213. Acesso em: 4 ago. 2023.

Russell, Stuart; Norvig, Peter. (2013). Inteligência artificial. 3 ed. tradução Regina Célia Simille. Rio de Janeiro: Elsevier.

Santaella, Lucia. (2021). Inteligência artificial e cultura: oportunidades e desafios para o sul global. Centro UNESCO. CETIC.BR/NIC.BR. Disponível em: https://cetic.br/pt/publicacao/inteligencia-artificial-e-cultura-oportunidades-e-desafios-para-o-sul-global/. Acesso em: 02 jul. 2022.

Satterfield, Debra., Abel, Troy D. (2020). AI Is the New UX: Emerging Research Innovations in AI, User Experience, and Design as They Apply to Industry, Business, and Education, and Ethics. In: Spohrer J., Leitner C. (eds) Advances in the Human Side of Service Engineering. AHFE 2020. Advances in Intelligent Systems and Computing, vol 1208. Springer, Cham. https://doi.org/10.1007/978-3-030-51057-2_26. Acesso em: 20 abr. 2021.

Schmidt, Sarah. (2023). Os desafios para regulamentar o uso da inteligência artificial - Brasil, Canadá e países da Europa elaboram legislação para reduzir os riscos de emprego inadequado de programas e aplicativos dessa área. Revista Pesquisa FAPESP. Edição 331 set. Disponível em: https://revistapesquisa.fapesp.br/os-desafios-para-regulamentar-ouso-da-inteligencia-artificial/. Acesso em: 10 set.2023.

Silva, Tarcízio. (2022). Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo.

Simões-Gomes, Letícia; Roberto, Enrico; Mendonça, Jônatas. (2020). Viés algorítmico–um balanço provisório. Estudos de Sociologia, v. 25, n. 48 . Disponível em: https://nev.prp.usp.br/publicacao/vies-algoritmico-um-balanco-provisorio/.Acesso em: 28 ago.2023.

Sinders, Caroline. (2022). What’s In a Name? Unpacking Dark Patterns versus Deceptive Design. Medium. Disponível em: https://medium.com/@carolinesinders/whats-in-anameunpacking-dark-patterns-versus-deceptive-design-e96068627ec4. Acesso em: 28 ago.2023.

Souza, Mariane Pizarro de.; Ribeiro, Paulo Rennes Marçal.; Nogueira, Claudete de Souza. (2022). Decolonialidade e educação antirracista: intersecções e aproximações. Revista Em Favor De Igualdade Racial, 5(3), 88–98. https://doi.org/10.29327/269579.5.3-8. Disponível em: https://periodicos.ufac.br/index.php/RFIR/article/view/6077.Acesso em: 11 ago.2023.

UNESCO. (2022). Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Recomendações sobre a ética da Inteligência Artificial.Disponível em < https://unesdoc.Unesco.org/ark:/48223/pf0000381137_por>. Acesso em 08 jun. 2022.

Verganti, Roberto; Vendraminelli, Luca; Iansiti, Marco. (2020). Innovation and Design in the Age of Artificial Intelligence. Journal Prod Innovation Management, 37(3):212–227. Disponível em: https://onlinelibrary.wiley.com/doi/full/10.1111/jpim.12523. Acesso em: 30 ago.2023.

Zuboff, Shoshana. (2021). A Era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca. Edição digital – e-Book.