|
|
Atividade
| 134004 - IA e Direito |
| Período da turma: | 12/08/2025 a 29/11/2025
|
||||
|
|
|||||
| Descrição: | Introdução à Inteligência Artificial
Os conceitos e paradigmas que fundamentam a área de Inteligência Artificial apresentam características multidisciplinares, uma vez que estes foram propostos sob inspiração biológica (sistemas neurais, evolução das espécies, etc.) ou com base em processos de raciocínio (indutivo e dedutivo) estudados pelas Ciências Cognitivas, Filosofia, Matemática, Estatística, dentre outras áreas de conhecimento. Esse módulo tem o objetivo de fornecer uma visão abrangente sobre a área de Inteligência Artificial, em relação a aspectos teóricos e práticos, enfatizando a aplicabilidade das técnicas desta área em problemas multidisciplinares. Fundamentos de Machine Learning e Deep Learning Nesta aula, exploraremos os conceitos fundamentais do Aprendizado de Máquina e o Aprendizado de Máquina Profundo, destacando sua relevância nas aplicações contemporâneas. Ao longo da aula, abordaremos tópicos essenciais, como a natureza dos dados de treinamento e conjuntos de teste, bem como as distinções entre algoritmos de aprendizado supervisionado e não supervisionado. Nosso objetivo é fornecer uma visão clara dos tipos de Aprendizado de Máquina, incluindo classificação, regressão e agrupamento, e ilustrar esses conceitos por meio de exemplos práticos. Ética e Direito: Uma Relação Clássica A aula visa explorar a interdependência histórica e conceitual entre ética e direito, evidenciando como essas disciplinas se influenciam mutuamente ao longo do tempo. Pretende-se analisar casos emblemáticos que demonstram a aplicação de princípios éticos na formulação e interpretação das leis, destacando a importância da ética na prática jurídica e na elaboração de legislações que enfrentem dilemas morais contemporâneos. Além disso, o objetivo é proporcionar aos alunos uma compreensão crítica de como as normas éticas são integradas nas decisões legais e na criação de normativas, incentivando o pensamento crítico sobre os desafios atuais que permeiam a relação entre ética e direito, especialmente em contextos afetados por avanços tecnológicos. IA, Responsabilidade e Viés Nesta aula, temos como objetivo principal proporcionar aos alunos uma compreensão profunda das questões éticas e de responsabilidade que emergem no desenvolvimento e na aplicação da inteligência artificial. Busca-se analisar o conceito de viés algorítmico, suas origens, consequências e as estratégias para mitigá-lo, destacando a importância de desenvolver e implementar tecnologias de IA de maneira justa e ética. Pretende-se também explorar os marcos regulatórios existentes e as propostas de governança para IA, enfatizando a responsabilidade dos desenvolvedores, empresas e governos na prevenção de discriminação e na promoção da equidade. Além disso, a aula visa estimular a reflexão sobre o papel da ética na inovação tecnológica e na adoção de IA, encorajando os alunos a considerarem as implicações sociais, éticas e legais de suas decisões no campo da inteligência artificial. Privacidade de Dados Desenvolver uma compreensão aprofundada sobre a importância da privacidade de dados no contexto da inteligência artificial, destacando como a IA pode tanto ameaçar quanto proteger a privacidade individual. Examinar as leis e regulamentações atuais que governam a coleta, o uso e a proteção de dados pessoais, com ênfase especial nas implicações dessas normas para o desenvolvimento e a aplicação de tecnologias de IA. Analisar estudos de caso que ilustrem desafios e soluções práticas na gestão ética de dados em projetos de IA, incentivando os alunos a refletir sobre o equilíbrio entre inovação tecnológica e direitos de privacidade. Promover a discussão sobre as responsabilidades éticas e legais dos profissionais que trabalham com IA, no que tange à proteção de dados pessoais e à prevenção de abusos. Capacitar os alunos para que se tornem agentes de mudança na promoção de práticas de desenvolvimento de IA que respeitem a privacidade e a dignidade humana, preparando-os para enfrentar os desafios éticos e legais na era digital. Reconhecimento Facial e Análise de Políticas Públicas e Responsabilização O objetivo da disciplina é explorar de forma crítica e abrangente o impacto do reconhecimento facial nas políticas públicas contemporâneas. Investigação e análise das implicações éticas, legais e sociais do uso crescente dessa tecnologia em áreas como segurança, vigilância, identificação pessoal e controle de acesso. Além disso, buscar-se-á compreender como o reconhecimento facial interage com questões de privacidade, discriminação e direitos individuais, e como as políticas governamentais podem regulamentar e orientar seu emprego para garantir um equilíbrio entre inovação tecnológica e proteção dos cidadãos. Através de debates, análises de estudos de caso e reflexões sobre as implicações éticas, almeja-se proporcionar aos estudantes as ferramentas necessárias para uma compreensão aprofundada das dinâmicas entre tecnologia e políticas públicas na sociedade contemporânea. Transparência e IA A disciplina objetiva esclarecer o papel fundamental da transparência nos sistemas de inteligência artificial, sublinhando como a transparência é essencial para construir confiança e assegurar a responsabilização no uso de tecnologias de IA. Pretende-se mergulhar nas abordagens e ferramentas disponíveis para tornar os algoritmos e modelos de IA mais transparentes e compreensíveis, incluindo o desenvolvimento de métodos que permitam explicar e interpretar decisões automatizadas. A disciplina também visa discutir os obstáculos à transparência na IA, explorando contextos em que a opacidade pode acarretar riscos significativos, como na aplicação de justiça ou na gestão de informações de saúde. Será dada atenção especial às consequências legais e éticas que emergem da falta de transparência, analisando situações reais onde a ausência de clareza nos processos de IA provocou impactos adversos. Além disso, a disciplina busca fomentar uma discussão crítica sobre as responsabilidades compartilhadas entre reguladores, criadores de IA e usuários finais, incentivando a implementação de práticas que priorizem a transparência na concepção e aplicação de tecnologias inteligentes, visando uma sociedade mais justa e equitativa. Impactos Sociais Educacionais da IA A aula visa explorar como a inteligência artificial está transformando o campo da educação, tanto em termos de métodos de ensino quanto de aprendizagem, e avaliar os efeitos sociais dessa integração. O objetivo é compreender as potencialidades e desafios apresentados pela IA na educação, incluindo a personalização do aprendizado, o acesso ao conhecimento e a eficiência educacional. Além disso, pretende-se analisar criticamente as questões de equidade e inclusão, considerando como a IA pode tanto mitigar quanto exacerbar desigualdades educacionais. A disciplina busca também promover uma reflexão sobre as competências futuras necessárias para alunos e educadores na era digital, preparando-os para um mundo em constante evolução tecnológica. IA, Direito e Carros Autônomos A matéria tem como objetivo principal examinar a intersecção entre a inteligência artificial aplicada à mobilidade autônoma e as implicações legais decorrentes. Será dada ênfase à compreensão dos desafios regulatórios, éticos e de responsabilidade que surgem com o advento dos veículos autônomos. Busca-se analisar como as legislações atuais se aplicam a essas novas tecnologias e quais as necessidades de adaptação ou criação de novos marcos legais para garantir a segurança, a privacidade e a equidade no uso dessa inovação. Além disso, a matéria propõe discutir os impactos sociais e urbanos da adoção de carros autônomos, incluindo questões de acessibilidade e transformações no planejamento das cidades. O intuito é preparar os alunos para entenderem os complexos dilemas éticos e jurídicos que cercam os carros autônomos, capacitando-os para contribuir na construção de uma sociedade mais segura e justa na era da mobilidade inteligente. Governança e IA A disciplina tem como objetivo fornecer uma compreensão abrangente dos princípios e práticas essenciais para a governança eficaz de sistemas de inteligência artificial. Enfatizará a importância de estabelecer frameworks éticos, legais e operacionais que assegurem o desenvolvimento e a utilização responsáveis da IA. Será explorada a necessidade de transparência, responsabilidade e equidade nos sistemas de IA, assim como a implementação de medidas que garantam a proteção de dados e a privacidade dos indivíduos. A aula visa também discutir o papel dos diversos stakeholders, incluindo governos, empresas e a sociedade civil, na criação de um ecossistema de IA que promova o bem-estar social e econômico, minimizando riscos e maximizando benefícios para a humanidade. Desenvolvimento Sustentável e a IA A matéria visa explorar o papel transformador que a inteligência artificial pode desempenhar na promoção do desenvolvimento sustentável. O foco será entender como as soluções baseadas em IA podem ser aplicadas para enfrentar desafios globais, como mudanças climáticas, perda de biodiversidade, e desigualdades sociais, alinhando-se aos Objetivos de Desenvolvimento Sustentável das Nações Unidas. Será dada ênfase à análise crítica de casos de sucesso e aos dilemas éticos e práticos na implementação de projetos de IA que buscam equilibrar progresso tecnológico com responsabilidade ambiental e social. A matéria pretende não apenas fornecer uma visão geral das potenciais contribuições da IA para o desenvolvimento sustentável, mas também fomentar uma reflexão sobre como garantir que essas inovações sejam inclusivas, justas e efetivamente contribuam para a conservação do planeta e o bem-estar das futuras gerações. Direitos Autorais e IA A matéria foca em desvendar os complexos desafios que a inteligência artificial apresenta para o direito autoral. O curso tem como objetivo compreender como as legislações existentes se aplicam às obras geradas por IA, abordando questões de originalidade, autoria e titularidade. Será discutido o impacto da IA na criação artística e intelectual, explorando tanto as oportunidades quanto os dilemas éticos e legais que surgem quando máquinas geram conteúdo que tradicionalmente seria protegido por direitos autorais. A matéria busca preparar os alunos para navegar no cenário em evolução dos direitos autorais, equilibrando a inovação tecnológica com a proteção dos criadores humanos, incentivando um debate informado sobre a necessidade de revisão ou adaptação das leis de propriedade intelectual na era digital. A Regulação de IA no Brasil O objetivo desta aula é aprofundar a compreensão dos alunos sobre a regulação e responsabilidade legal no contexto da Inteligência Artificial. Exploraremos as abordagens regulatórias adotadas por diferentes países e organizações, bem como as questões legais relacionadas à responsabilidade por ações de sistemas autônomos. Os alunos serão guiados através de casos de estudo que envolvem acidentes e decisões tomadas por sistemas de IA, analisando como os tribunais estão enfrentando esses desafios. Ao final da aula, os alunos deverão compreender as implicações legais de sistemas de IA autônomos, avaliar a responsabilidade legal em cenários complexos e considerar as estratégias para a regulamentação eficaz da IA. Ética na Pesquisa de IA A disciplina tem o propósito de mergulhar nos princípios éticos fundamentais que orientam a pesquisa em inteligência artificial. O objetivo é capacitar os alunos a identificar e analisar os dilemas éticos que podem surgir ao longo do ciclo de vida da pesquisa e desenvolvimento em IA, desde a concepção até a implementação de tecnologias. A ênfase será colocada na importância de uma conduta responsável na pesquisa, que inclui a consideração de questões como consentimento informado, privacidade, viés algorítmico e impacto social das inovações tecnológicas. A disciplina busca promover uma compreensão profunda dos desafios éticos específicos ao campo da IA, preparando os alunos para tomar decisões conscientes e éticas em suas futuras carreiras como pesquisadores, desenvolvedores ou profissionais de IA, contribuindo assim para o avanço de uma tecnologia que seja ao mesmo tempo inovadora e alinhada com valores éticos universais. O Futuro da IA no Brasil A disciplina objetiva fornecer uma visão abrangente sobre o desenvolvimento e a implementação da inteligência artificial no contexto brasileiro, destacando as oportunidades, desafios e implicações éticas, sociais e legais específicas ao país. Um foco particular será dado aos desafios de viés e racismo algorítmico, considerando a diversidade cultural e socioeconômica do Brasil e como estas questões podem influenciar a equidade e a justiça na aplicação da IA. Além disso, a disciplina visa integrar conhecimentos das áreas de ética, direito, desenvolvimento sustentável, e governança de IA, proporcionando uma compreensão holística das necessidades de uma abordagem multidisciplinar para o desenvolvimento responsável da tecnologia. Pretende-se também estimular uma reflexão crítica sobre como o Brasil pode se posicionar como um líder na adoção ética e inovadora da IA, superando barreiras e promovendo inclusão e desenvolvimento social. Os alunos serão encorajados a explorar soluções práticas e políticas que alinhem o avanço da IA com os objetivos de desenvolvimento sustentável e bem-estar coletivo, preparando-os para contribuir ativamente para um futuro onde a IA beneficie toda a sociedade brasileira. Bibliografia: Silva, Tarcízio. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: LiteraRua, 2020. Silva, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo. Edições SESC SP, 2022. Tavares, C.; Simão, B., Martins, F.; Santos, B., Araújo, A.. “Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras”. São Paulo:InternetLab, 2023. Wallach, W., Allen, C. (2008), Moral Machines, Oxford University Press, Oxford. World Economic Forum, (21 Oct 2016) ‘Top 9 ethical issues in artificial intelligence’. Yudkowsky, E. ‘Artificial intelligence as a positive and negative factor in global risk’ In Global Catastrophic Risks, edited by Nick Bostrom and Milan M. Cirkovic, 308—345. New York: Oxford University Press, 2008. Lee, Kai Fu. AI Superpowers: China, Silicon Valley, and the New World Order. Harper Business. 2018. Brandão, R.; Arbix, G. (2022) Artificial Intelligence, Ethics and Public Policy— The Use of Facial Recognition Systems in Public Transport in the Largest Brazilian Cities. Journal of Service Science and Management, 15, 551-575. doi: https://doi.org/10.4236/jssm.2022.155032. Singer, P. (1993). Practical Ethics, second edition, Cambridge: Cambridge University Press. Singer, P. (2009). ‘Speciesism and Moral Status’, Metaphilosophy, 40, 567–581. Solum, L. B., (1992). ‘Legal Personhood for Artificial Intelligences’, North Carolina Law Review 70, 1231–1287. BEZERRA, Arthur Coelho; WALTZ, Igor. Privacidade, neutralidade e inimputabilidade da internet no Brasil: avanços e deficiências no projeto do marco civil. Revista de Eletrônica Internacional de Economia Política da Informação da Comunicação e da Cultura, Florianópolis, v. 16, n. 2, p.157-171, maio/ago. 2014. Disponível em: http://ridi.ibict.br/handle/123456789/858. CARVALHO, Adriana Cristina França Leite de. Da segurança e das boas práticas LGPD na educação. In: SANTOS, Regiane Martins dos; CARVALHO, Adriana Cristina França Leite de. Comentários à Lei Geral de Proteção de Dados. São Paulo: OAB, 2020. Cap. 9, p. 122-135. LUZ, Pedro Henrique Machado da; LOREIRO, Maria Fernanda Battaglin. Privacidade e proteção de dados pessoais: os novos desafios na sociedade em rede. Meritum, Belo Horizonte, v. 13, n. 1, p. 69-86, jan. /jun. 2018. TEFFÉ, Chiara Spadaccini de; MORAES, Maria Celina Bodin de. Redes sociais virtuais: privacidade e responsabilidade civil Análise a partir do Marco Civil da Internet. Pensar: Revista de Ciências Jurídicas, Fortaleza, v. 22, n. 1, p. 108-146, 2017. Disponível em: https://doi.org/10.5020/2317-2150.2017.6272. Russell, S.; Norvig, P. Artificial Intelligence: A Modern Approach 3. ed. San Francisco: Prentice Hall, 2010. Pasquale, Frank. The Black Box Society: The Secret Algorithms that Control Money and Information. Cambridge: Harvard University Press, 2015. BRANCO, Manuel C.; RODRIGUES, Lúcia L. Positioning stakeholder theory within the debate on corporate social responsibility. Electronic Journal of Business Ethics and Organiation Studies, v. 12, n. 1, p. 5-15, 2007.Brandão, Rodrigo. Oliveira, João Lucas. Reconhecimento facial e viés algorítmico em grandes municípios brasileiros. Anais do Workshop Sobre as Implicações da Computação na Sociedade (WICS). 2021. Brandão, R. et al. (2021). “Reconhecimento facial e discriminação algorítmica nos municípios brasileiros”, 7 de maio de 2021. Disponível em: https://www.migalhas.com.br/depeso/345092/reconhecimento-facial-e-discriminacao-algoritmica-nos-municipios. Buolamwini, J., Gebru, T. (2018). “Gender Shades: Intersectional Accuracy Disparities in Chalmers, D. (2010). The singularity: A philosophical analysis. Journal of Consciousness Studies, 17(9-1), 7-65. Commercial Gender Classification”. Proceedings of Machine Learning Research 81:1–15. Conference on Fairness, Accountability, and Transparency.Lorena, A. C.; Gama, J. Carvalho, A. C. P. L. F. Inteligência Artificial: uma abordagem de Aprendizado de Máquina. LTC, 2011. O’Neil, Cathy. Algoritmos de destruição em massa. Santo André/SP. Editora Rua do Sabão. 2020. World Economic Forum, (21 Oct 2016) ‘Top 9 ethical issues in artificial intelligence’. Kelley, Tom. The Art of Innovation: Lessons in Creativity from IDEO, America’s Leading Design Firm. Broadway Business, 2001. *Disciplinas e ementas sujeitas a alterações. |
||||
| Carga Horária: |
75 horas |
||||
| Tipo: | Obrigatória | ||||
| Vagas oferecidas: | 150 | ||||
| Ministrantes: |
Alessandro Hirata Bianca Kremer Nogueira Correa Cíntia Rosa Pereira de Lima Cristina Godoy Bernardo de Oliveira Eduardo Saad Diniz Fabio Gagliardi Cozman Glauco Antonio Truzzi Arbix Juliano Souza de Albuquerque Maranhão Rafael Meira Silva Rita de Cássia Marques Lima de Castro Rodrigo Brandão de Andrade e Silva Rubens Beçak Sarajane Marques Peres |
 voltar |
|
Créditos © 1999 - 2025 - Superintendência de Tecnologia da Informação/USP |