GOVERNANÇA (DISCIPLINAR) ALGORÍTMICA

Mariana Carolina CAROLINA Lemes

Resumo


A pesquisa qualitativa, de método  indutivo, com uso da documentação indireta, visa responder como a análise de dados e metadados com papel preditivo de comportamentos vêm sendo utilizados pelas agências governamentais. A hipótese primária é de que os algoritmos devem ser utilizados com transparência e ética pelas agências governamentais. É objetivo geral do trabalho analisar os algoritmos como poderoso instrumento para a governabilidade. Os objetivos específicos voltam-se para a problematização dos riscos dos algoritmos opacos. Os Casos Wisconsin v. Loomis e SyRI foram discutidos, de forma a apontar os malefícios de códigos opacos no setor público.

Palavras-chave


Algoritmos tendenciosos; Controle; Exclusão; Infamiliar; Governança.

Texto completo:

PDF

Referências


ANGWIN, Julia et. al. Machine Bias: There´s software used across the country to predict future criminals. And it´s biased against blacks. 23 maio 2016. Disponível em: http://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 04 abr. 2021.

BAUMAN, Zygmunt. Capitalismo parasitário: e outros temas contemporâneos. Zygmunt Bauman e Tim May. Rio de Janeiro: Zahar, 2010.

BAUMAN, Zygmunt. Vigilância líquida. Diálogos com David Lyon. Rio de Janeiro: Zahar, 2014.

BIGO, D. Security, exception, ban and surveillance. In: Theorizing Surveillance: the panopticon and beyond. Lyon, D. (ed.). Willan Publishing. Portland: Willan Publishing, 2006.

BOND, Michaelle. Government Is Using Algorithms - Is It Assessing Bias? Government Technology. 10 dez. 2018. Disponível em: http://www.govtech.com/dc/Government-is-Using-Algorithms-Are-They-Assessing-Bias.html. Acesso em: 05 abr. 2021.

BURACK, Justin. Addressing Algorithmic Discrimination in the European Union. A Path for Europe. Novembro, 24, 2020. Disponível em: http://pathforeurope.eu/addressing-algorithmic-discrimination-in-the-european-union/. Acesso em: 21 mar. 2021.

CEREIJIDO, Fanny Blanck. O olhar sobre o estrangeiro: The gaze on the foreigner. Ide (São Paulo), São Paulo, v. 31, n. 47, p. 61-65, dez. 2008. Disponível em . acessos em 21 mar. 2021.

CORBETT-DAVIES, Sam et.al. A computer program used for bail and sentencing decisions was labeled biased against blacks. It´s actually not that clear. The Washington Post, Monkey Cage, 17 out. 2016. Disponível em: http://www.washingtonpost.com/news/monkey-cage/wp/2016/10/17/can-an-algorithm-be-racist-our-analysis-is-more-cautious-than-propublicas/?noredirect=on. Acesso em: 04 abr. 2021.

DE GENOVA, Nicholas. Spectacles of migrant ‘illegality’: the scene of exclusion, the obscene of inclusion. Ethnic and Racial Studies, 36: 7, 1180-1198, DOI: 10.1080/01419870.2013.783710. Acesso em: 04 abr. 2021.

DHASARATHY, Anusha; JAIN, Sahil; KHAN, Naufal. When governments turn to AI: Algorithms, trade-offs, and trust. 19 out. 2020. Disponível em: http://www.mckinsey.com/industries/public-and-social-sector/our-insights/when-governments-turn-to-ai-algorithms-trade-offs-and-trust#. Acesso em: 04 abr. 2021.

DONNELLY, Drew. An Introduction to the China Social Credit System. New Horizons. 18 mar. 2021. Disponível em: http://nhglobalpartners.com/china-social-credit-system-explained/. Acesso em: 02 abr. 2021.

DUTCH Court Rules Secret Welfare Algorithm Violates Human Rights. Electronic Privacy Information Center. Washington, Fevereiro, 5, 2020. Disponível em: http://epic.org/2020/02/dutch-court-rules-secret-welfa.html. Acesso em: 21 mar. 2021.

ETHICS & Algorithms Toolkit. Creative Commons Attribution 4.0 International. Disponível em: http://ethicstoolkit.ai/. Acesso em: 04 abr. 2021.

FLORES, Anthony W.; LOWENKAMP, Christopher T.; BECHTEL, Kristin. False Positives, False Negatives, and False Analyses: A Rejoinder to “Machine Bias: There´s Software Used Across the Country to Predict Future Criminals. And it´s Biased Against Blacks.” Disponível em: http://www.crj.org/assets/2017/07/9_Machine_bias_rejoinder.pdf. Acesso em: 04 abr. 2021.

FREUD. Sigmund. (1919). O infamiliar [Das Unheimliche]. Edição comemorativa bilíngue (1919-2019). Tradução Ernani Chaves, Rogério Freitas e Pedro Heliodo Tavares. Editora Autêntica: 2019.

HOLDER JR., Eric H. Attorney General Eric Holder Speaks at the National Association of Criminal Defense Lawyers 57th Annual Meeting and 13th State Criminal Justice Network Conference. The United States Department of Justice. Philadelphia, PA, August 1, 2014. Disponível em: http://www.justice.gov/opa/speech/attorney-general-eric-holder-speaks-national-association-criminal-defense-lawyers-57th. Acesso em: 04 abr. 2021.

KLEINBERG, Jon; MULLAINATHAN, Sendhil; RAGHAVAN, Manish. Compensações inerentes na determinação justa das pontuações de risco. Cornell University, 19 set. 2016, revisado em 17 nov. 2016. Disponível em: http://arxiv.org/abs/1609.05807. Acesso em: 04 abr. 2021.

KRANZBERG, Melvin. Technology and History: “Kranzberg´s laws”. Bull. Sci. Tech. Soc., Vol. 15, N. 1, pp. 5-13, 1 fev. 1995, STS Press. http://doi.org/10.1177/027046769501500104. Disponível em: http://journals.sagepub.com/doi/abs/10.1177/027046769501500104. Acesso em: 04 abr. 2021.

LEMES, Marcelle Martins. Inteligência artificial, algoritmos e policiamento preditivo no poder público federal brasileiro. 2019. Trabalho de Conclusão de Curso (Bacharelado em Direito), Universidade de Brasília, Brasília, 2019. Disponível em: http://bdm.unb.br/handle/10483/24565. Acesso em: 02 abr. 2021.

MENEZES NETO, Elias Jacob de. Vigilância ou surveillance? Proposta para começar a compreender corretamente este fenômeno. Revista dos Tribunais, v. 939, p. 159-182, jan. 2014. Disponível em: http://dspace.almg.gov.br/handle/11037/21500. Acesso em: 03 abr. 2021.

MORAIS, José Luis Bolzan de. O Estado de Direito "confrontado" pela "revolução da internet"! Revista Eletrônica do Curso de Direito da UFSM, v. 13, n. 3, pp. 876-903, 2018. Disponível em: http://periodicos.ufsm.br/revistadireito/article/view/33021. Acesso em: 03 abr. 2021.

OPEN Data Strategic Plan. Cambridge open data. 1 abr. 2019. Disponível em: http://data.cambridgema.gov/General-Government/Open-Data-Strategic-Plan/w7ax-fa5u. Acesso em: 05 abr. 2021.

SCHMITT, Carl. O conceito do político. Petrópolis: Vozes, 1992.

SNIRCEK, Nick. Platform capitalism. Cambridge: Polity Press, 2017. Resenha de: SILVA NETO, Victo. Revista Brasileira de Inovação, 18(2):449-454, Unicamp. DOI: 10.20396/rbi.v18i2.8654960. Disponível em: http://periodicos.sbu.unicamp.br/ojs/index.php/rbi/article/view/8654960/21737. Acesso em: 04 abr. 2021.

STATE v. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Assessments in Sentencing. Harvard law review. Criminal law. 10 mar. 2017. Disponível em: http://harvardlawreview.org/2017/03/state-v-loomis/. Acesso em: 04 abr. 2021.

TASHEA, Jason. Courts Are Using AI to Sentence Criminals. That Must Stop Now. Opinion: Courts should pause the use of algorithms for criminal sentencing. Wired. 17 abr. 2017. Disponível em: http://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now/. Acesso em: 04 abr. 2021.

THIESEN, Icléia; SANTANA, Marco Aurélio. Do exame à identificação ou do panóptico ao banóptico: memória e representações. Identidades. XIII Encontro de História Anpuh Rio. 2008. Disponível em: http://encontro2008.rj.anpuh.org/resources/content/anais/1212615086_ARQUIVO_Thiesen&Santanaanpuhriofinaljunho%5B1%5D.pdf. Acesso em: 04 abr. 2021.




DOI: http://dx.doi.org/10.26668/IndexLawJournals/2526-0049/2021.v7i1.7873

Apontamentos

  • Não há apontamentos.


Licença Creative Commons
Este obra está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.