Voc\u00ea pode at\u00e9 n\u00e3o saber como funciona um algoritmo, mas com certeza j\u00e1 deve ter ouvido falar esta palavra. O mesmo acontece com a intelig\u00eancia artificial (IA): \u00e9 um rob\u00f4, uma m\u00e1quina, um sistema? Muitas pessoas t\u00eam contato di\u00e1rio com tecnologias modernas, que est\u00e3o imersas em diversos \u00e2mbitos de vida e influenciam praticamente todo o tecido social. Ainda assim, poucos entendem realmente o seu funcionamento.<\/p>\n\n\n\n
No entanto, n\u00e3o lidamos mais com sistemas que servem como ferramenta para apoio \u00e0s atividades dos seres humanos. Hoje, gra\u00e7as ao machine learning<\/em> que possibilitou que algoritmos aprendam e se desenvolvam, as m\u00e1quinas est\u00e3o autonomamente tomando decis\u00f5es. Assim, entender como os algoritmos chegam \u00e0s decis\u00f5es finais est\u00e1 levantando um debate sobre o direito \u00e0 explica\u00e7\u00e3o. Isto significa que os usu\u00e1rios finais, que n\u00e3o necessariamente entendem as linguagens t\u00e9cnicas, precisam compreender os resultados e sa\u00eddas das tecnologias. <\/p>\n\n\n\n Al\u00e9m disto, percebe-se que, atualmente, a performance est\u00e1 negativamente correlacionada com a explicabilidade. Isto significa que, quanto maior a performance de um sistema de IA, menor \u00e9 a sua explicabilidade (GUNNING, 2019). Neste sentido, a IA explic\u00e1vel \u00e9 uma das \u00e1reas de estudo mais recentes que surgiu para satisfazer expectativas pr\u00e1ticas, legais e \u00e9ticas. Tecnologias deste tipo t\u00eam sido chamadas de XAI e suas caracter\u00edsticas envolvem o uso, quest\u00f5es de responsabilidade, direito a explica\u00e7\u00f5es e autonomia, entre outros exemplos (KIM, 2018). Como direito moral, o direito \u00e0 explica\u00e7\u00e3o existe al\u00e9m do impacto do resultado final, que se concentra na prote\u00e7\u00e3o da privacidade dos usu\u00e1rios nas transa\u00e7\u00f5es de consentimento e de terceiros que possam estar envolvidos nos eventos (KIM; ROUTLEDGE, 2018). No entanto, IA explic\u00e1vel n\u00e3o significa apenas transparente, interpret\u00e1vel ou abrangente. \u00c9 por isso que a psicologia humana tem sido usada para fornecer insights sobre as informa\u00e7\u00f5es necess\u00e1rias para criar sistemas XAI razo\u00e1veis. Esses requisitos dizem respeito ao que os usu\u00e1rios finais precisam para entender as decis\u00f5es para decidir sobre a melhor aplica\u00e7\u00e3o (GUNNING, 2019). Em outras palavras, al\u00e9m de satisfazer as expectativas \u00e9ticas, os humanos ainda precisam compreender como as decis\u00f5es foram tomadas, pois os resultados das m\u00e1quinas podem ser muito t\u00e9cnicos para eles.<\/p>\n\n\n\n Como reflex\u00e3o, proponho um exerc\u00edcio. Tente identificar nas tecnologias a sua volta quais usam a IA. Depois, procure entender qual a l\u00f3gica por tr\u00e1s deste sistema. Voc\u00ea ver\u00e1 que n\u00e3o \u00e9 t\u00e3o f\u00e1cil assim e esta pequena reflex\u00e3o poder\u00e1 dar uma ideia do quanto \u00e9 importante pensarmos em explicabilidade para o atual n\u00edvel tecnol\u00f3gico em que vivemos.<\/p>\n\n\n\n REFEER\u00caNCIAS<\/p>\n\n\n\n GUNNING, D. W. A. DARPA’s Explainable Artificial Intelligence Program. AI Magazine<\/strong>, 44\u201358. doi:10.1201\/b10933-22, 2019.<\/p>\n\n\n\n KIM, T. W. (2018). Explainable artificial intelligence (XAI), the goodness criteria, and the grasp-ability test. 1\u20137. Available at: http:\/\/arxiv.org\/abs\/1810.09598.<\/p>\n\n\n\n KIM, T. W., ROUTLEDGE, B. R. (2018). Informational Privacy, A Right to Explanation, and Interpretable AI. Procedures – 2nd IEEE Symp. Privacy-Aware Comput. PAC 2018<\/strong>, 64\u201374. doi:10.1109\/PAC.2018.00013, 2018<\/p>\n","protected":false},"excerpt":{"rendered":" Voc\u00ea pode at\u00e9 n\u00e3o saber como funciona um algoritmo, mas com certeza j\u00e1 deve ter ouvido falar esta palavra. O mesmo acontece com a intelig\u00eancia artificial (IA): \u00e9 um rob\u00f4, uma m\u00e1quina, um sistema? Muitas pessoas t\u00eam contato di\u00e1rio com tecnologias modernas, que est\u00e3o imersas em diversos \u00e2mbitos de vida e influenciam praticamente todo o […]<\/p>\n","protected":false},"author":20,"featured_media":3681,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3,6],"tags":[],"class_list":["post-3680","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-articles","category-opinion"],"translation":{"provider":"WPGlobus","version":"3.0.2","language":"br","enabled_languages":["en","br"],"languages":{"en":{"title":true,"content":true,"excerpt":false},"br":{"title":true,"content":true,"excerpt":false}}},"blog_post_layout_featured_media_urls":{"thumbnail":["https:\/\/www.admethics.com\/wp-content\/uploads\/2022\/08\/Blog-post-IA-Ana-17.08-150x150.png",150,150,true],"full":["https:\/\/www.admethics.com\/wp-content\/uploads\/2022\/08\/Blog-post-IA-Ana-17.08.png",1920,1080,false]},"categories_names":{"3":{"name":"Articles","link":"https:\/\/www.admethics.com\/br\/category\/articles\/"},"6":{"name":"Opinion","link":"https:\/\/www.admethics.com\/br\/category\/opinion\/"}},"tags_names":[],"comments_number":"0","_links":{"self":[{"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/posts\/3680","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/users\/20"}],"replies":[{"embeddable":true,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/comments?post=3680"}],"version-history":[{"count":2,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/posts\/3680\/revisions"}],"predecessor-version":[{"id":3683,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/posts\/3680\/revisions\/3683"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/media\/3681"}],"wp:attachment":[{"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/media?parent=3680"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/categories?post=3680"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.admethics.com\/br\/wp-json\/wp\/v2\/tags?post=3680"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}