{"id":196275,"date":"2024-11-28T10:04:25","date_gmt":"2024-11-28T10:04:25","guid":{"rendered":"https:\/\/radiofenix.com.ar\/2023\/el-futuro-de-la-ia-de-las-promesas-de-objetividad-a-las-cajas-negras-y-sesgos\/"},"modified":"2024-11-28T10:04:25","modified_gmt":"2024-11-28T10:04:25","slug":"el-futuro-de-la-ia-de-las-promesas-de-objetividad-a-las-cajas-negras-y-sesgos","status":"publish","type":"post","link":"https:\/\/radiofenix.com.ar\/2023\/el-futuro-de-la-ia-de-las-promesas-de-objetividad-a-las-cajas-negras-y-sesgos\/","title":{"rendered":"El futuro de la IA: de las promesas de objetividad a las cajas negras y sesgos"},"content":{"rendered":"
<\/p>\n

La inteligencia artificial<\/b><\/a> irrumpi\u00f3<\/b>\u00a0en el Poder Judicial<\/b>, que vive un intenso debate sobre c\u00f3mo y en qu\u00e9<\/a> casos se puede implementar este tipo de tecnolog\u00edas para impartir justicia. No es un debate menor: la promesa de perfecci\u00f3n y objetividad<\/b> de los algoritmos implica, para muchos, un avance exponencial<\/b> al interior de los tribunales; sin embargo, hay expertos que advierten sobre los dilemas \u00e9ticos y los riesgos<\/b> de avanzar hacia esta ola sin mirar bien cada paso que se da.<\/p>\n\n

El principal argumento, tanto a favor como en contra, es una especie de parafraseo de la ic\u00f3nica frase de Blaise Pascal<\/b>: si para el f\u00edsico franc\u00e9s \u201cel coraz\u00f3n tiene razones que la raz\u00f3n ignora\u201d, 400 a\u00f1os m\u00e1s tarde, en la era del capitalismo de las plataformas<\/i>, son los algoritmos <\/b>los que ocupan ese lugar. O al menos esa es la expectativa que all\u00ed se deposita, con la construcci\u00f3n de una inteligencia que supere a la humana<\/b>. La expectativa de la llegada de una aletheia algor\u00edtmica<\/i><\/b>, en palabras del fil\u00f3sofo \u00c9ric Sadin<\/a>.<\/p>\n

La promesa de perfecci\u00f3n<\/b> y objetividad plantea, sin embargo, una serie de interrogantes \u00e9ticos:<\/b> \u00bfpuede un algoritmo <\/b>determinar, en base un an\u00e1lisis de datos pr\u00e1cticamente imposible de procesar por humanos, culpabilidad e inocencia? \u00bfPuede una inteligencia artificial<\/b>, que no sabe qu\u00e9 es la libertad, determinar tiempos de reclusi\u00f3n, prisiones domiciliarias o probabilidades de fuga? En \u00faltima instancia: \u00bfpuede un programa de computaci\u00f3n<\/b> dictar una pena de muerte o brindar a un condenado m\u00e1s tiempo de vida? <\/p>\n

Los dilemas \u00e9ticos: \u00bfser\u00e1 justicia? <\/h2>\n

\u201cHay un<\/b> problema filos\u00f3fico, una mezcla del derecho y \u00e9tica<\/b> \u2014explic\u00f3 a P\u00e1gina|12 <\/b>Ricardo Andrade<\/b><\/a>, licenciado en Letras y fil\u00f3sofo de la tecnolog\u00eda (UNRN\/CITECDE\/CONICET)\u2014. Los algoritmos trabajan de acuerdo a estad\u00edsticas, pero la dimensi\u00f3n \u00e9tica no puede conducirse por probabilidades<\/b>. Se le est\u00e1n delegando a la IA algunos aspectos que, solamente por ahora, una mirada cr\u00edtica humana puede discernir o matizar de una mejor manera. Por ejemplo, con conceptos acerca de qu\u00e9 es justo y qu\u00e9 es lo injusto, tan propios de la subjetividad humana<\/b>\u201d.<\/p>\n

Sobre el mismo punto puso la lupa la consejera de la Magistratura por el Colegio P\u00fablico de Abogados, Jimena de la Torre<\/b><\/a>, al responder una pregunta sobre el rol de la empat\u00eda en los fallos<\/b> y la posibilidad de una inteligencia artificial de dictar sentencias: \u201cEl juez tiene que ser objetivo, tiene que ser imparcial, tiene que aplicar la ley. Ahora, muchas veces la justicia de una ley, si es justa o no lo es, si es constitucional o no, te hacen ver que la aplicaci\u00f3n de una ley puede terminar resultando en una injusticia<\/b>, porque tal vez esa ley estuvo mal planteada\u201d.\u00a0<\/p>\n

En este sentido, marc\u00f3 un l\u00edmite: \u201cEl sentido de justo o no justo tiene algo de subjetivo al final del camino. No digo que la justicia deba ser m\u00e1s emp\u00e1tica, pero s\u00ed tiene que tener en cuenta al ser humano<\/b>. El derecho, la justicia, es una ciencia, pero no deja de ser una ciencia humana<\/b>, y perder el foco del ser humano te puede llevar a resultados injustos<\/b>\u201d. <\/p>\n

Sesgos, cajas negras y falsa objetividad<\/h2>\n

Pero el debate no se cierra solo en torno a \u00e9tica y la filosof\u00eda detr\u00e1s de aplicar estas tecnolog\u00edas al interior de los juzgados. Hay riesgos concretos a los que se enfrenta el sistema y que deben ser tenidos en cuenta, como los sesgos<\/b>, las cajas negras<\/b> y la falsa objetividad<\/b>. Para que quede claro, mejor explicar con ejemplos concretos:<\/p>\n

Sesgos de la Inteligencia Artificial<\/h3>\n

En el documental Coded Bias<\/i><\/a> (2020), <\/i>Shalini Kantayya <\/b>muestra como la IA puede tener sesgos raciales. Lo hace de la mano de la investigadora del MIT Media Lab, Joy Buolamwini<\/b>, quien revel\u00f3 los prejuicios en los sistemas de reconocimiento facial operados con una inteligencia artificial que no era capaz de reconocer su rostro<\/b> por ser una mujer negra, pero que en cuesti\u00f3n de segundos distingu\u00eda los rasgos si se pon\u00eda encima una m\u00e1scara blanca<\/b>. En paralelo, un estudio del Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda de Estados Unidos de 2019 revel\u00f3 que los sistemas de reconocimiento facial identifican err\u00f3neamente<\/b> los rostros negros <\/b>y asi\u00e1ticos <\/b>entre 10 y 100 veces m\u00e1s que los rostros blancos<\/b>.<\/p>\n

Esto tiene que ver con la forma en la que se entrena a este tipo de sistemas<\/b>, donde muchas veces se trasladan las mismas discriminaciones<\/b> que ocurren a nivel social a los algoritmos. \u00bfPor qu\u00e9 una inteligencia artificial que fue entrenada con miles y miles de rostros de hombres blancos estadounidenses reconocer\u00eda el rostro de Buolamwini<\/b>? \u00bfC\u00f3mo se traduce esto si se traslada a la justicia? <\/b><\/p>\n

Cajas negras<\/h3>\n

El problema de las cajas negras <\/b>queda bien graficado en el libro Nexus (2024)<\/i> de Yuval Noa\u1e25 Harari<\/a>, donde relata el caso de Eric Loomis, <\/b>que en 2013 fue detenido en Estados Unidos por presunto robo de veh\u00edculo y en el juicio se agrav\u00f3 su pena<\/b> a ra\u00edz de la utilizaci\u00f3n de un sistema de IA llamado COMPAS<\/b>, que arroj\u00f3 que ten\u00eda un alto riesgo de reincidencia.<\/b> Tras apelar la decisi\u00f3n y denunciar al Estado de Wisconsin, Loomis<\/b> pidi\u00f3 conocer los motivos detr\u00e1s de la decisi\u00f3n del algoritmo, pero le fue negada la respuesta por un secreto de empresarial<\/b>. A\u00f1os m\u00e1s tarde se determin\u00f3 que este sistema falla \u201ctanto como un humano\u201d. <\/p>\n

Para el historiador israel\u00ed, este tipo de escenas llevar\u00e1n a la necesidad de implantar un nuevo tipo de derecho: el derecho humano a la justificaci\u00f3n<\/b>. Una forma de pedir una voz humana que traduzca las cajas negras de los algoritmos cuando avancen no s\u00f3lo en la justicia, sino en la mayor\u00eda de los elementos de la burocracia. <\/p>\n

Falsa objetividad<\/h3>\n

Ambos dilemas no hacen m\u00e1s que agravarse si se da un paso hacia atr\u00e1s y se vuelve al principio de objetividad y perfecci\u00f3n de los sistemas de IA<\/b>, capaces de poner en consideraci\u00f3n miles de datos en simult\u00e1neo a la hora de tomar una decisi\u00f3n. Dilema que se conoce como\u00a0\u201cfalsa objetividad\u201d. <\/b><\/p>\n

\u201cDentro de las posibles consecuencias, creo que la m\u00e1s importante es la eventualidad de que decisiones injustas o sesgadas pasen inadvertidas<\/b>. No s\u00f3lo porque desenmascarar sesgos subyacentes en datos o en procedimientos de decisi\u00f3n puede resultar dificultoso; sino, adem\u00e1s, porque el hecho de que exista ese halo de neutralidad<\/b> rodeando los sistemas de IA puede hacer los seres humanos nos relajemos en nuestros niveles de supervisi\u00f3n<\/b>, justamente, por esa predisposici\u00f3n subjetiva a confiar los resultados que arroja la IA\u201d, explic\u00f3 a este medio la abogada y docente de Bio\u00e9tica en la Facultad de Medicina de la UNComa, Romina Segura.<\/b><\/p>\n

Puntos finales: IA, \u00bfs\u00ed o no? <\/h2>\n

Para Segura, que en un ensayo analiz\u00f3 los desaf\u00edos de la IA en la administraci\u00f3n de Justicia<\/a> (Revista de Bio\u00e9tica y Derecho), entre las ventajas de esta herramienta est\u00e1n la celeridad <\/b>y eficiencia<\/b>, al procesar grandes vol\u00famenes de informaci\u00f3n<\/b>; la optimizaci\u00f3n <\/b>del trabajo humano, liberando a los operadores de tareas repetitivas; la consistencia en las decisiones, reduciendo la subjetividad; y la mejora en la comunicaci\u00f3n judicial<\/b>, con decisiones m\u00e1s claras.<\/p>\n

Sin embargo, sostuvo que este tipo de algoritmos enfrentan desaf\u00edos como la falta de transparencia<\/b>, el riesgo de reproducci\u00f3n de desigualdades, la brecha digital<\/b>, la volatilidad institucional<\/b> y la resistencia al cambio<\/b>. \u201cAunque la IA puede transformar positivamente la administraci\u00f3n de justicia, su implementaci\u00f3n debe acompa\u00f1arse de pol\u00edticas inclusivas<\/b>, alfabetizaci\u00f3n digital y un enfoque \u00e9tico que contemple las particularidades de cada regi\u00f3n\u201d, se\u00f1al\u00f3.<\/p>\n

Zaffaroni, la IA\u00a0 y el rol de la inteligencia humana<\/h2>\n

Por su lado, el exjuez de la Corte Suprema<\/b>, Ra\u00fal Zaffaroni<\/b><\/a> usar esta herramienta \u201cpara meterse en la vida de los ciudadanos \u2018sospechosos\u2019 es un peligro, pero inevitable\u201d. \u201cSi no es por derecha lo usar\u00e1n por izquierda<\/b>. En un r\u00e9gimen como el que padecemos, con tendencias que recuerdan a la KGB y a la consiguiente persecuci\u00f3n ideol\u00f3gica, nada me extra\u00f1ar\u00eda\u201d, se\u00f1al\u00f3.<\/p>\n

Y finaliz\u00f3: \u201cHace muchos a\u00f1os que se fantasea con la idea del \u2018robot que hace sentencias\u2019. No faltar\u00e1 alg\u00fan inconsciente que lo intentar\u00e1, hoy mismo puede hacerse. Afortunadamente, tambi\u00e9n la IA permite detectarlos, al menos en la mayor\u00eda de los casos. Se tratar\u00e1 de algo as\u00ed como los pibes que plagian monograf\u00edas. Fuera de esos casos patol\u00f3gicos, la IA puede ser de gran utilidad para proveer jurisprudencia y doctrina sobre el tema de la sentencia, pero la inteligencia humana no puede reemplazarse<\/b>\u201d.<\/p>\n

<\/div>\n

source<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial irrumpi\u00f3\u00a0en el Poder Judicial, que vive un intenso debate sobre c\u00f3mo y…<\/p>\n","protected":false},"author":0,"featured_media":196276,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7],"tags":[],"class_list":["post-196275","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sociedad"],"featured_image_urls":{"full":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",0,0,false],"thumbnail":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"medium":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"medium_large":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"large":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"1536x1536":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"2048x2048":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"newsium-slider-full":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"newsium-featured":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false],"newsium-medium":["https:\/\/radiofenix.com.ar\/2023\/wp-content\/uploads\/wp-header-logo.png",1,1,false]},"author_info":{"info":[""]},"category_info":"Sociedad<\/a>","tag_info":"Sociedad","comment_count":"0","_links":{"self":[{"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/posts\/196275","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/types\/post"}],"replies":[{"embeddable":true,"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/comments?post=196275"}],"version-history":[{"count":0,"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/posts\/196275\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/media\/196276"}],"wp:attachment":[{"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/media?parent=196275"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/categories?post=196275"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/radiofenix.com.ar\/2023\/wp-json\/wp\/v2\/tags?post=196275"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}