{"id":18921,"date":"2024-01-24T01:50:00","date_gmt":"2024-01-24T01:50:00","guid":{"rendered":"https:\/\/ritmocordoba.com\/?p=18921"},"modified":"2024-01-24T01:50:00","modified_gmt":"2024-01-24T01:50:00","slug":"llevamos-decadas-discriminando-el-sesgo-esta-en-nosotros-antes-que-en-los-algoritmos","status":"publish","type":"post","link":"https:\/\/ritmocordoba.com\/?p=18921","title":{"rendered":"“Llevamos d\u00e9cadas discriminando, el sesgo est\u00e1 en nosotros antes que en los algoritmos”"},"content":{"rendered":"\n
<\/div>\n
\"Foto
Foto: Alejandro Santa Cruz. <\/figcaption><\/figure>\n

En las entrel\u00edneas de siete relatos de ficci\u00f3n cient\u00edfica que cuentan el devenir de un robot obsoleto, un pa\u00eds gobernado por m\u00e1quinas o las habilidades de una robot capaz de ayudar a un chico cansado del bullying<\/strong>, el emprendedor y tecn\u00f3logo Fredi Vivas, quien lleva m\u00e1s de quince a\u00f1os trabajando con desarrollos de inteligencia artificial, plantea en su nuevo libro “Invisible” distintas reflexiones sobre el impacto \u00e9tico de los algoritmos, los apagones digitales y la obsolescencia en la vida diaria.<\/p>\n

Vivas estudi\u00f3 Ingenier\u00eda en Sistemas en la UTN y lleg\u00f3 a cursar el Global Solutions Program en Singularity University de Estados Unidos. Es CEO y fundador de RockingData<\/strong>, una startup pionera que trabaja junto a empresas de distintas industrias para identificar formas innovadoras de usar los datos.<\/p>\n

\"Foto
Foto: Alejandro Santa Cruz. <\/figcaption><\/figure>\n

Autor del libro “C\u00f3mo piensan las m\u00e1quinas?”<\/strong> (Galerna), le gusta pensar la inteligencia artificial como una disciplina que dialoga con las humanidades. En su equipo hay fil\u00f3sofos y polit\u00f3logos porque est\u00e1 convencido de que un enfoque m\u00e1s amplio de la tecnolog\u00eda permite mejorar los desarrollos. “Esa mirada nos ayuda a entender c\u00f3mo aprendemos, c\u00f3mo incorporamos y creamos conocimiento. Eso es algo que siempre se dej\u00f3 para los humanos y ahora lo estamos tratando de trasladar a las m\u00e1quinas”, sostiene y advierte que cree que la expresi\u00f3n “inteligencia artificial es un poco injusta”<\/strong>, dice.<\/p>\n

“M\u00e1s preciso ser\u00eda `inteligencia computacional\u00b4, inteligencia hecha por c\u00f3digos de programaci\u00f3n<\/strong>. Repensar qu\u00e9 nos define como humanos, en qu\u00e9 somos muy buenos, en qu\u00e9 tenemos que mejorar. Cuando decimos que una inteligencia artificial discrimina, ya sea por reconocimiento facial o en una b\u00fasqueda laboral, en definitivamente es un razonamiento muy simplificador: llevamos d\u00e9cadas discriminando, ese sesgo est\u00e1 en nosotros antes que en los algoritmos, es un sesgo hist\u00f3rico”, analiza. Para \u00e9l, la complejidad del presente de las m\u00e1quinas exige un trabajo de reflexi\u00f3n, reglamentaci\u00f3n y pulido: “Tal vez en el futuro se de una paradoja en medio de tanto miedo e incertidumbre y la b\u00fasqueda de mejores est\u00e1ndares en los algoritmos nos permita pensar en una sociedad m\u00e1s justa. Todav\u00eda veo una ciudadan\u00eda digital muy baja en la sociedad: a los diez a\u00f1os, se le ense\u00f1a a un ni\u00f1o a cruzar bien y a no tirar la basura, pero es complejo asesorarlos sobre el uso del celular y sus riesgos<\/strong>“.<\/p>\n

<\/blockquote>\n

En “Invisible” (Sudamericana), los relatos funcionan como una excusa o una puerta de entrada para poder repensar la inteligencia artificial en un marco m\u00e1s familiar que permite asomarse a los grandes debates del futuro. Con ecos y referencias cruzadas a la obra de Arthur C. Clarke, Julio Verne o Asimov, Vivas propone que el di\u00e1logo entre ficci\u00f3n y realidad permite ampliar el entendimiento sobre el futuro. “Evidentemente, los productos culturales que consumimos a lo largo de nuestra vida marcan nuestro modo de ver el mundo y de transmitir conocimiento. Porque, en definitiva, lo que estoy buscando en estas p\u00e1ginas es -adem\u00e1s de cumplirle un sue\u00f1o a mi yo de 12 a\u00f1os- transmitir lo que aprend\u00ed en m\u00e1s de una d\u00e9cada trabajando en inteligencia artificial”, asume en las primeras p\u00e1ginas del libro editado por Penguin Random House.<\/p>\n

\"Foto
Foto: Alejandro Santa Cruz. <\/figcaption><\/figure>\n

– \u00bfPor qu\u00e9 recurriste a la ficci\u00f3n para escribir un libro de inteligencia artificial? \u00bfCu\u00e1l fue la apuesta?<\/strong>
– Primero, me gusta mucho la ciencia ficci\u00f3n, un g\u00e9nero que descubr\u00ed en mi infancia. Pero adem\u00e1s, hace relativamente poco me top\u00e9 con el concepto de “ficci\u00f3n realista”: algo que es ciencia ficci\u00f3n, pero que podr\u00eda pasar tranquilamente en la realidad.<\/strong> Y me enter\u00e9 que, por ejemplo, en Stanford, dan clases de ciencia ficci\u00f3n. \u00bfCu\u00e1les son los elementos de la ciencia ficci\u00f3n que permiten que podamos imaginarnos situaciones complejas o con muchas variables de posibilidad de ocurrencia de cosas, no?<\/strong> Creo que ese mecanismo es una herramienta muy interesante y divertida para encarar el presente. Y cuando difundo lo que hago me interesa realmente llegar: que un chico que est\u00e1 tiene 17 o 18 a\u00f1os y que est\u00e1 en el colegio se acerque a un cuento y que, en el medio de esa lectura de ficci\u00f3n, encuentre conceptos que le llamen la atenci\u00f3n, que empiece a curiosear, que lo googlee y que le despierte curiosidad.<\/p>\n

“Vivimos sobreinformados y, ante eso, lo m\u00e1s importante es mantenernos curiosos”<\/p><\/blockquote>\n

Vivimos sobreinformados y, ante eso, lo m\u00e1s importante es mantenernos curiosos. Los medios tradicionales suelen abordar la inteligencia artificial con enfoques que inducen al miedo, a la incertidumbre y al famoso FOMO<\/strong> (del ingl\u00e9s “fear of missing out”, “temor a perderse algo”)\u200b. \u00bfQui\u00e9n va a leer un libro de ingenier\u00eda sobre inteligencia artificial, un libro t\u00e9cnico de software? Ya no hay tanto espacio para eso en un momento en el que todos est\u00e1n hablando de inteligencia artificial. Pero adem\u00e1s, creo que tambi\u00e9n es un homenaje a la ciencia ficci\u00f3n: sin exagerar, creo que me dedico a la ingenier\u00eda gracias a la ciencia ficci\u00f3n, me marcaron mucho las series y las pel\u00edculas que vi. En mi casa no hab\u00eda nadie que estudiara computaci\u00f3n o tecnolog\u00eda, pero s\u00ed pude ver pel\u00edculas como Cortocircuito o Blade Runner o leer la revista Muy Interesante y eso despert\u00f3 mi curiosidad.<\/strong> El libro es un intento de abrir un camino similar.<\/p>\n

<\/blockquote>\n

– En los agradecimientos, esa referencia se vuelve expl\u00edcita. “Hacia fines de los 80 mi hermano mayor, Gary, empez\u00f3 a repartir revistas con un amigo los fines de semana. Entre ellas, la Muy Interesante. En casa a veces lo ayud\u00e1bamos sellando algunas y dej\u00e1ndolas listas para el reparto. No s\u00e9 qui\u00e9n le habr\u00e1 dado ese trabajo a mi hermano. Fue mi primer contacto con la ciencia y la tecnolog\u00eda”, cont\u00e1s. \u00bfC\u00f3mo comenz\u00f3 ese recorrido?<\/strong>
– Mi infancia transcurri\u00f3 a fines de los ochenta, en Lomas de Zamora, pleno conurbano bonaerense, “Camino Negro al fondo” como solemos decir. Ah\u00ed no hab\u00eda bibliotecas y para llegar a la m\u00e1s cercana hab\u00eda que ir hasta el centro de Lomas: caminar cinco cuadras y tomar un colectivo por 40 minutos. No hab\u00eda tele por cable, no hab\u00eda internet y en mi casa no ten\u00eda muchos libros m\u00e1s que esas enciclopedias que se pagaban en cuotas. Pero yo le\u00eda todo lo que me llegaba, cualquier cosa. Leer fue como un milagro.<\/p>\n

“La inteligencia artificial no deja de ser un c\u00f3digo de programaci\u00f3n super avanzado y eso, l\u00f3gicamente, me sigue generando interrogantes”<\/p><\/blockquote>\n

Mi hermano tuvo ese trabajo temporal de repartir Muy Interesante y las revistas empezaron a llegar a mi casa. En ese momento se despert\u00f3 mi inter\u00e9s por la computaci\u00f3n. Mi padre era marinero y hab\u00eda tra\u00eddo una computadora que nunca anduvo pero yo me la pasaba jugando como si verdaderamente estuviera haciendo algo con ella. Mi hermana me ayud\u00f3 e incentiv\u00f3: me inscribi\u00f3 en un instituto de computaci\u00f3n de Lomas y as\u00ed arranqu\u00e9 a los doce a\u00f1os. <\/strong>Saber c\u00f3mo funciona una computadora o c\u00f3mo lograr algo nuevo con una computadora me generaron una curiosidad y una pasi\u00f3n que conservo, sigo pensando como ese nene en alg\u00fan punto y es un buen punto de partida. La inteligencia artificial no deja de ser un c\u00f3digo de programaci\u00f3n super avanzado y eso, l\u00f3gicamente, me sigue generando interrogantes.<\/p>\n

– Reci\u00e9n hiciste referencia a la angustia y la ansiedad que despierta la innovaci\u00f3n en materia de inteligencia artificial. \u00bfC\u00f3mo puede lidiar con esos sentimientos alguien que no est\u00e1 tan familiarizado con el tema a\u00fan?<\/strong>
– El concepto de FOMO lo escuch\u00e9 por primera vez en Estados Unidos, hace como siete a\u00f1os, mientras estaba estudiando. Y en aquel momento, me di cuenta de que yo no sent\u00eda eso y me pregunt\u00e9 por qu\u00e9 pasaba eso\u2026Y creo que es por algo que aprend\u00ed hace alg\u00fan tiempo: hay que elegir a donde uno se mete. Me pas\u00f3 con la tecnolog\u00eda cripto, con el metaverso, impresi\u00f3n 3D o realidad virtual\u2026Uno cuando consulta a un traumat\u00f3logo busca la especialidad y esto es igual. La tecnolog\u00eda del software evolucion\u00f3 much\u00edsimo en los \u00faltimos 20 a\u00f1os, probablemente sea la rama de estudio de la ciencia que m\u00e1s avanz\u00f3. Creo que para poder lidiar con esa velocidad hay que encontrar una especializaci\u00f3n y cierta comodidad. Por ahora me atrapa el mundo de la ciencia de datos: c\u00f3mo tomar decisiones con datos y c\u00f3mo hacer m\u00e1quinas que sean inteligentes para ayudar a tomar una mejor decisi\u00f3n. Hay cosas que no s\u00e9, que no voy a saber y eso no me da verg\u00fcenza porque es precisamente por eso que s\u00ed s\u00e9 de otras cosas. Y creo que esto apunta a algo un poco m\u00e1s complejo: en el futuro vamos a tener que “curar” mucho mejor el contenido que nos metemos en el cerebro. Muchas malas noticias, fotos adulteradas, violencia, confrontaci\u00f3n\u2026todo eso necesariamente impacta en nuestra forma de ver el mundo. Y bueno, hoy todos quieren saber de todo, saberlo r\u00e1pido y eso en definitiva no funciona.<\/p>\n

\"Foto
Foto: Alejandro Santa Cruz. <\/figcaption><\/figure>\n

– El libro cierra con una propuesta para reemplazar las famosas Leyes de Asimov, que oficiaron como base jur\u00eddica fundamental durante d\u00e9cadas para regir la relaci\u00f3n entre m\u00e1quinas y humanos, por otros nuevos diez principios. \u00bfPor qu\u00e9 se te ocurri\u00f3 esa reformulaci\u00f3n? \u00bfEn qu\u00e9 medida son hoy obsoletas?<\/strong>
– Siempre me gust\u00f3 pensar en c\u00f3mo en el pasado imaginaban el futuro. La Feria del Futuro en Estados Unidos promet\u00eda autos volando\u2026Algunas cosas se dieron, otras est\u00e1n pasando y algunas no se cumplieron. Pero esos futuros eran “f\u00edsicos”: un robot mayordomo, super f\u00e1bricas, autos voladores\u2026 Y esos futuros imaginarios no se dieron, hubo una revoluci\u00f3n de las m\u00e1quinas invisibles que superaron en n\u00famero y en funcionalidades a las m\u00e1quinas visibles. La revoluci\u00f3n de la inteligencia artificial generativa lleg\u00f3 a millones de personas y eso empieza a generar “problemas”, nos enfrentamos a situaciones que no hab\u00edamos ni imaginado y que quedaron por fuera de la realidad que traz\u00f3 (Isaac) Asimov. Vemos una foto y no sabemos si es real, podemos interactuar con un asistente telef\u00f3nico sin saber que es artificial y hay much\u00edsimas cosas que dejaremos de hacer porque las m\u00e1quinas las har\u00e1n mucho mejor que nosotros. Todos estos problemas requieren de nuevas leyes -en Europa ya est\u00e1n trabajando en un marco legal de este tipo- pero adem\u00e1s vamos a necesitar de principios para que la inteligencia artificial beneficie a la sociedad. La inteligencia artificial tiende r\u00e1pidamente a volverse invisible ante nuestros ojos, de responsabilidad humana, de privacidad, de frecuencia de uso y de explicabilidad d\u00e9bil porque los seres humanos tenemos derecho a conocer la l\u00f3gica de razonamiento de las m\u00e1quinas que llegan a tomar decisiones que puedan afectarnos.<\/p>\n

\n

Relacionadas<\/h3>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"\n
<\/div>\n

En charla con T\u00e9lam, Fredi Vivas, emprendedor y tecn\u00f3logo que lleva m\u00e1s de 15 a\u00f1os trabajando con desarrollos de IA, plantea en su nuevo libro “Invisible”, diferentes reflexiones sobre el impacto \u00e9tico de los algoritmos, los apagones digitales y la obsolescencia en la vida diaria.<\/p>\n","protected":false},"author":1,"featured_media":18922,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[25],"tags":[],"_links":{"self":[{"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/posts\/18921"}],"collection":[{"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18921"}],"version-history":[{"count":0,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/posts\/18921\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=\/wp\/v2\/media\/18922"}],"wp:attachment":[{"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18921"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18921"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ritmocordoba.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18921"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}