{"id":73,"date":"2023-05-07T14:39:34","date_gmt":"2023-05-07T14:39:34","guid":{"rendered":"https:\/\/observar.org.ar\/web\/?p=73"},"modified":"2023-05-07T14:39:36","modified_gmt":"2023-05-07T14:39:36","slug":"es-una-hipotesis-posible-que-los-sistemas-de-inteligencia-artificial-empiecen-a-tomar-decisiones-por-si-mismos","status":"publish","type":"post","link":"https:\/\/observar.org.ar\/web\/index.php\/2023\/05\/07\/es-una-hipotesis-posible-que-los-sistemas-de-inteligencia-artificial-empiecen-a-tomar-decisiones-por-si-mismos\/","title":{"rendered":"Es una hip\u00f3tesis posible que los sistemas de Inteligencia Artificial empiecen a tomar decisiones por s\u00ed mismos"},"content":{"rendered":"\n

La Inteligencia Artificial cobr\u00f3 recientemente un gran protagonismo en la opini\u00f3n p\u00fablica, primero a partir del lanzamiento del modelo de lenguaje m\u00e1s avanzado hasta el momento, Chat GPT-4, de la empresa OpenAI, y luego a ra\u00edz del pronunciamiento mundial de un grupo de cient\u00edficos, investigadores y empresarios del campo, quienes advirtieron sobre los riesgos de continuar la carrera de desarrollo de IA sin ning\u00fan tipo de regulaci\u00f3n y reclamaron un acuerdo de las principales compa\u00f1\u00edas para suspender por un tiempo (quiz\u00e1s demasiado breve) el avance de estas tecnolog\u00edas.<\/strong><\/p>\n\n\n\n

\n\n\n\n

Diego Evin, bioingeniero por la Facultad de Ingenier\u00eda de la Universidad Nacional de Entre R\u00edos y doctor en Ciencias de la Computaci\u00f3n de la Universidad de Buenos Aires,<\/strong> trabaja hace 20 a\u00f1os en la ense\u00f1anza y la investigaci\u00f3n de esta tecnolog\u00eda en la c\u00e1tedra de Inteligencia Artificial de la carrera de Bioigenier\u00eda de la UNER y el Laboratorio de Sistemas de Informaci\u00f3n, entre otros espacios. Adem\u00e1s, es investigador del Conicet en el Centro de Informaci\u00f3n y Transferencia en Ac\u00fastica de la UTN Regional C\u00f3rdoba.<\/p>\n\n\n\n

En esta entrevista, el especialista se refiri\u00f3 al inmediato debate de coyuntura que dispar\u00f3 la carta promovida desde Future of Life<\/a> <\/strong>(en los que consider\u00f3 sus aciertos y tambi\u00e9n en sus aspectos controversiales) y explic\u00f3 -desde nociones b\u00e1sicas de IA hacia sus aspectos m\u00e1s complejos y hasta inciertos- los riesgos que supone concretamente una evoluci\u00f3n de estas tecnolog\u00edas sin un control p\u00fablico o, como m\u00ednimo, independiente. Asimismo, analiz\u00f3 enormes beneficios y posibilidades que otorga la IA en campos como la salud, muchas de las cuales est\u00e1n actualmente en investigaci\u00f3n y desarrollo en la Facultad de Ingenier\u00eda de Entre R\u00edos.

– \u00bfQu\u00e9 es la Inteligencia Artificial?<\/strong><\/p>\n\n\n\n

– Es un \u00e1rea de las Ciencias de la Computaci\u00f3n que busca desarrollar sistemas capaces de realizar tareas que t\u00edpicamente necesiten inteligencia humana, como entender lenguaje natural, interpretar im\u00e1genes, tomar decisiones o planificar. Una de sus caracter\u00edsticas es que pueden mejorar a partir de la experiencia. Hay algoritmos que se entrenan a medida que se usan: son Aprendizajes por Refuerzo. De acuerdo a si hace la tarea bien o mal, modifican sus estados internos, que es lo que modela el algoritmo.<\/p>\n\n\n\n

– \u00bfQu\u00e9 es un algoritmo?<\/strong><\/p>\n\n\n\n

– Un algoritmo es una serie de pasos y definiciones de un proceso para resolver un problema computacional. Por ejemplo, hay uno para encontrar la integrada o la derivada de una funci\u00f3n, o para encontrar un camino de un lugar a otro que te recomienda Google. Para problemas que tienen soluci\u00f3n conocida se le dice a la computadora la serie de pasos que tiene que seguir. Los de Inteligencia Artificial son un grupo particular de algoritmos. Se aplican cuando no hay uno tradicional para resolver un problema. En esas situaciones dejamos que la maquinaria inteligente aprenda. No le explicamos nosotros c\u00f3mo tiene que resolver el problema, sino se encarga, a partir de muestras de datos, de aprender sola a resolver un problema. Eso se denomina Aprendizaje Autom\u00e1tico, Maquinal o Machine Learning.<\/p>\n\n\n\n

– \u00bfQu\u00e9 tipo de aplicaciones de IA hay en Salud o Biolog\u00eda?<\/strong><\/p>\n\n\n\n

– Existen muchas aplicaciones. Por ejemplo, en el Laboratorio de Sistemas de Informaci\u00f3n (de la FIUNER) se trabaja un proyecto para identificar retinopat\u00eda en beb\u00e9s prematuros, una patolog\u00eda que puede llevar a la ceguera. El Laboratorio de Ingenier\u00eda en Rehabilitaci\u00f3n e Investigaciones Neuromusculares (LIRINS-FIUNER) est\u00e1 trabajando en interfaces cerebro-computadora basados en IA. En la Facultad hay proyectos de detecci\u00f3n de apnea de sue\u00f1o, de patolog\u00edas en la voz a partir de an\u00e1lisis de registros del habla y de reconocimiento autom\u00e1tico del habla. En Bioinform\u00e1tica se trata de predecir c\u00f3mo se van a integrar secuencias de amino\u00e1cidos para formar prote\u00ednas, o en la b\u00fasqueda y caracterizaci\u00f3n de nuevas mol\u00e9culas para utilizar como medicamentos. En agronom\u00eda se aplica desde la predicci\u00f3n del clima con im\u00e1genes de sat\u00e9lites hasta la cantidad de fertilizantes que se necesitan en campos. En Biomec\u00e1nica se aplican las mismas t\u00e9cnicas para segmentaci\u00f3n de m\u00fasculos, por ejemplo en im\u00e1genes de tomograf\u00eda facial computada. En historias cl\u00ednicas electr\u00f3nicas se trata de perfilar pacientes similares entre s\u00ed. Se usan aplicaciones de Big Data en grandes bases de datos de pacientes para determinar si un tratamiento que result\u00f3 bien en un individuo puede aplicarse en otro..<\/p>\n\n\n\n

– Podemos suponer que desarrollos que fueron revolucionarios hace unos a\u00f1os ya est\u00e1n incorporados como algo com\u00fan en la actualidad.<\/strong><\/p>\n\n\n\n

– Las investigaciones de IA empezaron en 1950. A comienzos del siglo 21, fue revolucionaria la cantidad de datos para ense\u00f1arle a los algoritmos. Algunos factores que lo permitieron fueron el crecimiento de Internet y que cada uno pueda registrar sus datos y compartirlos con otros proyectos de Europa o Estados Unidos. As\u00ed se generan grandes bases de datos de im\u00e1genes m\u00e9dicas de libre uso. El segundo elemento vital fue el aumento de la capacidad computacional. Hace 20 a\u00f1os ten\u00edamos que dejar una m\u00e1quina corriendo dos o tres semanas para entrenar estas redes neuronales. Hoy se pueden entrenar en un par de horas. Fue un avance la evoluci\u00f3n del hardware de c\u00f3mputo y el uso de placas de video, que originalmente se usaban como aceleradores en videojuegos realistas. Se aceler\u00f3 much\u00edsimo la velocidad de procesamiento de estos sistemas. La tercera clave fue la aparici\u00f3n de nuevos algoritmos. Hace 20 a\u00f1os ense\u00f1\u00e1bamos que una red neuronal con dos capas pod\u00eda resolver cualquier tipo de problema. Esto fue revolucionado con el Deep Learning o Aprendizaje Profundo. Demostr\u00f3 que si \u00edbamos aumentando la profundidad de las capas, como se observan en el ser humano, la capacidad de desempe\u00f1o de estos algoritmos era much\u00edsimo mejor. Resuelven mejor sobre los ejemplos que no vieron en el entrenamiento. La evoluci\u00f3n dio un nuevo salto luego con los algoritmos llamados Transformers.<\/p>\n\n\n\n

– \u00bfQu\u00e9 son?<\/strong><\/p>\n\n\n\n

– Son una evoluci\u00f3n de las redes neuronales recurrentes. Tienen la capacidad de recordar cosas que est\u00e1n lejos de otras. No recuerdan todo. Ponen una m\u00e1scara de atenci\u00f3n y diferencian lo que es importante de recordar de lo que no. Se puede ampliar mucho el contexto de informaci\u00f3n vinculada a una palabra o un estado. Con esto funcionan los modelos de lenguaje. Son algoritmos que buscan predecir la palabra m\u00e1s probable que pueda seguir en una secuencia conocida.<\/p>\n\n\n\n

– \u00bfLos avances ser\u00edan detenidos si se cumple el pedido de la Carta que firmaron cient\u00edficos y empresarios alertando sobre los riesgos de la IA?<\/strong><\/p>\n\n\n\n

– Esa carta surgi\u00f3 desde el Instituto Future of Life, que se cre\u00f3 en 2015, el mismo a\u00f1o que se fund\u00f3 la empresa OpenAI, que populariz\u00f3 el Chat GPT. El objetivo del instituto, conformado por gente muy reconocida en \u00e1mbitos acad\u00e9micos, filos\u00f3ficos y empresarios, es advertir que el desarrollo tecnol\u00f3gico no lleve a la extinci\u00f3n de la vida, a un futuro en que las m\u00e1quinas puedan sobrepasar la capacidad de inteligencia del ser humano y revelarse en contra de sus creadores. Ser\u00eda lo que ve\u00edamos como ciencia ficci\u00f3n tiempo atr\u00e1s, como el ejemplo de Terminator: llegar a un punto en que los sistemas de IA empiecen a tomar decisiones por s\u00ed mismos. No es un chiste ni trivial lo que se est\u00e1 planteando. Es una hip\u00f3tesis posible.<\/p>\n\n\n\n

– \u00bfQu\u00e9 riesgos puntuales se\u00f1ala esa comunidad?<\/strong><\/p>\n\n\n\n

– Uno es la informaci\u00f3n falsa y fake news. Estos sistemas ya tienen capacidad de crear im\u00e1genes falsas, como las conocidas del Papa Francisco con campera. Otro es automatizar todos los trabajos. Hay estimaciones dentro del campo que indican que para el a\u00f1o 2059 estos sistemas van a ser capaces de hacer cualquier tipo de trabajo que hace el ser humano. Por otro lado, el riesgo de perder el control de la civilizaci\u00f3n y que empiece a ser controlada por las m\u00e1quinas. Por ejemplo, que los algoritmos se comuniquen con una f\u00e1brica de robots y ordenen construirlos. Son riesgos reales. Open AI est\u00e1 desarrollando formas de que estos sistemas puedan comunicarse con otros programas. Podr\u00edan acceder a nuestra informaci\u00f3n personal en redes sociales o incluso bancaria. La propia empresa public\u00f3 un paper que analiza, a partir de Chat GPT, cu\u00e1les son las potenciales ramas de trabajo que van a estar m\u00e1s amenazadas a partir de esta tecnolog\u00eda. Y hay un 80 por ciento de actividades que podr\u00edan tener parte de sus tareas reemplazadas. Antes se cre\u00eda que los estudios que requieren mayor tiempo de formaci\u00f3n intelectual ser\u00edan los m\u00e1s dif\u00edciles de reemplazar. Esto demuestra que son los m\u00e1s susceptibles. Porque estos sistemas pueden utilizar varias fuentes de informaci\u00f3n al mismo tiempo, de manera m\u00e1s r\u00e1pida y eficiente. Los cambios que trajo Internet fueron bastante paulatinos. Esto va a ser mucho m\u00e1s abrupto.<\/p>\n\n\n\n

– \u00bfSirve de algo detener el desarrollo de Inteligencia Artificial durante seis meses, como propone la Carta?<\/strong><\/p>\n\n\n\n

– Ese planteo no es ingenuo. Saben que en seis meses no se va a frenar nada. Lo que se pide es pausar el desarrollo de todos los sistemas que tengan una potencia superior a GPT-4. Nadie sabe, salvo la gente de OpenAI, c\u00f3mo funciona internamente y cu\u00e1l es su verdadero potencial, ya que las pruebas se est\u00e1n haciendo ahora. La carta est\u00e1 apuntada contra esta sola empresa. Con buena fe, asumo que con esto se quiere dar visibilidad al tema y promover leyes o normas que regulen un poco hacia d\u00f3nde va el desarrollo. Otras interpretaciones indican que buscan ganar tiempo para otras empresas. Hay en curso una carrera geopol\u00edtica. Las potencias est\u00e1n destinando muchos fondos al \u00e1rea. China tiene un plan para ser l\u00edder en IA para 2030, pero Estados Unidos no quiere perder esa posici\u00f3n.<\/p>\n\n\n\n

– \u00bfSiempre hay un humano detr\u00e1s de las m\u00e1quinas?<\/strong><\/p>\n\n\n\n

– Uno de los ejes en el \u00e1mbito de la gobernanza de esta tecnolog\u00eda es el alignment (alineamiento) de la IA. Se trata de generar mecanismos que eviten que las computadoras se salgan del control humano, hagan cosas que el humano no previ\u00f3 o que valoren las consecuencias de sus acciones antes de emprenderlas. Es un tema muy actual que est\u00e1 en discusi\u00f3n. Hay opiniones que dicen que es imposible con el conocimiento que tenemos ahora. Hay gente que propone acuerdos de gobernanza y de transparentar los algoritmos para saber qu\u00e9 datos utilizan y c\u00f3mo. Tambi\u00e9n se habla de auditor\u00edas: por ejemplo, que otra empresa pueda valorar externamente qu\u00e9 efectos o consecuencias puede tener la tecnolog\u00eda antes de que salga al mercado. Es decir, una autoregulaci\u00f3n de las mismas compa\u00f1\u00edas, dado que los gobiernos y las leyes siempre van muy detr\u00e1s de los avances tecnol\u00f3gicos.<\/p>\n\n\n\n

– \u00bfCu\u00e1l es tu posici\u00f3n ante el debate?<\/strong><\/p>\n\n\n\n

– En resumen, pienso que los seis meses no van a lograr nada y est\u00e1n dirigi\u00e9ndose a una sola empresa, OpenAI. S\u00ed veo necesario plantear la gobernanza, las fake news y la automatizaci\u00f3n de trabajos. La IA trae beneficios. Por ejemplo, es revolucionario el desarrollo de algoritmos que permiten detectar nuevas mol\u00e9culas que se puedan usar como medicamentos y as\u00ed tratar enfermedades. Pero tambi\u00e9n se pueden utilizar para alterar gen\u00e9ticamente organismos, lo que implica abrir una caja de Pandora. Es una cuchilla de doble filo. Adem\u00e1s, hubo otra carta menos difundida, del\u00a0Encuentro Latinoamericano sobre Inteligencia Artificial – Khipu 2023<\/a>,<\/strong>\u00a0que introdujo una perspectiva latinoamericana. Refiere a la necesidad de democratizaci\u00f3n de la IA y de tomar recaudos sobre los sesgos de estos programas, porque muchas veces est\u00e1n basados en datos enfocados en el mercado y la sociedad norteamericanos y europeos.<\/p>\n\n\n\n

Fuente<\/strong>: http:\/\/ingenieria.uner.edu.ar\/boletin\/index.php\/noticias\/1009-es-una-hipotesis-posible-que-los-sistemas-de-inteligencia-artificial-empiecen-a-tomar-decisiones-por-si-mismos<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

La Inteligencia Artificial cobr\u00f3 recientemente un gran protagonismo en la opini\u00f3n p\u00fablica, primero a partir del lanzamiento del modelo de lenguaje m\u00e1s avanzado hasta el momento, Chat GPT-4, de la empresa OpenAI, y luego a ra\u00edz del pronunciamiento mundial de un grupo de cient\u00edficos, investigadores y empresarios del campo, quienes advirtieron sobre los riesgos de […]<\/p>\n","protected":false},"author":1,"featured_media":74,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[8,9],"tags":[],"class_list":["post-73","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-datos"],"_links":{"self":[{"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/posts\/73","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/comments?post=73"}],"version-history":[{"count":1,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/posts\/73\/revisions"}],"predecessor-version":[{"id":75,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/posts\/73\/revisions\/75"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/media\/74"}],"wp:attachment":[{"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/media?parent=73"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/categories?post=73"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/observar.org.ar\/web\/index.php\/wp-json\/wp\/v2\/tags?post=73"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}