En los últimos años se ha escuchado mucho acerca de la Inteligencia Artificial, tanto de sus avances como de sus peligros. Pero el problema es querer adelantarse a la carrera. Las personas se desilusionan cuando una Inteligencia Artificial no cumple con sus pedidos, sin advertir que lo importante está en otro lado. Reside, más bien, en el hecho de que se ha diseñado una tecnología que puede razonar por sí sola y dar respuestas. Aquellos robots que lo pueden lograr todo todavía no caminan entre los humanos, pero están cada vez más cerca. GATO, desarrollada por Deepmind, un laboratorio de Inteligencia Artificial británico-estadounidense subsidiado por Google, es el primer paso a este objetivo.
“En IA hay dos tipos de sistemas. Por un lado están los sistemas ‘especialistas’, que son muy buenos en lo que hacen, pero fuera de su área, no tanto. Podemos pensarlo como un pelapapas: sirven muy bien para lo que fueron diseñados (pelar una papa) pero no nos sirven para hacer mucho más que eso”, explica a la Agencia de noticias científicas de la UNQ Emmanuel Iarussi, investigador del Conicet en el Laboratorio de Inteligencia Artificial y profesor en la Universidad Torcuato Di Tella.
Y continúa con su explicación: “Por otro lado, tenemos los sistemas ‘generalistas’, que vendrían a ser como navajas suizas: están diseñados para realizar un montón de tareas diferentes; un poco como nosotros los humanos que podemos adaptarnos y hacer de todo un poco. GATO es un sistema generalista, sus creadores dicen que puede completar más de 600 tareas diferentes que van desde describir imágenes hasta controlar un brazo robótico”.
Cómo funciona un sistema generalista
Para comprender el funcionamiento de GATO hay que hablar de las redes neuronales recurrentes (RNN por sus siglas en inglés), uno de los sistemas más empleados para la creación de Inteligencias Artificiales. Cuando los humanos leen o escuchan a alguien hablar procesan todo palabra por palabra en un orden específico, teniendo en cuenta las palabras anteriores. Las RNN hacen lo mismo, analizan palabra por palabra conectándolas en una red secuencial. Sin embargo, a medida que la red avanza y suma palabras va olvidando las más viejas, y esto implica que no puede hacer conexiones y comprender los textos. Las RNN entienden la secuencia de palabras pero no las relaciones entre ellas.
La manera de resolver esto fue complejizar la RNN sumando una Red Neuronal de Atención, que genera características de cada palabra para poder crear relaciones entre todas las palabras de la oración. Por cada palabra se genera un vector matemático que indica una descripción y otro vector que indica lo que busca, y la cercanía entre ambos vectores es lo que determina su proximidad y, por ende, el tipo de relación. En 2017 un paper titulado Attention is all you need planteó el concepto de las redes Transformers, que es básicamente la Red Neuronal de Atención pero sin la RNN. La premisa es simple: no hace falta saber la secuencia si se entiende la relación de cada palabra con cada palabra, ya que esa capacidad de relacionar otorga la secuencia de las palabras y muchos más datos aún.
GATO toma una red Transformer y la lleva más allá del lenguaje para concretar otras tareas bajo la misma lógica de relación. ¿Hace bien su tarea? No necesariamente, De hecho es bastante malo en casi todo. Pero el enfoque no es que lo haga bien, sino que pueda hacerlo. Al fin y al cabo los cerebros humanos no hacen una sola tarea excelente, sino que pueden hacer miles de tareas con mayor o menor éxito.
Los propios creadores de GATO señalan en su paper que, a la larga, tiene más beneficios entrenar una sola IA que haga de todo en vez de cientas que logren una sola tarea.
Más sombras que luces
Por otra parte, los investigadores advirtieron sobre los peligros de una Inteligencia Artificial capaz de hacer todo. En su paper detallan que está prohibido el uso de GATO para fines comerciales, productivos y militares y advierten que “aunque todavía se encuentra en la etapa de prueba de concepto, el progreso reciente en los modelos generalistas sugiere que los investigadores de seguridad, los especialistas en ética y, lo más importante, el público en general, deberían considerar sus riesgos y beneficios. Actualmente no estamos implementando GATO para ningún usuario, por lo que no anticipamos ningún impacto social inmediato”.
Al respecto, Iarussi declara: “A diferencia de los sistemas especialistas que trabajan en entornos más controlados y predecibles (por ejemplo, reconocer sonrisas en una foto para gatillar la cámara), los sistemas generalistas pueden encontrarse en situaciones donde las implicancias éticas de sus decisiones son complejas. Además, como están diseñados para operar en una amplia gama de contextos, es más difícil prever todas las posibles consecuencias de sus acciones”, sostiene el especialista a la Agencia.
En marzo de este año circuló una carta abierta firmada por más de 30 mil personas, entre ellas dirigentes del mundo de la tecnología y la inteligencia artificial, pidiendo un cese de seis meses a la creación de Inteligencias Artificiales más avanzadas que GPT-4. Para tener una referencia de lo que representa GATO, el tamaño de su transformer es de 1200 millones de parámetros, equivalente al tamaño del transformer GPT-2 de 1500 millones. GPT-4 tiene 1.76 trillones de parámetros.
A nivel regional, el semáforo también está en rojo. La comunidad de investigadores de Latinoamérica firmaron la Declaración de Montevideo, reclamando un uso apropiado de las IA que respete los Derechos Humanos y se haga hincapié en la regulación regional. Segun Iarussi, “el espíritu no es frenar la investigación: muy por el contrario, hay que profundizarla para poder comprender mejor los límites, los riesgos y las posibilidades que nos abren estas tecnologías dentro de márgenes claros que garanticen que van a aportar un valor social”.
El problema ético de las IA es uno de los debates más importantes entre las comunidades científicas, pero también es verdad que ya es parte del día a día y ayudará a cambiar las vidas humanas al ser empleada en salud, agricultura y transporte, por ejemplo. GATO puede convertirse en un león, pero todavía es un gatito mimoso. Tomar medidas y prevenciones desde la regulación del Estado y las comunidades científicas será la clave para ver una tecnología como GATO desarrollarse a favor de la humanidad.
*Esta nota se escribió originalmente en el marco de la materia Taller de Periodismo Gráfico de la profesora Ximena Carreras de la Licenciatura en Comunicación Social y fue publicada con algunas modificaciones. Camila Basso también participa del Curso de profesionalización en prácticas periodísticas de la Agencia.
Con información de la Agencia de Noticias Científicas
Cerrar sesión