Un debate necesario sobre la Inteligencia Artificial: más allá de DALL-E y LaMDA

La semana pasada fuimos testigos de dos casos que dan muestra de la relación que existe entre la sociedad y la Inteligencia Artificial (IA), cuya tecnología es vista con cierto escepticismo, sensacionalismo y más ampliamente, a través de una visión que se deviene de sus instancias creadoras, los objetivos y modelos de negocio con las cuales las tecnologías nacen y se promueven.

El primero de estos casos fue el revuelo que generó la IA DALL-E- Mini o Dalle-2, la cual es capaz de generar imágenes a partir de texto introducido por el usuario gracias a su inmenso banco de imágenes y datos. Debido a que DALL-E- Mini https://huggingface.co/spaces/dalle-mini/dalle-mini es una versión abierta al público, cualquier usuario puede probar su creatividad y usarlo; esto ha ocasionado gran revuelo en redes sociales, con casos que van desde lo ingenioso a lo sarcástico y de ahí a lo perturbador  https://huggingface.co/spaces/dalle-mini/dalle-mini/discussions/2225,  https://huggingface.co/spaces/dalle-mini/dalle-mini/discussions/2290,  https://huggingface.co/spaces/dalle-mini/dalle-mini/discussions/2267 , por citar algunos ejemplos.

El segundo de los casos fue la declaración del ingeniero de Google, Blake Lemoine, a The Washington Post sobre  uno de  de los productos de IA de Google, un chatbot de nombre Modelo de Lenguaje para Aplicaciones de Diálogo (o LaMDA, por sus siglas en inglés), de acuerdo a Lemoine, el programa LaMDA se declaró consciente y capaz de sentir, acto seguido el ingeniero publicó una serie de conversaciones que mantuvo con tal IA https://www.sdpnoticias.com/tecnologia/aqui-las-conversaciones-entre-lamda-la-inteligencia-artificial-con-conciencia-y-el-ingeniero-de-google/ 

Como era de esperar, las revelaciones de LaMDA causaron gran sensación en medios y en redes sociales, en donde afloraron una serie de comentarios asociados a la ciencia ficción y otros relatos inexactos de la idea de una IA consciente y que siente, la cual se trató en realidad de un modelo de procesamiento de lenguaje bastante efectivo.

Los casos anteriores revelan hasta qué punto la IA es comprendida, usada y promovida en la sociedad, sobre todo desde una perspectiva bastante sensacionalista e imaginativa, en donde se pone gran énfasis en el uso de la tecnología y su relación con el usuario, sin debatir otras opciones, panoramas y posibilidades; sino que se dan por sentadas diversas realidades, algunas de ellas  bastante oscuras, tal como el inminente desplazamiento del humano por la tecnología de IA en gran cantidad de centros de trabajo; lo que de facto convierte a la tecnología en un fin en si mismo y no un medio para la consecución de objetivos sociales; un producto que se basa en valores como el consumo, el ocio y el individualismo.

Contrario a lo que se cree, la IA no es sólo software que tiene por objetivo la resolución de problemas y tareas bajo lo que se denominaría un comportamiento “inteligente”, sino que conforma en sí mismo un sistema tecnológico, el cual no sólo se compone y depende de algoritmos e instrucciones codificadas, sino que depende de áreas técnicas y tecnológicas así como: la capacidad de procesamiento de información; instancias de transmisión de información; la capacidad de almacenamiento, control y orden de información y sus técnicas y métodos de análisis, entre otras. Así como también de instancias sociales, tal como  las empresas y actores que desarrollan, producen y evalúan la tecnología, los cuales usualmente incorporan ciertos valores y nociones a sus productos; sin mencionar el impacto de la sociedad en la producción y uso de la tecnología.

El caso de DALL-E-Mini es un buen ejemplo que el desempeño de la IA se impulsa a partir de varias instancias que van más allá del código con el que fueron diseñadas, ya que debido a que se encuentra en fase de entrenamiento y se alimenta de la interacción y uso de los usuarios, esto implica someter a dicho programa a múltiples manifestaciones de la naturaleza humana, no sólo aquellos aspectos positivos https://huggingface.co/spaces/dalle-mini/dalle-mini/discussions/2177; este suceso no es un hecho aislado, sino que hay otros ejemplos, tal como el chatbot de Microsoft que se volvió racista y antisemita después de alimentarse con datos e interacciones con usuarios de Twitter https://elpais.com/tecnologia/2016/03/24/actualidad/1458855274_096966.html.

En la misma línea de dependencia se encuentra también la IA LaMDA, este programa puso de manifiesto la predeterminación antropomórfica y la influencia humana que la tecnología despliega, en donde se repiten nociones meramente humanas (y subjetivas). La tecnología se alimenta y repite diversos rasgos humanos, no sólo como estrategia de propaganda, como el caso de la robot Sophia, un chatbot montado en un robot que ya hasta cuenta con ciudadanía y quiere tener “bebés” https://www.elfinanciero.com.mx/entretenimiento/2021/10/05/sophia-la-androide-de-ciudadania-saudi-quiere-tener-un-bebe/, sino que diversos sesgos sociales se hacen presentes a través de la IA, tal como es el caso del racismo https://towardsdatascience.com/racist-data-human-bias-is-infecting-ai-development-8110c1ec50c?gi=fcd80a35123f o la desigualdad económica https://www.aclu.org/news/privacy-technology/how-artificial-intelligence-can-deepen-racial-and-economic-inequities, https://www.theguardian.com/commentisfree/2022/jun/19/forget-sentience-the-worry-is-that-ai-copies-human-bias.

Por lo general, al considerar a la IA como un mero programa se oscurece el trasfondo y las eventuales responsabilidades que tienen distintas instancias en su naturaleza, desarrollo y funcionamiento, tales responsabilidades no son sólo del tipo técnico, sino que conllevan consideraciones de tipo económico, político y social, las cuales deben ser igualmente atendidas junto a los riesgos técnicos, ya que en el futuro de esto dependerá que se margine a cierto grupo de personas o se puedan vulnerar ciertos derechos.

Sin mencionar la influencia que ejercen figuras como Elon Musk https://www.cnbc.com/2021/08/24/elon-musk-warned-of-ai-apocalypsenow-hes-building-a-tesla-robot.html, Bill Gates https://www.cnbc.com/2018/02/16/bill-gates-artificial-intelligence-is-good-for-society.html o Mark Zuckerberg https://www.financialexpress.com/industry/technology/mark-zuckerberg-understanding-on-artificial-intelligence-is-limited-says-elon-musk/779015/, los cuales fuera de su visión y proyectos a futuro, se refieren a la tecnología como una herramienta o producto, cuya influencia depende en buena parte de cómo sea usada por el usuario, algo muy a la usanza del simplista argumento “la peligrosidad de las armas depende de quien y como se usen”, aún cuando se trate de tecnología diseñada para hacer más efectivo el matar y cuyo uso primigenio  configuró en buena parte el desenlace de muchas guerras, conflictos y el orden internacional en general, tal como sucedió con la conquista de América y la asimetría de sus artefactos tecnológicos.

Y así como ha pasado con la predominancia tecnológica en la guerra, la predominancia tecnológica en  IA va más allá de cómo se relaciona el usuario con la tecnología, sino que se asocia a un potencial de transformación profundo a nivel internacional, el cual se extenderá a áreas como la política, la economía y la sociedad. Dicha transformación no sólo será en las relaciones entre Estados, sino entre empresas y Estados, las cuales, en muchos casos, poseen más capacidades de poder digital y tecnológico que varias naciones y Estados.

En esta relación empresas-IA no sólo es importante evitar y criticar el nacimiento y crecimiento de monopolios, sino someter a escrutinio la implicación y consecuencias que tiene la producción empresarial de IA en sociedades y contextos en específico con dos objetivos en general:  revisar y eludir o minimizar los sesgos políticos, económicos y sociales implicados en la producción y funcionamiento de la IA; así como optar por opciones que prioricen la competencia, la transparencia, el código abierto y la privacidad de datos personales.

En conclusión: es importante someter a escrutinio y discusión a la tecnología de IA más allá del sensacionalismo de medios y los promocionales siempre optimistas de actores como las Big Tech; en este proceso es necesario tener en cuenta las diferentes fases e instancias participantes en la producción tecnológica y no sólo la interacción o expectativas del usuario hacia la tecnología, ya que tal preponderancia de estos temas oscurece una serie de responsabilidades e instancias que deben ser incluidas en los debates en torno a la IA y su implementación en la sociedad.