OPINIÓN

*_{Escribe Mariana Gonzalez, especialista en Computación Científica, Fac. Ciencias Exactas UBA. MBA, ITBA.}

Lectura: 4 minutos

«Una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable», así se expresaron en una carta abierta más de mil dueños de empresas, ejecutivos, académicos y expertos en inteligencia artificial.

En general, las sociedades son neofóbicas, del griego, néos (nuevo) y fobos (miedo), y la historia nos muestra muchos ejemplos al respecto. Pero en este caso la gente está mirando a la inteligencia artificial con curiosidad, tranquilizándose porque siempre va a haber una lógica detrás creada por el hombre y porque cree que es a largo plazo.

Pero esta vez, las voces que se levantaron son las de, entre muchos otros, Elon Musk (dueño de Twitter y Tesla), Yuval Noah Harari (historiador),  Emad Mostaque (director ejecutivo de la firma Stability AI), Steve Wozniak (cofundador de Apple), Jaan Tallin (cofundador de Skype), investigadores de la firma DeepMind y muchos otros.

La carta se presentó en el Future of Life Institute, y en ella se pide una pausa real y verificable de seis meses en el desarrollo de la inteligencia artificial aceptada por todos los actores claves, «si esta pausa no llega rápidamente, los Gobiernos deberían dar un paso al frente e imponerla».

La Unión Europea está preparando una regulación sobre la inteligencia artificial conocida como la Artificial Intelligence Act, basada en niveles de riesgo. Las IA utilizadas para video juegos van a ser menos reguladas. Las llamadas «de riego inaceptable», por ejemplo, los sistemas de puntuación social y los de identificación biométrica en espacios públicos, serán prohibidas. Las de «alto riesgo», vehículos autónomos, medicina, maquinarias, sometidas a un control riguroso… todo muy naif.

Cuando sus funcionarios terminen la evaluación de los riesgos de un producto, la velocidad de desarrollo de estas tecnologías ya lo va a haber hecho obsoleto y creado versiones nuevas y más avanzadas… a menos que todos pausen sus desarrollos. Por ahora se encuentra en debate en el Parlamento europeo desde finales de 2022… todo muy lento.

Entre sus párrafos, casi apocalípticos, leemos: «La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes», «Desafortunadamente, este nivel de planificación y gestión no está sucediendo». «¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, dejarnos obsoletos y reemplazarnos?».

La carta la presentaron dos semanas después del lanzamiento del programa GPT-4 de la empresa estadounidense OpenAI, versión mucho más avanzada del Chat GPT (Transformador Generativo Pre-entrenado), herramientas que imitan conversaciones entre personas, aplicación que consiguió millones de usuarios usándola en muy corto tiempo. OpenAi no realizó ningún comentario con respecto a esa carta. Elon Musk fue cofundador de esa empresa, la abandonó en 2018 y actualmente es un gran crítico de la misma.

El desarrollo de la inteligencia artificial es la nueva meta de las grandes compañías tecnológicas. OpenAI, Microsoft y Google están a la vanguardia, la siguen IBM, Amazon, Alphabet, Baidu, Tencent y muchas otras nuevas empresas creadas a ese efecto… todo muy rentable.

Terminan la carta pidiendo «los sistemas potentes y de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales»…  todo muy obvio.

Es muy difícil no pensar en el nivel de ingenuidad que se necesita para creer que todas las naciones, de todos los hemisferios y sus empresas vayan a obedecer una recomendación así. Y lo peor que nos puede pasar es que muchas lo acepten y quedemos en manos de unos pocos.

*_{Mariana Gonzalez
Computación Científica, Fac. Ciencias Exactas UBA
MBA ITBA
Empresaria en Argentina y Uruguay en empresas de tecnología.}

Otro artículo escrito por Mariana Gonzalez: El futuro de las computadoras (I)