Los peligros de IA, escribe Mariana Gonzalez

OPINIÓN

50375802637_b4cf4e7eac_c
Foto: Peace,love,happiness from Pixabay

*Escribe Mariana Gonzalez, especialista en Computación Científica, Fac. Ciencias Exactas UBA. MBA, ITBA.

Lectura: 6 minutos

Geoffrey Hinton, es uno de los pioneros en el desarrollo de la inteligencia artificial, tecnología base de los chatbots (softwares capaces de mantener una conversación en tiempo real por texto o por voz como si fuera un ser humano pensante) como el ChatGPT y sobre todo el próximo ChatGPT 4, tan esperado y temido. 

Con más de diez años trabajando en el tema en Google, renuncia a su empleo y advierte sobre potenciales riesgos que dicha tecnología puede acarrear.

Esto ocurre, pocos días después que Elon Musk, empresario muy vinculado con el desarrollo de la inteligencia artificial, en una entrevista con Fox News, se pronunció «… por pequeña que sea la probabilidad, pero no es trivial, tiene el potencial de destrucción de la civilización. Cualquiera que piense que el riesgo es 0% es un idiota».

Hinton informó su renuncia y el porqué de la misma a través del New York Times y a través de tuits «Me fui para poder hablar sobre los peligros de la IA sin tener en cuenta cómo esto afecta a Google».

Cuatro días antes, había explicado sus temores al MIT Technology Review.

Analicemos algunas de sus declaraciones a ambos medios de comunicación, uno de interés general y el otro de temas específicos de tecnología.

«Hay muchas cosas buenas sobre Google que quiero decir, y son mucho más creíbles si ya no estoy dentro».

Google le había pagado a él y sus socios 44 millones de dólares por la empresa que habían creado y desarrollado las redes neuronales, madre de la inteligencia artificial.

«De repente, he cambiado de opinión sobre si estas herramientas van a ser más inteligentes que nosotros. Creo que ahora están muy cerca de serlo, y en el futuro serán incluso más inteligentes que nosotros. ¿Cómo sobreviviremos a eso?».

En un discurso de apertura en el Instituto Indio de Tecnología de Bombay, en 2021, señaló «Creo que el rápido progreso de la IA va a transformar la sociedad de formas que no comprendemos del todo y no todos los efectos van a ser buenos» y alertó que la IA ayudará a la atención sanitaria pero también creará armas autónomas letales. «Esta perspectiva me parece mucho más inmediata y mucho más aterradora que la de que los robots tomen el control, que creo que está muy lejos». Evidentemente no fue tan de repente.

«Me estoy haciendo demasiado viejo para hacer trabajos técnicos que requieren recordar muchos detalles. Todavía estoy bien, pero no soy tan bueno como era antes, y eso me molesta».

Las razones de la renuncia pueden ser varias, las hay más convencionales como ésta y otras más trascendentes como predecir el futuro de la humanidad.

«Pensar que la superinteligencia va a ser buena o mala depende de si uno es optimista o pesimista».

Se esperaría de un científico como Hinton un poco más de profundidad.

«Podría salir mal de la siguiente manera: muchas de las personas que quieren utilizar estas herramientas son malos, como Putin o DeSantis. Quieren usarlas para ganar guerras, o manipular al electorado» «No pienses, ni por un momento, que Putin no fabricaría robots hiperinteligentes con el objetivo de matar ucranianos. No lo dudaría».

La geopolítica y la aversión a ciertos políticos republicanos se inmiscuyen.

Microsoft dotó a su motor de búsqueda Bing con un chatbot, desafiando a Google como buscador, su negocio principal por lo que se desató una carrera entre los dos gigantes tecnológicos que «podría ser imposible de detener».

Aparece la guerra comercial, donde los intereses no pasan por la gente y donde los gobiernos no saben o no quieren regular y controlar.

Hinton alertó, además, acerca de cómo la AI revolucionará el mercado laboral.  En vez de complementar a los humanos cree que van a reemplazarlos en numerosas tareas rutinarias. «Se quita el trabajo pesado», pero «podría quitar más que eso».

Se va a dar un reacomodamiento de funciones, como siempre hubo desde la revolución industrial, ante avances tecnológicos que provocan cambios económicos, sociales y culturales y que desencadenan alteraciones profundas en nuestra forma de vida. 

Muestra, además, su preocupación por que internet se va a llenar de fotos, videos y textos falsos, y una persona promedio «ya no podrá saber qué es verdad».

Esta muy lamentable verdad se está dando, con AI o sin ella. Cualquiera puede decir lo que quiera y saber disfrazarlo con visos de seriedad para ser creído. 

«Creo que hasta que hayan entendido si pueden controlarlo, no deben desarrollar más esto».

Demasiado naif para una mente como la de Hinton.

«Me consuelo con la excusa habitual: si no lo hubiera hecho yo, lo habría hecho otro».

La mayor esperanza de Hinton es que los principales científicos del mundo colaboren en encontrar formas de controlar esta tecnología. 

La mayor esperanza de la humanidad es que tengamos la capacidad suficiente para adecuarnos como cuando se desarrolló la energía atómica que trajo grandes beneficios y grandes calamidades, tenemos la bomba pero también la resonancia magnética. Aprovechémosla para superar retos globales como el cambio climático o las crisis sanitarias.

Una cita de Stephen Hawking al respecto, hace ya varios años: «Podemos enfrentarnos a una explosión de inteligencia que, en última instancia, resulte en máquinas cuya inteligencia supere a la nuestra en más de lo que la nuestra supera a la de los caracoles».

Y esto recién comienza.

*Mariana Gonzalez
Computación Científica, Fac. Ciencias Exactas UBA
MBA ITBA
Empresaria en Argentina y Uruguay en empresas de tecnología.

Otro artículo escrito por Mariana Gonzalez: Nuevas plantas de energía geotermal

Anuncio publicitario

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s