Gazeta Lodz - Experto en computación advierte que carrera de la IA amenaza supervivencia humana

Russell, profesor en la Universidad de California, en Berkeley, afirmó que los líderes de las mayores compañías de IA del mundo son conscientes de los peligros que representan los sistemas superinteligentes, capaces algún día de superar a los humanos.

Según él, la responsabilidad de salvar a la especie recae en los líderes mundiales que pueden actuar de manera colectiva.

"Permitir que entidades privadas jueguen esencialmente a la ruleta rusa con cada ser humano en la Tierra es, en mi opinión, un abandono total del deber", declaró Russell, voz prominente en seguridad de IA.

Países y empresas están invirtiendo cientos de miles de millones de dólares en construir centros de datos de alto consumo energético para entrenar y ejecutar herramientas de IA generativa.

Esta tecnología, que se desarrolla a gran velocidad, promete beneficios como el descubrimiento de fármacos, pero también podría provocar pérdida de empleos y el abuso en línea.

Además existe el riesgo de que "los propios sistemas de IA tomen el control y la civilización humana sea un daño colateral en ese proceso", señaló Russell en una entrevista durante la AI Impact Summit en Nueva Delhi.

"Creo que cada uno de los presidentes de las principales compañías de IA quiere desarmar (detener el progreso de la IA), pero no puede hacerlo de manera unilateral, porque los inversionistas los despedirían", añadió.

"Algunos lo dijeron públicamente y otros me lo confesaron en privado", indicó, señalando que incluso Sam Altman, director de la empresa creadora de ChatGPT, OpenAI, declaró en público que la IA podría llevar a la extinción humana.

OpenAI y la startup estadounidense rival Anthropic registraron renuncias públicas de empleados que expresaron sus preocupaciones éticas.

Anthropic también advirtió la semana pasada que sus últimos modelos de chatbot podrían ser "influenciados para apoyar, de manera consciente pero limitada, esfuerzos hacia el desarrollo de armas químicas y otros crímenes atroces".

- Imitadores humanos -

Reuniones internacionales como la cumbre de IA de esta semana ofrecen una oportunidad para regular la tecnología, aunque sus tres ediciones anteriores solo lograron acuerdos voluntarios por parte de las empresas tecnológicas.

"Realmente ayuda que cada uno de los gobiernos comprenda este asunto. Y por eso estoy aquí", afirmó Russell.

India espera que la cumbre de cinco días sobre IA, a la que asisten jefes de empresas tecnológicas y decenas de delegaciones nacionales de alto nivel, le permita avanzar en el sector.

El ministro indio de Información y Tecnología, Ashwini Vaishnaw, declaró el martes que el país espera más de 200.000 millones de dólares en inversiones en IA durante los próximos dos años, incluidos unos 90.000 millones ya comprometidos.

Los temores de que las herramientas de asistencia por IA provoquen despidos masivos en los mayores sectores de atención al cliente y soporte técnico de India hicieron que las acciones de las empresas de "outsourcing" del país se desplomaran en los últimos días.

"Estamos creando imitadores humanos. Y la aplicación natural para ese tipo de sistemas es reemplazar a los humanos", insistió el experto.

Russell percibe un creciente rechazo a la IA, "particularmente entre los jóvenes".

"Ellos realmente están reaccionando contra los aspectos deshumanizantes de la IA. Cuando la IA asume todas las funciones cognitivas —capacidad de responder una pregunta, tomar una decisión, elaborar un plan, etc— convierte a las personas en menos que seres humanos. Los jóvenes no quieren eso", subrayó.

H.Szczepanski--GL