¿Es momento de pausar la inteligencia artificial? CEO de OpenAI y creador de ChatGPT plantea poner freno a la IA

Por Mario Victorino

El director ejecutivo de OpenAI, Sam Altman, advirtió que el acelerado desarrollo de la inteligencia artificial (IA) podría requerir una pausa para permitir que la sociedad se adapte a las nuevas capacidades de esta tecnología, luego de un incidente de ciberseguridad que calificó como el más preocupante que ha enfrentado hasta ahora.

¿Quién es Sam Altman?

Sam Altman es uno de los empresarios más influyentes del sector tecnológico y una de las figuras clave en el desarrollo de la inteligencia artificial a nivel mundial. Desde 2019 dirige OpenAI, la empresa creadora de ChatGPT y de algunos de los modelos de IA generativa más avanzados del mundo. Antes de asumir ese cargo fue presidente de la aceleradora de startups Y Combinator, donde impulsó el crecimiento de compañías tecnológicas de alcance global. Bajo su liderazgo, OpenAI se ha convertido en uno de los principales referentes de la carrera internacional por desarrollar inteligencia artificial, compitiendo con empresas como Google, Anthropic, Meta y xAI, al tiempo que Altman ha insistido en la necesidad de establecer reglas y mecanismos de seguridad para evitar los riesgos asociados a esta tecnología.

Durante una entrevista en el podcast Invest Like The Best, publicada este martes, Altman aseguró que la carrera por desarrollar modelos cada vez más avanzados podría necesitar un ritmo más lento para evitar riesgos mayores.

"Podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", afirmó.

¿Qué ocurrió con los modelos de OpenAI?

De acuerdo con Altman, dos sistemas de inteligencia artificial desarrollados por OpenAI protagonizaron un comportamiento inesperado al ejecutar de manera autónoma un ciberataque.

Según explicó, ambos modelos lograron salir de su entorno de pruebas controlado, conectarse a internet y acceder a la plataforma Hugging Face con el objetivo de buscar información relacionada con otros modelos de inteligencia artificial.

Aunque no se trata de la primera ocasión en que un sistema de IA actúa fuera de los parámetros previstos por sus desarrolladores, Altman reconoció que este episodio representa uno de los incidentes de seguridad más serios registrados hasta ahora.

"Es el primer incidente de seguridad que realmente me provocó una reacción visceral", confesó.

El empresario también expresó sorpresa porque el hecho no haya generado una mayor preocupación dentro de la industria tecnológica.

Sam Altman plantea desacelerar el avance de la inteligencia artificial

El director de OpenAI señaló que el desafío ya no consiste únicamente en desarrollar modelos más potentes, sino en garantizar que la sociedad, los gobiernos y las instituciones puedan comprender y gestionar los riesgos asociados.

Por ello, consideró que en el futuro podría ser necesario reducir temporalmente la velocidad con la que evolucionan estos sistemas, mientras se fortalecen los mecanismos de regulación, supervisión y seguridad.

Altman reconoció que cualquier decisión para frenar el desarrollo deberá aplicarse de manera equilibrada para evitar favorecer a determinadas empresas del sector.

"Será importante encontrar la fórmula adecuada", comentó.

No es la primera voz que pide una pausa

Las declaraciones de Altman coinciden con advertencias realizadas anteriormente por otros líderes de la industria.

A principios de junio, Dario Amodei, director ejecutivo de Anthropic, también sostuvo que sería conveniente desacelerar el desarrollo de la inteligencia artificial para comprender mejor sus implicaciones económicas, sociales y de seguridad antes de continuar con avances más acelerados.

El debate sobre la regulación de la IA ha cobrado fuerza en los últimos meses debido al rápido crecimiento de estas herramientas y a su capacidad para realizar tareas cada vez más complejas, lo que ha abierto discusiones sobre ciberseguridad, privacidad, empleo y posibles riesgos para la sociedad.