Creador de ChatGPT reconoce que la IA podría “dañar al mundo”
Este martes, el CEO de OpenAI, Sam Altman instó a los legisladores a regular la inteligencia artificial durante la audiencia en el senado, describiendo como un potencial “momento histórico”, pero requiere garantías.
"Creemos que la intervención reguladora de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más potentes", resaltó Altman en su intervención inicial ante una subcomisión judicial del Senado.
Cabe resaltar que, la comparecencia de Altman se da después de que el éxito viral de ChatGPT, herramienta de chatbot de una empresa, renovara una carrera en torno a la IA y despertara la preocupación de algunos legisladores por los riegos que plantea la tecnología.
Asimismo, el senador Richard Blumenthal abrió la audiencia con una grabación falsas de su propia voz, como ejemplo de los riegos de la tecnología, pues se incluía en la grabación comentarios escritos por ChatGPT y audio de la voz de Blumenthal, hecho a partir de sus intervenciones reales en el pleno, argumentaba que no se puede permitir que la IA se cree en un entorno no regulado.
Pues, aunque ChatGPT reflejaba fielmente las opiniones del legislador real, podría producir con la misma facilidad, "un respaldo a la rendición de Ucrania o al liderazgo de Vladimir Putin". Eso, dijo, "habría sido realmente aterrador".
Hay que resaltar que, una lista de empresas tecnológicas han desplegado nuevas herramientas de IA en los últimos meses, con el potencial de cambiar la forma en que trabajamos, compramos e interactuamos, pero estas también han suscitado críticas de algunos de los nombres más importantes de la tecnología por su potencial para perturbar millones de empleos o difundir información errónea.
Altman dijo que la posibilidad de que la IA se utilice para manipular a los votantes y desinformar están entre "mis áreas de mayor preocupación", especialmente porque "vamos a enfrentarnos a unas elecciones el año que viene y estos modelos son cada vez mejores".
Este martes, dijo que una forma en que el Gobierno de Estados Unidos podría regular la industria es creando un régimen de licencias para las empresas que trabajan en los sistemas de IA más potentes. Esta "combinación de requisitos de licencias y pruebas", dijo Altman, podría aplicarse al "desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades".
Te puede interesar: Guillermo Lasso decreta la disolución del Parlamento para evitar su posible destitución
Asimismo, testificarán este martes Christina Montgomery, vicepresidenta y directora de privacidad y confianza de IBM, y Gary Marcus, exprofesor de la Universidad de Nueva York y autodenominado crítico de la "exageración" de la IA.
Por otro lado, Montgomery advirtió contra la creación de una nueva era de "moverse rápido y romper cosas", el mantra de siempre de gigantes de Silicon Valley como Facebook. "La era de la IA no puede ser otra era de 'moverse rápido y romper cosas'", dijo Montgomery a los legisladores. Aun así, dijo, "tampoco tenemos que frenar la innovación".
"Habrá un impacto en el empleo", dijo Altman a Blumenthal. "Intentamos ser muy claros al respecto, y creo que será necesaria la colaboración entre la industria y el gobierno, pero sobre todo la acción del gobierno, para averiguar cómo queremos mitigarlo. Pero soy muy optimista sobre lo grandes que serán los empleos del futuro".
Sin embargo, Altman, quizá más que ninguna otra figura, se ha convertido en el rostro de una nueva generación de productos de IA capaces de generar imágenes y textos en respuesta a las indicaciones de los usuarios, ya que, sus declaraciones se producen días después de reunirse con más de 60 legisladores de la Cámara de Representantes durante una cena, donde hizo una demostración de varios usos de ChatGPT "para gran diversión", según una persona de la sala que describió a los legisladores como "fascinados" por el evento.
Aunado a lo anterior, la mayoría de los asistentes coincidieron que será necesaria una regulación de la inteligencia artificial.
Ro Khanna, representante demócrata por California y cuyo distrito incluye Silicon Valley, dijo que Altman subrayó durante la cena que la IA es una herramienta, no una "criatura", y que la IA "puede ayudar con tareas, no con empleos".
"La contribución más útil de Altman fue rebajar la exageración", dijo Khanna a CNN.
Un ejemplo de cómo la IA ha irrumpido en el Congreso, la Comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado celebraba una audiencia separada y simultánea sobre el uso de la inteligencia artificial en el gobierno.
Te puede interesar. Estados Unidos: mujer se arranca los ojos con sus propias manos al consumir metanfetamina
A principios de este mes, Altman fue uno de los varios CEO de tecnología que se reunieron con la vicepresidenta Kamala Harris y, brevemente, con el presidente Joe Biden, como parte de los esfuerzos de la Casa Blanca por subrayar la importancia del desarrollo ético y responsable de la IA.
En tanto, en las entrevistas de este año, Altman se ha presentado como alguien consciente de los riesgos que plantea la IA, “un poco asustado”, por la tecnología, él y su empresa se comprometieron a avanzar de forma responsable.
Sin embargo, hay quienes prefieren que Altman y OpenAI actúen con cautela. Elon Musk, que ayudó a fundar OpenAI, se unió a docentes de líderes tecnológicos, profesores e investigadores para firmar una carta donde se pide a los laboratorios de IA que detengan el entrenamiento de los sistemas de IA más potentes durante al menos seis meses, "profundos riesgos para la sociedad y la humanidad"
Por último, Altman reconoció estar de acuerdo con partes de la carta, "Creo que moverse con cautela y un rigor cada vez mayor para las cuestiones de seguridad es realmente importante", dijo el mes pasado. "La carta no creo que fuera la forma óptima de abordarlo".
Con información de CNN Español
*ARD
