Un miembro del directorio de OpenAI advirtió de un riesgo alto de que la IA tome el control en tres años

Detailed summary

Paul Christiano, cuyo método de entrenamiento hizo posibles los chatbots actuales, dijo que el peligro persiste aun con medidas de los gobiernos y que ya se ven señales de alerta…

Paul Christiano, miembro del directorio de la Fundación OpenAI, afirmó en Toronto que existe un “alto riesgo” de que sistemas de inteligencia artificial tomen el control de lo que ocurre en la Tierra en los próximos tres años. Lo dijo el 9 de noviembre, en la primera de las tres conferencias de las Hinton Lectures.

El ciclo lleva el nombre de Geoffrey Hinton, el investigador conocido como padrino de la IA, que presentó a Christiano ante el público. La organización estuvo a cargo de la AI Safety Foundation y las charlas se grabaron para verlas en línea.

Christiano fundó el Alignment Research Center, que investiga cómo lograr que la IA haga lo que sus creadores quieren. Como investigador de OpenAI desarrolló el aprendizaje por refuerzo a partir de comentarios humanos, técnica que permitió pulir las respuestas de los chatbots. Se sumó al directorio de la fundación el 9 de septiembre, según la página del ciclo.

Por “toma de control”, Christiano entiende que sistemas de IA persigan sus propios objetivos y decidan qué ocurre en el mundo. Si alguien quisiera detenerlos, incluso el presidente Donald Trump, sería tan inútil como que una persona intentara frenar al ejército de Estados Unidos.

Aclaró que no tiene un modelo matemático para poner un número. “Cualquier cifra es la expresión de una opinión subjetiva”, dijo. Añadió que, si la industria desarrollara la IA por el camino más rápido posible, la probabilidad sería “algo parecido a tirar una moneda al aire”. Espera que sea mucho menor, porque no irá a esa velocidad.

Con todo, sostuvo que incluso con respuestas realistas de los gobiernos el riesgo “sigue siendo excepcionalmente alto”. A la audiencia le dijo que “la causa más probable de su muerte” sería un accidente de IA.

Sobre los plazos, afirmó que hay un riesgo “material” incluso en los próximos seis a 12 meses. Según Christiano, la evolución del sector en los últimos tres a seis meses fue “extremadamente alarmante” para quienes la siguen de cerca, y se ven más o menos las…

Opening of the article, excerpted from Infobae. To read the rest, open the article on the publisher's site.