La inteligencia artificial y el límite de lo humano

Detailed summary

El progreso no consiste en construir máquinas que decidan todo, sino en asegurar que ninguna decida por nosotros sobre la vida, la dignidad y el destino ...

No hace falta imaginar a Skynet, la inteligencia artificial creadora de Terminator en la exitosa película del mismo nombre, para entender que esta discusión dejó de pertenecer a la ciencia ficción. La IA ya interviene en el trabajo y en decisiones cotidianas. La pregunta es quién la controla y bajo qué reglas.

El senador progresista Bernie Sanders presentó en septiembre, junto con el congresista Greg Casar, una iniciativa para prohibir la superinteligencia artificial y pausar el desarrollo de sistemas avanzados hasta contar con pruebas de seguridad y supervisión pública. También propone acuerdos internacionales para impedir que esa tecnología avance sin controles.

La preocupación es compartida: 1,386 trabajadores del sector pidieron acompasar la investigación automatizada con nuestra capacidad para comprenderla y controlarla. No hay evidencia -todavía- de que una IA haya adquirido conciencia o se reproduzca por voluntad propia. El riesgo es que sistemas cada vez más autónomos ejecuten tareas y aceleren investigaciones con supervisión insuficiente.

La película documental NAZA lleva esta discusión a un terreno estremecedor: la guerra en Gaza. Mediante testimonios de 24 militares y miembros de inteligencia israelíes, expone denuncias sobre sistemas como Lavender, utilizados para identificar objetivos, y revisiones humanas que podían reducirse a segundos. El ejército israelí rechaza esas acusaciones y afirma que la selección y aprobación de ataques corresponde a personas. Investigaciones periodísticas previas ya habían recogido testimonios similares sobre Lavender.

Cuando bombardear una vivienda se convierte en una operación remota y rutinaria, casi como de un videojuego, aumenta el riesgo de mayor deshumanización. Una familia —niños, mujeres y adultos mayores— puede quedar reducida a una cifra de “daño colateral”. La distancia de una pantalla puede debilitar la percepción de las consecuencias; no elimina la responsabilidad de quienes autorizan y ejecutan el ataque.

El papa…

Opening of the article, excerpted from Milenio. To read the rest, open the article on the publisher's site.