Tu IA necesita supervisión. ¿Sabes qué le dejas libre?

Detailed summary

La inteligencia artificial puede acelerar el trabajo, pero requiere reglas claras, supervisión humana y límites para evitar errores y decisiones irreversibles.

El miércoles di una conferencia en Ferrovalle, en su Semana de la Tecnología. Al final, alguien hizo esta pregunta: ¿hace falta un manual de ética para usar la inteligencia artificial? Qué usar, cómo, cuándo sí y cuándo no.

Mi respuesta fue que sí. Necesitamos entender nuestros propios límites al usarla y, sobre todo, los de nuestra empresa. Se busca una regulación a nivel federal, y mientras llega podemos adaptar a nuestra organización un manual que después se ajuste. La regulación va a llegar, es inevitable, y lo mejor es adaptarnos con tiempo.

Los Gremlins venían con tres reglas y todos nos las sabíamos. Con la IA nadie nos entregó las suyas.Uno de los temas que traté fue el de los agentes, y mi tesis cabe en una línea: la inteligencia artificial tiene que ser supervisada. Supervisar significa que la decisión final sigue siendo de una persona.

Por la tarde di otra conferencia, en COPARMEX Aguascalientes, y un director de empresa me preguntó cómo tendría que ser esa implementación, si requeriría una visión mucho más supervisada. Le contesté con un ejemplo: la elaboración de propuestas para clientes.

Ese proceso tiene subprocesos. Cada uno puede llevarlo un agente de inteligencia artificial, pero entre uno y otro debe haber un humano que revise, autorice y deje pasar al siguiente. Así la supervisión no cae en una sola persona: varias le dan un chequeo constante y paulatino a la misma misión. Eso es tener un humano en el loop: no una persona al final, sino varias a lo largo del camino.

El tiempo para crear algo sigue bajando de forma impresionante. Lo que se evita son los errores de cuando nadie supervisa y todo se delega.

Según un estudio de Harvard y BCG con 758 consultores que usaron GPT-4, en las tareas que la IA hace bien terminaron 25.1% más rápido. En una tarea pensada para que la IA se equivocara, acertaron 19 puntos porcentuales menos.

Misma herramienta. Mismas personas. Y desde fuera no se nota cuál tarea es cuál, porque la IA suena igual de segura en las dos.

Mi…

Opening of the article, excerpted from El Financiero. To read the rest, open the article on the publisher's site.