Alguien lo envuelve en una interfaz fácil de usar, construye una empresa a su alrededor y declara que una industria entera está a punto de ser trastocada.
Durante un tiempo, puede parecer así. Pero una vez que la misma capacidad se vuelve ampliamente disponible, la ventaja comienza a desaparecer. Lo que parecía una disrupción puede resultar ser solo otra característica más.
La IA puede hacer que la ejecución sea más rápida, más barata y más fácil. Pero cuando los mismos modelos y capacidades están al alcance de todos, el acceso a la tecnología rara vez es una ventaja duradera.
La verdadera ventaja surge de cómo las personas la aplican dentro de una organización.
La IA no entiende la organización
Un modelo puede entender programación, finanzas, marketing o atención al cliente. Pero no entiende automáticamente por qué una organización funciona como lo hace.
¿Qué decisiones heredadas crearon los sistemas actuales?
¿Qué requisitos de los clientes son genuinamente innegociables?
¿Qué procesos se introdujeron debido a fallos anteriores?
¿Qué objetivos parecen razonables en una hoja de cálculo pero son casi imposibles de alcanzar en la práctica?
¿Qué restricciones legales, de seguridad, operativas o comerciales importan en el ámbito?
Este conocimiento rara vez está disponible en un solo lugar completo y fiable. Puede existir disperso entre personas, sistemas, documentos, conversaciones y decisiones pasadas.
A menudo lo llamamos conocimiento tribal. Gran parte de él puede y debe documentarse, pero la documentación por sí sola no resuelve el problema.
El RAG y el ajuste fino pueden ayudar a los modelos a acceder al conocimiento organizacional. Pero no pueden garantizar que la información sea completa, actual, relevante o se aplique correctamente.
Las personas siguen siendo necesarias para reconocer contexto faltante, manejar casos límite, cuestionar suposiciones y validar resultados.
Más importante aún, las personas deben emitir juicios que van más allá de lo que estos sistemas pueden respaldar de manera fiable.
La revisión no se trata solo de corregir errores de la IA
Los modelos de lenguaje grandes pueden producir información incorrecta sin reconocer que es incorrecta.
La respuesta habitual es añadir un revisor humano que verifique la salida. Pero revisar la salida de la IA debería implicar más que corregir errores fácticos.
Alguien que entienda el dominio y la organización puede:
- Aplicar la lógica organizacional
- Reconocer casos especiales
- Identificar información faltante
- Comprender el costo de un error
- Evaluar riesgos comerciales, legales y de seguridad
- Reconocer cuándo la IA se está utilizando para el problema equivocado
- Mejorar el prompt, el flujo de trabajo o el sistema para uso futuro
A través de este proceso, las personas hacen más que corregir al modelo. Hacen que la organización sea más capaz.
Los humanos no son un accesorio del sistema de IA.
Son parte del sistema.
Los modelos cambian, pero la organización debe seguir funcionando
Los modelos de IA se actualizan constantemente.
Un modelo más nuevo puede tener mejor razonamiento pero peor tono, formato o comportamiento en el uso de herramientas. Una API puede cambiar. Una función puede eliminarse. Un modelo puede retirarse.
También existen riesgos asociados a depender en gran medida de un solo proveedor.
Los precios pueden aumentar. Las políticas de uso pueden cambiar. Las funciones pueden dejar de estar disponibles. Un modelo que funciona bien hoy puede no ser adecuado seis meses después.
Una organización que ha optimizado sus procesos en torno a un modelo en particular puede verse gravemente afectada si carece de experiencia interna.
Un equipo competente puede reducir este riesgo al:
- Comprender cómo funciona el sistema
- Evaluar nuevas versiones de modelos
- Probar cambios antes de la implementación en producción
- Supervisar la calidad de la salida
- Adaptar prompts y flujos de trabajo
- Comparar modelos alternativos
- Reducir la dependencia de un solo proveedor
Cuando un modelo se vuelve demasiado caro, poco fiable o inadecuado, el equipo debería poder migrar con una interrupción limitada.
Sin esa capacidad, la organización no está empoderada por la IA.
Está dependiente de ella.
La automatización total puede crear nuevos riesgos
Los humanos no necesitan seguir involucrados en cada paso rutinario.
Pero eliminar a las personas de un proceso simplemente porque se puede automatizar puede crear un sistema más peligroso.
Muchos productos de IA dependen de modelos, bibliotecas, API, herramientas, plugins y fuentes de datos externos.
Cualquiera de estos puede convertirse en un punto de fallo debido a:
- Una dependencia vulnerable o comprometida
- Datos incorrectos o envenenados
- Un documento malicioso
- Inyección de prompt
- Un jailbreak
- Permisos excesivos
- Uso incorrecto de herramientas
- Un malentendido de lo que el sistema puede hacer de forma segura
Cuantas más capas haya entre la persona responsable y el trabajo que se realiza, más oportunidades hay de que algo salga mal.
El software tradicional sigue instrucciones predefinidas.
Los sistemas de IA interpretan instrucciones.
Esa diferencia importa.
La validación de entrada, el control de acceso, el registro, la supervisión, la auditoría y los flujos de trabajo de aprobación siguen siendo necesarios. Pero ahora deben tener en cuenta sistemas que pueden interpretar lenguaje no confiable y tomar acciones basadas en esa interpretación.
La respuesta no es evitar la automatización.
Es definir claramente quién es dueño del sistema, quién entiende sus riesgos y quién es responsable cuando algo sale mal.
La elección no es entre humanos e IA.
La verdadera pregunta es dónde debe permanecer la responsabilidad humana.
Ambos extremos del debate sobre la IA son engañosos
Un lado afirma que la IA reemplazará por completo el trabajo humano.
El otro asume que la IA tendrá un impacto significativo mínimo.
Ambas visiones son demasiado simplistas.
La IA automatizará algunas tareas, eliminará algunos roles, creará otros nuevos y cambiará significativamente muchos más.
Permitirá que equipos más pequeños realicen trabajos que antes requerían equipos mucho más grandes.
Pero eso no hace que las personas sean menos importantes.
Les da a las personas restantes más responsabilidad.
A medida que la IA hace que la ejecución sea más rápida y barata, el valor del juicio aumentará.
La IA puede respaldar decisiones y automatizar partes del proceso de toma de decisiones. Pero la responsabilidad y la rendición de cuentas no pueden simplemente transferirse a un modelo.
El capital humano no se trata de preservar los puestos de trabajo tal como están
Invertir en personas no significa proteger cada rol, proceso o forma de trabajar existente.
Significa desarrollar personas que puedan adaptarse a nuevas circunstancias y contribuir al éxito a largo plazo de la organización.
Las personas más valiosas pueden no ser simplemente aquellas cuyos trabajos actuales parecen más seguros frente a la automatización.
Pueden ser las personas que pueden combinar:
- Conocimiento del dominio
- Contexto organizacional
- Comprensión del cliente
- Habilidad técnica
- Buen juicio
- Conciencia del riesgo
- La capacidad de usar la IA de manera efectiva
Las organizaciones no solo deberían preguntarse:
"¿A cuántas personas podemos reemplazar con IA?"
También deberían preguntarse:
- ¿Cómo puede la IA ayudar a que nuestras personas sean mejores en su trabajo?
- ¿Qué conocimiento organizacional debemos retener?
- ¿Quién entiende el sistema en su conjunto?
- ¿Quién puede tomar decisiones difíciles cuando sea necesario?
- ¿Cómo evaluarán las personas las recomendaciones generadas por IA?
- ¿Cómo se asignará la responsabilidad cuando la IA tome una acción?
- ¿Cómo aseguramos que nuestros equipos puedan adaptarse cuando la tecnología cambie?
Estas preguntas determinan si la IA se convierte en una herramienta de eficiencia a corto plazo o en una capacidad organizacional a largo plazo.
La verdadera ventaja
La IA puede reducir el valor de la ejecución rutinaria mientras aumenta el valor del juicio.
Puede hacer que algunos roles sean innecesarios, pero también puede hacer que las personas adecuadas sean mucho más capaces.
Las organizaciones que más se benefician de la IA no se limitarán a automatizar todo lo posible.
Usarán la IA para hacer que sus personas sean más efectivas.
Automatizarán el trabajo donde la velocidad, la consistencia y la escala importan.
Mantendrán una propiedad humana clara donde el contexto, el riesgo, el juicio y la rendición de cuentas importan.
Las personas no deberían perder tiempo haciendo trabajo que la IA puede realizar de manera fiable.
Al mismo tiempo, la IA no debería tomar decisiones que requieran contexto humano, responsabilidad o rendición de cuentas.
Saber dónde se encuentra ese límite seguirá siendo un problema humano.
Cuando todos tengan acceso a la IA, el modelo en sí mismo no será la ventaja. Las personas que sepan cómo, dónde y cuándo usarlo lo serán.
