Injoys
Incluso quienes usan con soltura la IA generativa pueden perder el control de su propio pensamiento. En particular, quienes han logrado un alto rendimiento en el pasado tienden a confiar en fórmulas de éxito conocidas y pueden confundir fácilmente los resultados que la IA produce con rapidez con su propio juicio.
Sin embargo, la expresión «las personas competentes son las primeras en derrumbarse» no es una ley universal demostrada. La clave no es la competencia en sí, sino la vulnerabilidad que surge cuando se combinan el exceso de confianza en las capacidades existentes, la automatización sin verificación y la evasión de nuevos procesos de ensayo y error.
Qué significa «la trampa de la competencia»
La trampa de la competencia se refiere al estado en el que se cree que los conocimientos y procedimientos que funcionaron en el pasado seguirán siendo válidos en un entorno nuevo. Las personas expertas tienen más experiencia que las principiantes, pero precisamente por esa experiencia pueden subestimar las condiciones que han cambiado.
En un entorno de IA generativa, los problemas aparecen por las siguientes vías.
| Vía de riesgo | Cómo se manifiesta | Señal que se debe comprobar | Principio de respuesta |
|---|---|---|---|
| Fijación en la fórmula del éxito | Se repiten únicamente métodos que funcionaron antes | Las nuevas herramientas se usan solo para acelerar el trabajo existente | Se revisan de nuevo el propósito y las premisas del trabajo |
| Sesgo de automatización | Se da por sentado que las respuestas de la IA son correctas | Se entrega el resultado sin comprobar las fuentes ni los cálculos | Se establece un procedimiento de verificación independiente para cada afirmación importante |
| Amenaza a la identidad | El rendimiento de la IA se interpreta como una disminución del propio valor | Se responde con una evitación excesiva o acumulando certificaciones de forma indiscriminada | Las capacidades se desglosan no solo por puesto, sino también por definición de problemas, juicio y habilidades relacionales |
| Evasión del ensayo y error | Se elige únicamente la respuesta más rápida | Desaparecen los registros de fracasos y la observación sobre el terreno | Se repiten pequeños experimentos y se registran los resultados |
| Ilusión de aprendizaje | Se confunde la obtención de un resultado con su comprensión | Se producen bloqueos al intentar explicarlo o modificarlo | Se comprueba si puede reproducirse sin IA y si pueden crearse contraejemplos |
El caso de Kodak se utiliza con frecuencia para explicar la trampa de la competencia, pero hay que evitar simplificarlo. El hecho de que un ingeniero de Kodak desarrollara una de las primeras cámaras digitales no basta para explicar la crisis posterior de la empresa. Se trata de un caso empresarial complejo en el que intervinieron conjuntamente la transición tecnológica, la estructura de beneficios del negocio existente, la competencia y las decisiones de inversión y ejecución. La lección limitada que puede extraerse de este caso es que, más que «haber conocido primero una tecnología nueva», importa «si la organización respondió realmente a un cambio capaz de erosionar sus fortalezas existentes».
Externalización del pensamiento y descarga cognitiva
El fenómeno por el que una persona encomienda la memoria o los cálculos a herramientas externas se denomina descarga cognitiva. Las notas, las calculadoras y los motores de búsqueda también forman parte de ella. Por tanto, no puede afirmarse que el mero hecho de delegar algunas tareas en la IA constituya un deterioro intelectual.
La diferencia está en qué se delega y qué se conserva.
Delegación beneficiosa
- Se encomienda una clasificación preliminar de materiales extensos y después se consulta directamente el original.
- Se solicitan contraejemplos para una hipótesis propia.
- Se automatizan conversiones de formato repetitivas o la corrección de textos.
- Se generan varias opciones, pero los criterios finales y la decisión se establecen personalmente.
Delegación peligrosa
- Se encarga a la IA incluso la fase de decidir qué debe resolverse.
- Se entrega una respuesta que no se comprende tras limitarse a corregir su estilo.
- No se comprueban las fuentes de los hechos, los cálculos ni las citas.
- Se da prioridad a frases plausibles aunque no coincidan con la propia experiencia.
- Las expresiones seguras de la IA se aceptan como prueba de exactitud.
Para preservar la capacidad de pensamiento, hay que separar las tareas que debe realizar la persona antes y después de usar la IA. El principio básico es definir antes del uso los objetivos y los criterios de evaluación, y realizar después la verificación de los hechos y la toma responsable de decisiones.
¿Las respuestas de la IA convierten a las personas en «copias»?
Si varias personas hacen preguntas similares y utilizan sin cambios la primera respuesta, existe una alta probabilidad de que los resultados se parezcan. Como la IA generativa produce resultados estadísticamente adecuados a partir de los datos de entrenamiento y las instrucciones del usuario, ante solicitudes con poco contexto tiende a ofrecer estructuras y expresiones convencionales.
Sin embargo, cifras como «9 de cada 10 estudiantes dan la misma respuesta» no deben generalizarse sin una investigación específica. La similitud de los resultados varía según el modelo utilizado, el prompt, el tipo de tarea, el método de evaluación y el proceso de revisión.
Para crear resultados originales, más que prompts sofisticados hacen falta los siguientes materiales propios.
- Casos observados directamente y registros de fracasos
- Criterios propios de elección e intereses implicados
- Restricciones de un contexto específico
- Razones para discrepar de afirmaciones existentes
- Contraejemplos y condiciones prohibidas para evaluar los resultados
- Historial de edición en el que se hayan eliminado o reescrito borradores de la IA
La «originalidad» no es una señal de que no se haya usado IA en absoluto. Se manifiesta cuando puede explicarse qué problema se eligió, qué se observó y con qué fundamentos se aceptaron o descartaron las propuestas de la IA.
Lo que importa más que las preguntas que desconciertan a la IA
La distinción según la cual la IA solo ofrece respuestas estandarizadas y las personas solo son buenas planteando preguntas inesperadas es demasiado simplista. La IA generativa más reciente también puede trabajar con metáforas, idear propuestas, generar preguntas y sugerir hipótesis. A la inversa, las personas también pueden repetir respuestas conocidas.
El ejemplo de responder «las 3 que comió permanecen en su cuerpo» a la pregunta «si se comen 3 de 10 manzanas, ¿cuántas quedan?» es más un juego de palabras que cambia el sentido de «quedar» que una demostración de creatividad. Este tipo de idea puede ser útil, pero hay que distinguir entre la respuesta correcta a una cuestión factual y una reinterpretación creativa.
Una buena pregunta no es la que pone en apuros a la IA, sino la que revela una incertidumbre que vale la pena investigar o sobre la cual vale la pena actuar.
Preguntas de juez y preguntas de aprendiz
| Forma de preguntar | Ejemplo | Resultado previsto |
|---|---|---|
| De juez | ¿Quién arruinó este intento? | Puede quedar limitada a una disputa sobre responsabilidades |
| De aprendiz | ¿Qué premisa era errónea y qué podemos cambiar en el próximo experimento? | Explora causas y alternativas |
| De confirmación | ¿Qué pruebas respaldan mi opinión? | Puede reforzar el sesgo de confirmación |
| De refutación | ¿Qué observación demostraría que esta conclusión es errónea? | Aumenta la posibilidad de corregir el juicio |
| De cuestionamiento | ¿El indicador que estamos optimizando ahora representa el propósito real? | Revisa la definición del problema |
La afirmación de que el interés y el afecto pueden enriquecer las preguntas es un consejo filosófico útil. No obstante, la capacidad de preguntar también requiere conocimientos previos, observación, lógica, posibilidad de refutación y comprensión de las partes interesadas.
Quienes siguen manuales y quienes crean métodos
La IA ya está reduciendo el coste de diversas tareas, como resumir documentos, redactar borradores, generar código y clasificar materiales. En este contexto, resulta difícil diferenciarse únicamente por ejecutar con rapidez un manual.
Un método propio no surge solo por haber acumulado mucha experiencia. Hay que poder separar las condiciones y los resultados de esa experiencia para reutilizarlos en tareas posteriores.
- Escriba el problema que desea resolver y los criterios de éxito.
- Elija una variable que modificará respecto al método existente.
- Ejecútela a pequeña escala y compare el resultado previsto con el real.
- Busque las causas del fracaso en las condiciones y el proceso, no en la voluntad de las personas.
- Registre tanto los principios que podrá volver a utilizar como las condiciones en las que no deben aplicarse.
El ensayo y error no siempre es valioso. En ámbitos donde el coste del fracaso es elevado, como la seguridad física, la medicina, el derecho o la ciberseguridad, primero deben seguirse directrices verificadas y la supervisión de especialistas. Un método propio no es una aventura que ignora los principios, sino el resultado de acumular observaciones y experimentos dentro de los límites permitidos.
Cuándo hace falta parar más que perseverar
El consejo de no rendirse nunca puede ignorar la seguridad física, las pérdidas irreversibles o los cambios en las oportunidades. A la inversa, si se abandona cada vez que surge una dificultad, resulta difícil que se produzca un aprendizaje suficiente. Lo importante no es decidir si la perseverancia o el abandono son moralmente superiores, sino diseñar los criterios de interrupción antes de empezar.
En las siguientes condiciones debe considerarse una pausa o un cambio de rumbo.
- Surge un riesgo inmediato para la vida o la salud.
- La pérdida supera el límite fijado de antemano.
- Aparecen pruebas reproducibles de que una premisa esencial era errónea.
- La inversión adicional apenas aporta información.
- Se identifica una alternativa más segura y de menor coste.
- El objetivo ya no encaja con los propios valores o con la situación actual.
Interrumpir algo no borra el fracaso. Cuando se registra qué se aprendió y ante qué señal se cambiará de rumbo antes la próxima vez, la interrupción también se convierte en un activo de aprendizaje.
